Vers un numérique responsable
Repensons notre dépendance aux technologies digitales
De Vincent Courboulay, aux éditions Actes Sud (Domaine du possible).
Pour représenter le numérique, l’auteur évoque d’emblée le dieu romain Janus, une entité à deux visages, avec une face tournée vers le passé et l’autre vers l’avenir. Il s’agit là de symboliser les deux faces du numérique, l’une séduisante, irrésistible, passionnante, efficace, porteuse d’espoir, puissante comme un dieu, et de l’autre, plus sombre, celle de la fuite en avant, du consumérisme, du gaspillage, de la perte des valeurs, de l’abrutissement, de la dépendance et de l’épuisement des ressources naturelles.
Dans ce livre à l’esprit scientifique mais bien vulgarisé, on commence par de l’histoire pour mieux comprendre où nous nous trouvons actuellement. Finalement, le numérique est une évolution de l’automatisation qui a commencé il y a plusieurs siècles. Mais cette évolution s’accélère de sorte que nous n’avons plus le temps de digérer ces changements au niveau sociétal.
On nous rappelle ensuite que le monde numérique n’est pas si dématérialisé que cela. Toute l’infrastructure permettant de voir une vidéo, envoyer un courriel ou lancer une visio conférence, nécessite une quantité faramineuse de ressources naturelles extraites du sol ainsi que d’énergie. Les appareils ainsi créés sont rendus rapidement obsolètes et se révèlent fort peu recyclables. Et cela sans compter les conditions sociales souvent atroces des travalleur·euse·s impliqué·e·s dans la fabrication (en particulier en Afrique et en Asie). Des initiatives institutionnelles ont été mises en place, mais elles se révèlent souvent largement insuffisantes.
L’auteur met ensuite le doigt sur l’e-sclavage moderne (les travailleurs du clic) et l’économie indigne des plateformes. Il enchaîne sur les dangers des monnaies cryptographiques, poursuit par l’insoutenable capitalisme de surveillance et termine par des conseils pratiques pour que chacun·e puisse s’engager à son niveau dans un numérique plus responsable.
Un regard particulièrement critique est posé sur ce qui est incorrectement appelé intelligence artificielle. Tous les acteurs, institutionnels et privés, s’activent pour proposer des régulations du domaine. Quand Google ou Microsoft s’attellent à la tâche, on peut s’attendre à des règles plutôt consensuelles et peu contraignantes (appelé parfois TechForGoodWashing, par analogie au GreenWashing dans le domaine environnemental), destinées à rassurer le grand public et à permettre un développement accéléré du secteur en limitant les garde-fous. Nous sommes cependant très loin des trois (ou quatre) lois de la robotique d’Asimov, proposées dans ses romans pour réguler l’ensemble des acteurs et viser la protection de l’humanité (lois qui restent largement imparfaites).
L’auteur mentionne en outre les 10 principes de la déclaration de Montréal, une charte destinée justement à poser une fondation éthique, pour le développement de l’intelligence artificielle. Les voici résumés :
- Principe de bien-être
- Principe de respect de l’autonomie
- Principe de protection de l’intimité et de la vie privée
- Principe de solidarité
- Principe de participation démocratique
- Principe d’équité
- Principe d’inclusion et de diversité
- Principe de prudence
- Principe de responsabilité
- Principe de développement soutenable
Dans le cas d’armes autonomes, les algorithmes de prises de décisions de tuer seraient ainsi confrontés en priorité aux principes 8 et 9. Peut-on pour autant accepter ces systèmes ? Et quelque soit le système soit-disant intelligent, s’il est produit et vendu en masse, il se heurterait au principe 10, dans le sens où la prolifération de systèmes numériques, quels qu’ils soient, n’est matériellement pas soutenable.
Cette déclaration est sans doute fondamentale. Il reste à savoir comment les États ou les institutions supra-nationales pourront encadrer les développements de l’intelligence artificielle dans le respect de cette déclaration, ce qui n’est de loin pas gagné.