Nos vies sont de plus en plus dépendantes de l’Intelligence Artificielle sans que nous en mesurions à la fois la nature et les enjeux. Ce petit livre synthétique, très bien construit, accessible, écrit par un groupe d’experts, a pour ambition de nous introduire au sujet et de nous donner une vision globale de tous les aspects couverts par les IA afin de mieux comprendre notre monde et surtout le monde qui vient. La révolution technologique que nous vivons est sans équivalent et constitue un bouleversement immense.

L’ouvrage est organisé en quatre parties. Dans la première, les auteurs présentent les principaux paradigmes de l’intelligence artificielle : représenter l’information, raisonner, décider, apprendre, résoudre.

« Même si, insistent les auteurs, dès l’origine l’ambition de créer une intelligence artificielle en modélisant le cerveau a été affichée, force est de constater que ce Graal n’est pas encore atteint et que des voix s’élèvent régulièrement pour suggérer que comprendre le cerveau de façon unifiée n’est pas à notre portée et qu’il vaut mieux voir l’intelligence artificielle comme un ensemble de techniques pour résoudre différents problèmes. »

Ils rappellent la distinction entre IA faible destinée à « la réalisation de tâches spécifiques » et IA forte ou IA Générale, basée sur la modélisation totale du cerveau permettant de « rassembler l’ensemble des compétences intelligentes d’un humain ».

La deuxième partie aborde les diverses mises en œuvre de l’IA : traitement d’images, traitement du langage naturel, recherche d’information, diagnostic, recommandation, décision, résolution de problèmes combinatoires, planification, sécurité, jeux, créativité…

Si nous prenons l’exemple de la planification, nous voyons que, déjà, la planification classique est dépassée pour prendre en compte la théorie de l’esprit :

« … de plus en plus de chercheurs ont commencé à relâcher les hypothèses de la planification classique et ont considéré des variantes comme des actions temporellement étendues ou des systèmes à plusieurs agents. L’une des dernières extensions, particulièrement intéressante couvre en particulier des situations où il faut raisonner sur les connaissances des agents, y compris les meta-connaissances (des connaissances à propos des connaissances d’autres agents, du type Je pense que Bruno pense que la fenêtre est ouverte) et plus généralement des connaissances d’ordre supérieur. Il s’agit alors d’une planification épistémique qui a des applications par exemple en robotique sociale, où il faut pouvoir se mettre à la place d’un autre agent. »

La troisième partie aborde la question passionnante des interfaces entre IA et d’autres disciplines comme la robotique, les sciences de l’information, les mathématiques, la bioinformatique, les neurosciences, la psychologie, les sciences humaines et sociales…

« La coopération entre humain et machine, note les auteurs, ne peut être obtenue sans une coopération entre la psychologie et l’intelligence artificielle. (…) les agents artificiels sont ou seront amenés à prendre des décisions lourdes de conséquences pour les humains, en particulier dans le domaine de la santé, et dans les domaines des transports, avec l’avènement des véhicules autonomes qui devront distribuer le risque encouru par les différents usagers d ela route. Confier ces décisions à l’intelligence artificielle n’est possible que si les citoyens acceptent les principes éthiques qui seront suivis par les machines. Cette acceptation nécessitera une compréhension fine de la psychologie morale des citoyens. Une intelligence artificielle efficace, transparente et éthique ne se construira qu’avec un apport décisif de la psychologie du raisonnement, de la morale et de la décision. »

La dernière partie aborde diverses questions afin pour clarifier les problèmes ou dissiper des confusions courantes : la distinction entre algorithme et IA, les différents types d’IA, comment l’IA change nos vies, l’éthique et ce sujet souvent fantasmé : « La machine devient plus intelligente que l’homme ». Revenons avec les auteurs sur l’éthique :

« L’intelligence artificielle et, plus généralement, l’informatique, transforment bien des aspects de nos vies en ouvrant de nouvelles opportunités d’actions, de nouveaux choix et, en conséquence, de nouvelles responsabilités. Ainsi, si l’apprentissage machine permet d’anticiper les risques d’accidents avec une grande précision, le caractère mutualiste des assurances pourrait, si l’on n’y prend garde, s’affaisser progressivement. De même, avec des systèmes d’aide au diagnostic entraînés par apprentissage, les médecins pourraient se conformer aveuglément aux suggestions des machines pour éluder leurs responsabilités. Et, si les robots agissent de façon autonome, c’est-à-dire sans intervention humaine, et qu’ils se reprogramment eux-mêmes par apprentissage, à partir d’immenses quantités d’exemples, il se pourrait qu’ils deviennent imprévisibles et provoquent de grands dommages. Pour toutes ces raisons, il importe aujourd’hui de réfléchir collectivement à la place que nous accorderons aux machines dans nos sociétés et aux prescriptions morales auxquelles nous asservirons leurs comportements. Cette réflexion relève de l’éthique, c’est à dire la branche de la philosophie qui s’intéresse aux principes qui régissent les comportements individuels et aux conséquences sociales et morales du développement des sciences et de leurs applications pratiques. »

Il y a urgence à ce que les citoyens s’emparent de la question au côté des chercheurs. En aucun cas, nous ne devons laisser cette question entre les mains de décideurs inféodés aux intérêts financiers ou pris dans les raccourcis politiciens. Ce petit livre contribue à faire de chacun de nous un citoyen averti et conscient.

Source: La lettre du crocodile