Partant de mises en situation bien connues des spécialistes d’éthique (le « dilemme du tramway » élaboré par Philippa Foot et récemment formalisé dans un jeu en ligne , l’évaluation du degré de désobéissance permise par l’expérience de Milgram) autant que de réflexions développées par des auteurs de science-fiction (en particulier Isaac Asimov et Ursula Le Guin), le présent ouvrage entend alimenter la réflexion sur la « bonne manière de programmer les machines ». Le propos ne porte donc pas sur l’opportunité du surgissement de l’Intelligence Artificielle dans nos vies (ce qu’on appelle l’éthique de l’IA), mais sur les principes moraux qu’il nous incomberait, le cas échéant, d’implanter aux robots (c’est ce que l’auteur nomme l’éthique des algorithmes). La question se pose de façon d’autant plus concrète (et pressante) que l’introduction de l’IA dans nos existences est imminente : voitures autonomes, robots militaires, robots sexuels et assistants virtuels destinés aux enfants pourraient prochainement faire florès et être amenés à prendre des décisions morales relatives à la sécurité (ou à la survie) des uns, à l’éducation et au bien-être des autres. Selon le polymathe suédois Nick Bostrom, à qui Martin Gibert consacre un chapitre central, il y aurait 50% de chances qu’on parvienne à développer, d’ici à 2050, une super-intelligence artificielle « comparable à l’intelligence humaine » : on comprendra aisément les dramatiques conséquences qu’aurait, dans ces conditions, le développement d’une machine immorale, ou tout simplement moralement incertaine.
Selon Martin Gibert, trois voies pourraient donc être suivies pour « faire la morale aux robots ». L’option déontologiste, héritée de Kant, implique le respect de normes préétablies et, du côté des robots, la mise en place d’un système expert fondé sur un corpus détaillé de règles. Plus que tout autre, un tel robot serait cependant exposé au risque d’une programmation inopportune, qui pourrait le conduire, dans un scénario extrême, à la mise en péril de l’humanité (c’est le cas de l’usine à trombones décrite par Nick Bostrom, formalisée elle aussi sous la forme d’un jeu en ligne). L’option utilitariste se fonde quant à elle sur l’idée d’une promotion du bien-être général, ou à tout le moins d’une réduction de la souffrance : centrée non plus sur les actions mais sur leurs conséquences, elle suppose, de la part des machines, un apprentissage par renforcement visant à l’obtention d’un objectif défini par avance. Là encore cependant, le robot utilitariste risque de se trouver placé dans des situations extrêmes, où il lui incombera de comparer la valeur de plusieurs vies humaines à partir de critères préétablis. À rebours de ces deux options qui relèvent d’une normativité directe, Martin Gibert plaide donc en faveur d’une troisième approche, reposant cette fois sur une normativité indirecte : celle de l’éthique de la vertu, dite aussi approche arétaïque. Plus flexible et plus facile à mettre en place d’un point de vue technique, celle-ci consiste à « harnacher l’expertise morale des gens », autrement dit à fonder l’apprentissage des machines sur l’imitation de personnes jugées vertueuses : la question de la morale des robots, dès lors, implique l’identification de modèles de vertu qui, à en croire l’auteur, ne se recruteraient préférentiellement ni parmi les professeurs d’éthique, ni parmi les individus les plus brillants ou les plus riches. Si les noms de Jésus, Gandhi, Confucius et Greta Thunberg cités par Martin Gibert appartiennent à un monde (plus ou moins) réel et historiquement attesté, cette réflexion invite en dernier ressort à s’interroger sur la possibilité de donner aux machines des modèles recrutés parmi les personnages de fiction : imaginerait-on un robot à l’école de Jean Valjean, du prince André ou de Luke Skywalker ? Anticipant la révolution morale que constituerait indéniablement l’irruption des I.A. dans nos vies, l’ouvrage de Martin Gibert invite à penser ce défi à la croisée de l’éthique, de la robotique et de la littérature.
Ninon Chavoz
Maître de conférence Université de Strasbourg, coordinatrice du DU Lethica
PS : certains exemplaires commercialisés de cet ouvrage étant défectueux dans l’édition Flammarion, nous conseillons plutôt aux lecteurs de se procurer l’édition québécoise.
