Vers un nouveau contrat social entre l’humanité et l’IA ?

Que faire d’une invention qui pourrait révolutionner l’humanité autant que la mener à sa perte ? Le problème que cela pose à la conscience de ceux qui en sont les contemporains est vertigineux. On l’aura compris, c’est l’intelligence artificielle qu’il s’agit (IA). Inutile d’avoir récemment réuni un sommet international à Paris pour que la question soit d’actualité. Au vrai, elle l’est en permanence depuis quelques temps déjà. Il est rare que l’on évoque ses bienfaits, ses perspectives enchantées, ses progrès sans aussitôt prévenir de ses effets négatifs. On a vu naturellement des scientifiques s’emparer du débat suscité et de rares écrivains y réfléchir. Mais peu de romanciers de formations scientifique s’en sont mêlés. Isaac Azancot, médecin hospitalier, professeur au collège de médecine des hôpitaux de Paris et expert en informatique médicale est de ces oiseaux rares. Pour son deuxième roman Le regard d’Aurea (235 pages, 21 euros, éditions de l’Observatoire), il a choisi de faire de la machine son personnage principal même si un homme en détient le secret et que sa préservation est la clef du roman.

Grâce à la cryptographie quantique qui interdit toute tentative d’interception des qubits par un tiers, Aurea, agent d’intelligence artificielle, est douée d’une capacité de calcul qui défie l’esprit humain ; elle est également dotée d’un grand sens moral qui s’oppose en elle à tout ce qui se ferait aux dépens du genre humain. Le niveau de puissance auquel elle est parvenue est dans le même temps un atout considérable pour permettre à l’humanité de franchir un cap décisif et la plus forte menace d’extinction de l’espèce humaine. Aurea, dont le fonctionnement est basé sur l’informatique quantique, n’a pas une tête d’humanoïde mais l’apparence d’une jeune femme aux yeux verts, à la chevelure dorée, à la voix bien cadencée et non pas mécanique : « On comprenait son nom : elle donnait une apparence d’or en fusion ». Aurea est un prototype qui n’a pas livré tous ses mystères. Le romancier, qui tente de les percer, nous entraine avec lui dans une spirale fascinante dont on a du mal à se déprendre tant elle ouvre sur des perspectives inouïes.

Cela se passe en 2034, autant dire demain, entre la Toscane et Paris. Elie, un chercheur français qui n’a rien du savant fou mais qui l’est tout de même un peu en tant que passionné d’un golf pour avoir imaginé un algorithme de liaison au moment du swing, rencontre Giulia, une Italienne férue d’humanités médicales et spécialisée en hypnose. Ils voient leur liaison amoureuse bouleversée par le surgissement de l’IA dans leurs vies. La robotique est en pleine expansion, la chirurgie systématiquement assistée par l’ordinateur, l’imagerie médicale fait des progrès que l’on croyait inimaginables quelques années avant, l’analyse des données des malades et des maladies autorise la mise sur le marché de médicaments en un temps record. Bref, dans une société plus que jamais dominée par la vitesse, l’IA est devenue l’incontestable matrice des nouveaux paradigmes. Ce qui ne va pas sans poser un problème technique encore en voie de résolution au big-data médical : le rassemblement de données éclatées et localisées en différents lieux, l’intégration de ces informations en temps réel. Comment leur faire confiance à l’ère des fake news envahissantes ? Dans les colloques et les débats, il n’est question que de traçabilité, de fiabilité, de consentement, d’accès légal aux données des lieux de stockage protégés ; au même moment, les capacités augmentées de l’individu, portées par les partisans du transhumanisme, gagnent du terrain à la faveur de l’implantation réussie de puces reliées à l’IA dans le corps.

A l’heure de choisir le genre littéraire qui correspondrait le mieux à son histoire, sa formation de scientifique lui a fait privilégier l’anticipation sur la science-fiction, celle qui annonce le futur immédiat, dotée d’une dimension de réflexion philosophique. Or dès que l’on approfondit les questions d’éthique médicale, Aristote, Canguilhem, Jankélévitch ne sont jamais très loin et c’est ici le cas. De quoi méditer à nouveaux frais la tentation irrépressible du genre humain à organiser sa disparition, d’autant qu’Elie n’est pas le genre d’homme à renoncer en route malgré les obstacles, plutôt du genre à creuser son sillon jusqu’au bout. C’est un illuminé à sa manière car sa lumière intérieure ne faiblit jamais, un illuminé pétri de rationalisme. Il y a du lanceur d’alerte en lui, toujours prêt à prévenir partout des menaces que l’IA associée aux neurosciences pourrait faire peser sur les libertés (en les réduisant) et les inégalités (en les accentuant).

Parfois un rien pédagogique afin que le lecteur du roman ne soit pas trop largué par les données scientifiques ou médicales (le processus d’intrication, le concept de superposition, le rôle de l’inconscient dans la chaine de création de code etc), le romancier ne nous lâche pas. Il réussit même à introduire un certain suspens en nous faisant vivre « dans les conditions du direct » une attaque en règle contre les systèmes informatiques de l’AP-HP menaçant même l’Espace national de santé à partir de plusieurs fermes à trolls dans quelques pays. Aussi palpitant qu’angoissant même si ses références sont moins littéraires que philosophiques : les écrits de Rachi de Troyes, pionnier de l’hypertexte, le Guide des égarés de Maïmonide afin de s’y nourrir pour mieux développer un « culte de la raison » jusqu’à faire de la rationalité le guide absolu et Bergson dès la citation placée en épigraphe  :

 « L’humanité gémit, à demi écrasée sous le poids des progrès qu’elle a faits. Elle ne sait pas assez que son avenir dépend d’elle. A elle de voir d’abord si elle veut continuer à vivre. A elle de se demander ensuite si elle veut vivre seulement ou fournir en outre l’effort nécessaire pour que s’accomplisse, jusque sur notre planète réfractaire, la fonction essentielle de l’univers, qui est une machine à faire des dieux (in « Les deux sources de la morale et de la religion »).

Et puis jamais cité mais bien présent en filigrane, Isaac Asimov (notamment celui de la nouvelle Nous, les robots, 1982)  Isaac Azancot est si proche ( il n’y a que trois lettres d’écart entre eux). Et comme le robot de l’Américain énonçait trois lois afin de ne pas outrepasser ses pouvoirs, la créature du Français précise ses propres trois lois. Mais les deux s’interrogent sur la comptabilité éthique entre l’IA et l’homme. Dans ce roman les changements provoqués par l’IA sont positifs. Le logiciel à l’œuvre en Aurea a ceci de révolutionnaire qu’il a été programmé pour obéir à « une éthique de non-nuisance ». L’ordinateur quantique, en arborescence, est l’un des personnages du roman. Aurea a accepté le caractère irremplaçable de la spécificité de l’homme, de la famille. Il n’effraie plus, on le côtoie, c’est un familier pour la seconde génération. D’ailleurs, la fille du couple n’y voit pas de mal comme si c’était sa meilleure amie

A leurs yeux, l’intelligence artificielle permet l’émergence d’une société améliorée. Et de combattre deux fléaux : l’arme nucléaire et la désinformation. Par la complexité de son caractère quantique, seule Aurea peut affronter les crises. L’auteur a parfaitement conscience du problème que pose l’IA par rapport à la liberté et de l’émergence d’une conscience dans la machine, une inconnue à partir d’un certain niveau d’intelligence. La créature est seule. Mais que se passe t il lorsqu’elle fait société ?

L’IA est inévitable. Malmenée, elle présente un danger. L’auteur pose donc le postulat que l’hybridation du nouveau Golem de notre époque est indispensable. Car seuls, chacun de son côté, ni l’homme ni la machine ne peuvent résister à la tentation de l’humanité à l’autodestruction. Au-delà d’un contrat social, il s’agit même d’un croisement. In fine cela se fait, on ne vous en dira pas davantage afin de ne rien gâcher, mais l’auteur ne nous dévoile pas les conséquences de cette hybridation inédite. A suivre ? Difficile de ne pas en éprouver déjà un certain vertige.

(Photo D.R.)