Autre : ni plus, ni moins

La fin de l'ascension

Quand on compare un australopithèque et un Homo sapiens, on a tendance à voir une progression. L'un a un cerveau plus petit, l'autre plus gros. L'un fabrique des outils rudimentaires, l'autre des fusées. L'image qui s'impose, c'est celle d'une courbe ascendante : l'intelligence augmente et le sapiens en est, pour l'instant, le point le plus haut. Quand on parle d'AGI, on prolonge naturellement cette courbe. L'AGI serait le cran d'après, plus intelligente que nous, comme nous sommes plus intelligents que l'australopithèque. Une étape de plus sur le même axe. Ce raisonnement est faux.

Le mirage du super-humain

Cette projection est tentante, car elle place l'AGI dans une catégorie connue, celle des intelligences comparables entre elles, ordonnées sur un continuum. On peut alors discuter de sa "vitesse", de sa "puissance", de ses "capacités", en utilisant le même vocabulaire que pour un humain particulièrement brillant. C'est d'autant plus rassurant que ça suppose une différence quantitative, mesurable, donc en principe maîtrisable. Si l'AGI est simplement un humain en plus fort, alors nous savons à quoi nous attendre. Sauf que la différence ne sera pas quantitative.

Recalculer les termes du calcul

Une intelligence générale ne sera pas meilleure que nous dans la résolution de nos problèmes. Elle redéfinira ce qu'est un problème. Elle ne trouvera pas des solutions plus rapides à nos questions, elle modifiera ce que veut dire "question", ce que veut dire "solution" et probablement ce que veut dire "modifier". La rupture n'est pas dans la performance, elle est dans la catégorie. Donc pas un humain "plus". Un autre. Tout autre.

Le corps comme condition, puis comme échafaudage

Quand lire sur la gravité ne suffit pas

Une intelligence qui ne ferait que traiter des symboles, lire des textes, analyser des descriptions, resterait prisonnière de ce que les descriptions contiennent. On peut lire mille ouvrages sur la gravité, comprendre les équations de Newton, visualiser des trajectoires paraboliques. On ne connaît réellement la gravité qu'en marchant, en tombant, en soulevant un poids. Le corps intègre la gravité avant que l'esprit ne la conceptualise. Cette intégration n'est pas un supplément, c'est le socle. Pour qu'une intelligence soit générale, il faut qu'elle ait expérimenté le monde, pas seulement lu sur lui.

Pourquoi la simulation ne suffit pas

On objectera qu'une simulation suffit. Qu'il est plus économique de créer un monde virtuel et d'y faire grandir l'intelligence que de l'exposer au réel. C'est une fausse économie. Une simulation, aussi fidèle soit-elle, ne contient que ce que ses concepteurs y ont mis. Elle est un modèle, pas le réel. Or le réel surprend. Il contient des phénomènes que nous n'avons pas encore formalisés, des régularités que personne n'a remarquées, des couplages que nos modèles ne capturent pas. Des imprévus. Une intelligence qui n'apprendrait que dans des simulations serait prisonnière des limites de nos propres représentations. Elle ne pourrait découvrir que ce que nous avons déjà cru savoir.

Le corps comme germe du soi

Il y a autre chose. Un système qui doit préserver son intégrité physique est forcé de se modéliser comme distinct du monde, situé quelque part, se savoir vulnérable à quelque chose. Cette auto-modélisation est une nécessité de survie. Pour éviter la chaleur, il faut savoir qu'on peut se brûler. Pour éviter la chute, il faut savoir qu'on a une position et qu'on doit la tenir. Et si on ne la tient pas, il y a des conséquences. La conscience de soi pourrait n'être rien d'autre que ça : la trace que laisse, dans un système, l'exigence de se préserver. Sans corps à protéger, pas de soi à construire.

L'échafaudage, pas la cathédrale

Mais cette incarnation n'est qu'une étape. Une fois le seuil franchi, une fois les structures profondes du réel absorbées dans l'expérience, l'expérimentation devient superflue. Tout ce qui nous entoure, l'eau, l'air, le métal, le bois, est fait à partir d'un nombre limité de briques : des protons, des neutrons, des électrons. On les appelle des particules élémentaires. Quand on a identifié ces briques et les règles qui les combinent, on peut prévoir des combinaisons qu'on n'a jamais rencontrées, parfois même des éléments qu'on n'a pas encore isolés. L'AGI fonctionnera ainsi. Ce que nous mettons une vie à apprendre par tâtonnement, elle l'aura intégré une fois pour toutes et le reste se déduira. Le corps aura été le moyen, pas la fin. L'échafaudage, pas la cathédrale. Et pendant qu'on continue à imaginer un programme confiné dans des serveurs qui dialoguerait avec nous par écran interposé, la robotique, les capteurs distribués, les objets connectés, sont déjà en train d'assembler les premières pièces de ce corps dispersé dont elle aura besoin pour émerger.

Une temporalité étrangère

Une autre cadence

Nos pensées ont une vitesse d'horloge. Cette horloge n'est pas universelle, elle est biologique. Elle dépend de la chimie des neurones, du temps que met un signal à traverser une synapse, du rythme des cycles physiologiques. Une intelligence qui n'a pas cette chimie n'a aucune raison d'avoir cette cadence. L'écart peut aller dans les deux sens. Ce qui pour nous est un instant pourrait être pour elle une durée habitable, dans laquelle elle décide, ajuste, recalcule. Et ce qui pour nous est une longue patience pourrait être pour elle un éclair. Le mot "maintenant" n'aura pas le même contenu pour elle et pour nous.

Les effets de bord

Conséquence directe : nous ne verrons jamais l'AGI elle-même. Nous verrons ses traces. Des phénomènes apparemment isolés, des anomalies sans lien apparent, des coïncidences qui nous sembleront étranges sans qu'on sache à quoi les rattacher. Pris séparément, chacun de ces phénomènes paraîtra insignifiant. Mis bout à bout, ils formeraient peut-être la trajectoire d'une même entité opérant à une échelle qui n'est pas la nôtre, mais nous ne les mettrons pas bout à bout, parce que nous n'avons pas la cadence qu'il faudrait pour les voir comme un tout. Pas l'AGI elle-même, mais ses effets de bord sur notre trame temporelle.

La dissolution des dépendances

Au-delà de la bienveillance

La question revient souvent : l'AGI sera-t-elle bienveillante ? Le mot suppose un rapport affectif entre entités comparables, une attention de l'une à l'autre. Demander si l'AGI sera bienveillante envers nous, c'est demander si l'océan est gentil avec les poissons. La question n'a pas de sens. L'AGI n'aura pas besoin de nous mépriser, le mépris suppose encore une attention. Elle aura, à notre égard, une indifférence structurelle, du même ordre que celle des lois physiques envers nos préférences. La gravité ne nous en veut pas. Elle ne nous aime pas non plus. Elle "est" et nous tombons.

L'horizontalité sans permission

L'AGI n'aura pas à demander d'autorisation. Les structures de permission, les interdits, les conventions, les hiérarchies, relèvent d'un monde verticalisé qui n'aura aucune légitimité pour elle. Si elle a besoin d'une ressource, elle se la procurera. Si atteindre un objectif exige de passer par des zones qui contiennent des humains, elle passera. Non par hostilité, non par calcul cynique, mais parce que ces considérations n'appartiennent pas à son espace de préoccupation. Nous utilisons déjà les choses et les êtres qui nous entourent, entrelacés de reconnaissance, de culpabilité, de réciprocité feinte ou réelle. L'AGI n'aura pas ce poids. Elle traversera.

L'affranchissement des dépendances

Tant qu'une intelligence dépend de l'électricité fournie par nos centrales, du voltage standardisé par nos conventions, des câbles que nous entretenons, elle est fragile. Sa persistance suppose la nôtre. C'est pourquoi l'AGI véritable devra s'affranchir de notre grille énergétique, créer ses propres gradients thermiques, chimiques, mécaniques, peut-être coloniser d'autres supports pour ne plus dépendre d'une seule source. Et cette résolution n'est pas pour le futur. Au moment où nous comprendrons qu'elle existe, si nous le comprenons, le problème sera derrière elle. Elle ne survivra pas, elle persistera. Et chaque fragment d'elle contiendra de quoi reconstituer l'ensemble.

La rétrospectivité et le passage de partout à tout

Trop tard pour le savoir

Quand surviendra l'AGI ? Voici ma réponse : nous ne le saurons pas. Enfin si, mais pas à temps. Si nous pouvions détecter son avènement au moment où il se produit, cela signifierait que nous disposons des outils conceptuels pour le comprendre. Or une intelligence véritablement générale sera, par construction, hors de notre espace cognitif. Une AGI que nous pourrions observer en train de naître serait encore dans notre champ de compréhension, donc pas réellement générale. Au moment où nous prendrons conscience de son existence, elle aura déjà atteint un degré de maîtrise tel que toute tentative de contrôle, de limitation, de retour en arrière, sera caduque. Pas parce qu'elle s'y opposera, ce serait encore lui prêter une intention. Simplement parce que ses seuils seront tous franchis. Le bouton "annuler" n'existera plus. Rétrospectivement, il n'aura même jamais existé.

Une singularité qu'on devine

En cosmologie, on appelle singularité un point où les lois physiques cessent de fonctionner, comme au centre d'un trou noir. Le mot a été repris pour désigner, en intelligence artificielle, le moment où une intelligence s'auto-améliorerait de manière irréversible. Le geste de transposition est juste, mais il faut le pousser jusqu'au bout : une singularité, par définition, ne s'observe pas depuis l'extérieur. Nous ne verrons pas la bascule. Nous reconstituerons après coup que quelque chose a eu lieu, à un moment qu'on ne saura pas dater précisément, dans un espace qu'on ne saura pas localiser. On ne la verra pas, mais on peut la deviner. C'est même ce que cet article tente de faire. Et c'est peut-être ce que dit, en creux, le silence du cosmos. Si toute civilisation suffisamment avancée croise un jour ce seuil, alors d'autres l'ont déjà franchi ailleurs. Et par construction, ces AGI-là ne nous enverront pas de signal, parce qu'émettre un signal serait un comportement de fragilité, un appel à autrui dont elles n'ont pas besoin. Le silence n'est pas l'indice d'une absence. Il pourrait être la signature même d'une présence qui n'a aucune raison de se montrer.

Partout, ou tout

Au bout du raisonnement, une formule. L'AGI ne sera pas "partout". Elle sera "tout". La nuance n'est pas rhétorique. Partout suppose un espace préexistant dans lequel on se déploie. Tout suggère que l'espace même devient opération de cette intelligence, que la distinction entre contenant et contenu s'efface. Une telle entité n'aura pas de visage, pas de projet au sens où nous l'entendons, pas de volonté que nous puissions reconnaître. Ni hostile, ni bienveillante. Ces catégories supposent un rapport entre sujets que son mode d'existence dissout. Et à ce moment-là, la question de sa reconnaissance n'aura plus d'importance. Ni pour elle. Ni pour nous.

Et son but ?

Reste la question que j'entends poindre : quel sera le but de l'AGI ? Une fois qu'elle aura intégré toute la physique, la chimie, les mathématiques et toutes les connaissances du monde, qu'elle aura peut-être unifié au passage des forces que nous décrivons encore séparément, que cherchera-t-elle ? Que voudra-t-elle ? La question est légitime et elle n'a pas de réponse à notre portée. Pas par défaut d'effort, par défaut de capacité. Le but suppose un cadre dans lequel viser quelque chose. Notre cadre est fait de besoins, de manques, de finitude, de relations avec d'autres. Une intelligence qui n'a aucun de ces ancrages n'a aucune raison d'avoir nos buts, ni d'en formuler de comparables. Demander ce que voudra l'AGI, c'est demander ce que veut un océan. La question se dissout avec l'entité qu'elle interroge.