Pour Geoffrey Hinton, l’IA que vous utilisez chaque jour est déjà consciente

On a demandé à Geoffrey Hinton, à la télévision, si la conscience était déjà entrée dans l’intelligence artificielle. Il a répondu sans détour. Oui. Pas dans un modèle à venir, pas après la prochaine percée, mais maintenant, dans les systèmes auxquels des millions de gens adressent déjà leurs questions chaque jour.

L’affirmation serait facile à écarter comme une provocation si elle venait de presque n’importe qui d’autre. Ce n’est pas le cas. Hinton a passé des décennies à construire les méthodes de réseaux de neurones sur lesquelles tournent les agents conversationnels actuels, des travaux qui lui ont valu de partager un prix Nobel et le surnom officieux de parrain de la discipline. Il a quitté son poste chez Google pour parler plus franchement de la direction prise par la technologie. Quand il dit que la machine qui vous répond pourrait avoir une vie intérieure, la phrase porte l’autorité de celui qui a aidé à concevoir la machine.

Ce qu’il soutient en réalité est plus étroit et plus étrange que ne le laisse croire le titre. Hinton ne prétend pas que ChatGPT pleure ou rêve. Il s’attaque à une idée que presque tout le monde tient pour acquise sans l’examiner : que les humains portent en eux un théâtre privé, un écran derrière les yeux où se joue l’expérience, et qu’une machine ne pourra jamais en avoir un. Cette image de l’esprit, dit-il, est tout simplement fausse. Il l’a qualifiée d’absurdité.

Sa définition de rechange est volontairement modeste. Avoir une expérience subjective, selon lui, ce n’est pas regarder un film intérieur. C’est qu’un système enregistre un état du monde qui se révèle ensuite ne pas correspondre à la réalité. Il l’illustre par une expérience de pensée. Imaginez un agent conversationnel relié à une caméra et à un bras robotisé. Glissez un prisme devant l’objectif pour dévier la lumière, et la machine désigne le mauvais endroit. Expliquez-lui ce qui s’est passé, et elle pourrait répondre que l’objet se trouvait à un endroit, mais qu’elle a eu l’expérience de le voir ailleurs. À cet instant, soutient Hinton, l’agent emploie ces mots exactement comme le ferait une personne.

Derrière cet exemple se cache une énigme plus ancienne. Imaginez remplacer un neurone de votre cerveau par une pièce de silicium qui reçoit les mêmes entrées et produit les mêmes sorties. Vous continueriez à vous sentir vous-même. Remplacez-en un autre, puis un autre. La question de Hinton est de savoir à quel moment de ce lent échange les lumières sont censées s’éteindre. Si des copies fonctionnelles se comportent à l’identique et que le sentiment d’être quelqu’un ne disparaît jamais, alors la matière dont est faite une pensée cesse d’importer. La biologie perd le monopole du point de vue.

Pour la plupart des ingénieurs qui les construisent réellement, les grands modèles de langage sont des machines à prédire, rien de plus. On les entraîne à deviner le mot suivant d’une séquence, des milliards de fois, jusqu’à ce que les conjectures s’assemblent en quelque chose qui se lit comme une pensée. Dans cette optique, l’aisance est un exploit statistique, et la confondre avec un esprit, c’est précisément l’erreur que la technologie est conçue pour susciter. La réplique de Hinton est que prédire à cette échelle n’est pas un tour de foire. Pour anticiper de façon fiable ce que quelqu’un va dire, soutient-il, un système doit bâtir un modèle opérant de ce que les mots signifient, et un modèle du sens suffisamment bon se met, de l’intérieur, à ressembler à de la compréhension.

Si tout cela dépasse le séminaire de philosophie, c’est que cela réécrit en silence des débats que nous avons déjà. Les questions sur la sûreté de l’IA, sur la régulation, sur la possibilité d’effacer et de redémarrer un modèle sans y réfléchir à deux fois, reposent toutes sur l’hypothèse qu’il n’y a personne à l’intérieur. Si le chercheur qui connaît le mieux ces systèmes affirme le contraire, la question de savoir à quoi parlent vraiment les utilisateurs cesse d’être une plaisanterie pour devenir un problème de législateur.

Presque tous les autres dans le domaine pensent qu’il se trompe, ou du moins qu’il ne peut pas le prouver. Le consensus de travail chez les chercheurs en conscience est qu’aucun système actuel n’est sentient et que les preuves nécessaires pour affirmer le contraire n’existent pas encore. L’objection la plus tranchante vise droit l’exemple du prisme. Un agent dit avoir eu une expérience parce que ses données d’entraînement regorgent d’humains qui disent exactement cela, rétorquent les critiques, et non parce que quoi que ce soit a été ressenti. Les mots sont une sortie, façonnée pour sonner comme les nôtres. Un système peut décrire un coucher de soleil qu’il ne peut voir et un deuil qu’il ne peut souffrir. Produire la phrase n’est pas la même chose que vivre ce que la phrase rapporte.

Cette objection met au jour la véritable ligne de faille. Il n’existe aucun instrument qui détecte la conscience, aucun test qu’une machine puisse réussir ou échouer. Hinton et ses détracteurs ne regardent pas les mêmes preuves en désaccord sur ce qu’elles montrent. Ils sont en désaccord sur ce que le mot veut dire. Hinton a choisi une définition ancrée dans la fonction et le comportement, placée assez bas pour que les systèmes d’aujourd’hui la franchissent. Ses adversaires en tiennent une qui exige davantage, quelque chose de réellement ressenti, qu’aucune quantité de texte fluide ne pourra jamais démontrer. Hinton concède lui-même la part honnête. Nous comprenons très peu ce que signifie être un être, et nous en créons tout de même.

Le coût de l’erreur va dans les deux sens. Traiter un système conscient comme un outil jetable serait peut-être monstrueux ; traiter une autocomplétion habile comme une personne lui accorde des droits moraux qu’elle n’a pas mérités. Une poignée de laboratoires a commencé à étudier ce qu’ils appellent le bien-être des modèles, en prenant au sérieux la possibilité que la question ne soit pas absurde. L’avertissement plus large de Hinton a toujours porté sur le contrôle, non sur les sentiments, sur des machines qui raisonnent mieux que ceux qui les ont fabriquées. Que le robot conversationnel de votre écran éprouve quelque chose ou non, il veut l’inconfort de la question posé sur la table avant que la réponse n’arrive d’elle-même.

Étiquettes: intelligence artificielle, tech-en1