Demis Hassabis, sur le cerveau humain : « une approximation biologique d’une machine de Turing »

Demis Hassabis a bâti sa carrière en considérant le cerveau humain comme le seul modèle concret dont nous disposions pour l’intelligence générale. Cette semaine, un fragment de ses propos est devenu l’emblème de tout ce qu’un critique estime que l’industrie de l’IA comprend mal dans le fonctionnement de l’esprit. Pourtant, la phrase complète dont il est tiré est plus circonscrite — et plus révélatrice — que l’extrait qui a circulé.

« une approximation biologique d’une machine de Turing ».

Cette formule est au cœur d’un essai de Benjamin Riley publié dans The Verge, « Our minds aren’t equipped to handle AI ». Riley ouvre son texte avec le pionnier de la cybernétique Norbert Wiener : « La pensée de chaque époque se reflète dans sa technique. » Il présente ensuite Hassabis, aujourd’hui président de Google DeepMind et directeur scientifique d’Alphabet, comme le cas le plus évident d’une industrie qui voit ses propres machines lorsqu’elle regarde un crâne. Ces mots sont tirés d’un entretien avec James Manyika publié cette année dans Dædalus, la revue de l’American Academy of Arts and Sciences.

Lecture recommandéeDemis Hassabis quitte la direction de DeepMind pour se consacrer à l’AGI

Ce que dit la phrase complète

Dans Dædalus, Hassabis expliquait ce que l’AGI signifie à ses yeux. Il la définit comme « un système qui présente toutes les capacités cognitives de l’esprit humain », car le cerveau est « le seul exemple dont nous ayons connaissance à ce jour, peut-être dans l’univers, qui prouve que l’intelligence générale est possible ». Vient ensuite la phrase dans son intégralité : « Le cerveau peut être considéré comme une approximation biologique d’une machine de Turing, ce qui signifie qu’en théorie, il pourrait apprendre tout ce qui est calculable. » La phrase suivante vient toutefois tempérer cette idée. Tout système fini nécessite « un certain degré de spécialisation, car le temps, la mémoire et l’information sont en quantité limitée ».

Pris ainsi, ce n’est pas une affirmation selon laquelle les êtres humains seraient des ordinateurs portables. C’est une réflexion sur l’étendue des capacités du cerveau, sur ce qu’il pourrait apprendre en principe, et aussi une sorte de cahier des charges technique. Si le cerveau est la machine de référence, l’AGI doit en égaler toute l’étendue. Hassabis esquisse même une épreuve : entraîner un modèle dont les connaissances s’arrêtent en 1910, puis voir s’il parvient à la relativité générale, comme Einstein en 1915. « Pour l’instant, la réponse est clairement non », affirme-t-il.

La critique se joue à un autre niveau

L’objection de Riley se situe ailleurs. S’appuyant sur Paul Cisek, neuroscientifique à l’Université de Montréal, il soutient qu’il vaut mieux comprendre le cerveau comme un système de contrôle par rétroaction, qui agit sur le monde pour modifier ce qu’il perçoit et que façonnent d’abord l’évolution, puis la culture : l’imitation, le langage, l’écriture, l’école. Dans cette perspective, un chatbot qui accomplit à notre place la partie exigeante de la réflexion est « un hot-dog cognitif » : séduisant sur le moment, mais nocif lorsqu’il devient un aliment de base. Riley cite Leah Belsky, responsable de l’éducation chez OpenAI, qui qualifie ChatGPT de « plus grande plateforme d’apprentissage au monde », ainsi qu’une étude menée en Chine, selon laquelle des milliers d’élèves ont pratiquement cessé de faire leurs devoirs après avoir commencé à utiliser l’IA.

La proposition qui fait toute la différence

Le choc le plus net se trouve dans le propre paragraphe de Hassabis. Quelques lignes plus loin, il affirme que l’essentiel est « le potentiel du cerveau à presque tout apprendre, d’autant plus que nous sommes capables de concevoir et de construire des outils et des machines qui nous aident à acquérir des connaissances ». Cette proposition concentre tout le désaccord. Riley ne démontre pas vraiment que l’idée de la machine de Turing est fausse. Les éléments qu’il avance concernent des outils qui apprennent à la place de l’utilisateur, au lieu de l’aider à apprendre. Une affirmation sur le calculabilité décrit ce qu’un cerveau pourrait assimiler en théorie. Elle ne dit rien de la question de savoir si un produit donné enrichit l’esprit de la personne qui l’utilise ou, au contraire, le vide.

Cette question concerne désormais directement la personne qui définit l’orientation scientifique d’Alphabet. En août, Hassabis a renoncé à ses fonctions quotidiennes de PDG pour se consacrer à la stratégie et à la science de l’AGI. Selon Fortune, il a déclaré aux employés que l’AGI était proche et qu’il était essentiel pour l’humanité de réussir les prochaines étapes. Un laboratoire qui évalue ses machines à l’aune de toutes les capacités du cerveau humain a tout intérêt à ce que celles-ci ne diminuent pas chez les personnes qui les utilisent.

Une approximation d’une machine de Turing doit tout de même être programmée par quelque chose. Pour les êtres humains, cela a toujours demandé le lent travail de l’apprentissage — et c’est précisément l’étape qu’un outil peut soit renforcer, soit éluder discrètement.

Étiquettes: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine

Dans le même genre

Demis Hassabis, sur qui doit financer la sécurité de l’IA : « Le financement devrait être considérable et provenir surtout de l’industrie »

Pour Geoffrey Hinton, l’IA que vous utilisez chaque jour est déjà consciente

Conscience des machines : aucun test ne prouve son existence, et ça change tout pour l’IA

Reese Witherspoon face au rejet de l’IA : « Je ne crois pas que les ordinateurs doivent remplacer l’humanité »

OpenAI dit qu’Astra est son IA la plus sûre — sans montrer comment elle raisonne

Mustafa Suleyman : « Contrôler ces choses va être un défi vraiment, vraiment énorme pour nous »