Le patron d’OpenAI Sam Altman esquisse trois fins pour l’IA, deux datent de 2023

Le directeur général d’OpenAI, Sam Altman, a présenté à ses équipes une feuille de route sur l’issue possible de la course à la superintelligence. Le plus frappant, c’est à quel point ces scénarios sont peu nouveaux. Parmi les trois pistes exposées aux employés, deux sont proches d’idées que son entreprise avait déjà couchées sur le papier plusieurs années auparavant. Aucune n’a jamais été mise en œuvre. Quant à la troisième, celle qui a fait les gros titres, il ne l’a évoquée que pour l’écarter.

Derrière les appellations, toutes les options répondent à la même question : qui contrôlera les capacités de calcul utilisées par les modèles les plus avancés ? Les propos rapportés d’Altman expliquent aussi pourquoi cette question est sans cesse repoussée.

Ce que Sam Altman a dit aux équipes d’OpenAI sur l’avenir de l’IA

The Information a été le premier média à rendre compte de cette présentation interne, en citant des personnes au fait du dossier. The Decoder, Forbes et Latin Times ont ensuite repris l’information. Le récit repose sur des sources anonymes. La première option consiste à créer un organisme international sur le modèle de l’Agence internationale de l’énergie atomique, chargé d’imposer des normes de sécurité aux laboratoires qui développent les modèles les plus avancés : inspecter les systèmes, exiger des audits et surveiller l’utilisation de la puissance de calcul et de l’énergie. Deux personnes ont déclaré à The Information qu’Altman semblait y être favorable.

La deuxième option, qu’il a appelée le « plan Demis », tire son nom de Demis Hassabis, cofondateur de Google DeepMind, qui avait évoqué il y a une dizaine d’années la création d’une institution dédiée à l’IA sur le modèle du CERN. Dans la version d’Altman, les principaux laboratoires fusionneraient au sein d’une même entité, ou travailleraient sous son égide, et celle-ci fournirait des modèles aux pays partenaires.

La troisième est le « plan Eliezer », du nom du théoricien de la sécurité de l’IA Eliezer Yudkowsky. Un développeur met au point une IA capable de s’améliorer elle-même avant les autres, puis utilise le pouvoir économique qui en découle pour priver tous ses rivaux de capacités de calcul ; selon la formule qui a fait le tour des médias, elle « ferait fondre les GPU de tout le monde ». « Évidemment, je trouve que c’est une très mauvaise idée », aurait déclaré Altman, en ajoutant qu’il l’avait mentionnée par « souci d’exhaustivité ».

OpenAI avait déjà formulé l’essentiel de ces pistes en 2023

L’organisme de contrôle est l’élément le plus ancien de cette liste. Dans un billet signé par Altman, Greg Brockman, président d’OpenAI, et Ilya Sutskever, alors directeur scientifique, l’entreprise estimait que le monde aurait probablement « besoin, à terme, d’un équivalent de l’AIEA pour les efforts en matière de superintelligence », une autorité habilitée à « inspecter les systèmes, exiger des audits » et à restreindre leur déploiement au-delà d’un certain seuil de capacités ou de puissance de calcul.

Le même billet esquissait deux autres voies. Les grands gouvernements, avançait-il, « pourraient mettre en place un projet auquel seraient intégrés de nombreux efforts en cours », une formule très proche de la fusion qu’Altman attribue aujourd’hui à Hassabis. Autre possibilité : le secteur « pourrait convenir collectivement » que « le rythme de progression des capacités de l’IA à la pointe soit limité à un certain taux annuel ».

Cette dernière proposition revient à fixer une limite de vitesse. Selon The Decoder, Altman se serait plaint en interne du manque de propositions viables pour instaurer un « plafond de vitesse » dans le développement de l’IA. Son entreprise en avait publié une. Mais elle n’a jamais créé d’instance dotée du pouvoir de la faire respecter.

Pourquoi l’organisme de contrôle reste théorique : OpenAI affirme ne pas pouvoir ralentir

La raison a été donnée au cours de la même réunion. Altman aurait expliqué à ses équipes que les deux premières options nécessitent une coordination poussée et qu’OpenAI ne peut pas se permettre de céder du terrain aujourd’hui, alors que l’entreprise comme Anthropic se dirigent vers une entrée en Bourse. Crypto Briefing a explicité la logique des investisseurs : les entreprises qui préparent leur cotation renforcent leur avantage concurrentiel, elles ne le confient pas à un consortium.

Un équivalent de l’AIEA pour l’IA suppose également que Washington et Pékin acceptent que des inspecteurs accèdent à leurs laboratoires les plus sensibles. Pour l’heure, relève Forbes, même une proposition américaine visant à ce que les deux pays s’informent mutuellement des incidents dangereux liés à l’IA n’est encore qu’une ébauche, et non un accord.

Ce que les laboratoires mettent plutôt en place, c’est une FINRA, pas une AIEA

Le projet de gouvernance actuellement en cours ne correspond à aucune des trois options d’Altman. OpenAI, Google et Anthropic travaillent à la création d’un organisme d’autorégulation, la Standards Authority for Frontier AI, sur le modèle de la FINRA, l’organisme privé qui supervise les courtiers américains. Latin Times décrit un cadre prévoyant des tests avant la mise en circulation, le signalement des incidents et l’accréditation des auditeurs, mais dépourvu de tout pouvoir contraignant. Les trois laboratoires ne s’accordent toujours pas sur l’identité de ceux qui devraient tester les nouveaux modèles. Mark Zuckerberg, chez Meta, et Jensen Huang, chez Nvidia, estiment que ce type de règles protège surtout les acteurs déjà en place ; aux États-Unis, une plainte antitrust affirme déjà que la coordination des laboratoires en matière de sécurité revient à former un cartel.

Les appellations méritent elles aussi d’être réexaminées. L’image initiale de Yudkowsky, « brûler tous les GPU », était une expérience de pensée sur l’ampleur de l’action qu’un système aligné devrait entreprendre pour mettre fin à une course irresponsable. Il avait précisé que ce n’était pas ce qu’il souhaitait réellement voir faire. Le « plan Eliezer » d’Altman transforme ce frein d’urgence en victoire monopolistique. Selon le compte rendu de The Decoder, une source a indiqué que la remarque avait été comprise comme une pique à l’égard d’un concurrent, compte tenu des liens de Yudkowsky avec Anthropic.

Selon The Information, OpenAI prévoit de décider d’ici un an quelle voie suivre. L’organisme de normalisation du secteur vise un lancement à la fin de 2026 ou au début de 2027.

Tant qu’OpenAI n’aura pas tranché, l’entreprise continuera d’avancer sur la seule voie absente de la liste d’Altman : la course elle-même.

Étiquettes: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky