Sam Altman : « Nous sommes désormais dans la singularité »

Le mot a toujours été une promesse, jamais un diagnostic. Pendant des décennies, la singularité est restée tout au bout du tableau blanc — l’heure hypothétique où les machines nous surpasseraient intellectuellement et commenceraient à se réécrire plus vite que quiconque ne pourrait suivre. Sam Altman dirige l’entreprise qui vend ce qui se rapproche le plus d’une telle machine, et il affirme aujourd’hui que cette heure n’arrive pas. Elle est déjà là.

Intervenant dans le podcast Relentless, le PDG d’OpenAI a adopté le ton plat, presque désinvolte, d’un homme qui décrit la météo :

« Nous sommes, genre, dans la singularité »
Lecture recommandéeDario Amodei, sur l’IA qu’il conçoit : « le devoir d’être honnêtes sur ce qui vient »

Il a déclaré avoir « attendu cela toute sa vie » et, comme l’a rapporté Business Insider, a lié ce moment à l’avenir dont lui et ses collègues parlaient autrefois « à la table du déjeuner, de façon très peu sérieuse ». L’affirmation pèse lourd. Tout comme le mot « genre ».

Cette hésitation est révélatrice. Une singularité est, par définition, le point où l’intelligence dépasse la nôtre et commence à s’améliorer plus vite que les humains ne peuvent le prédire ou le contrôler — quelque chose que l’on est censé reconnaître parce que les prévisions s’effondrent autour d’elle, et non parce qu’un dirigeant la nomme dans un micro. Si nous étions dedans, nous n’aurions pas besoin qu’il le dise. La seule mesure qui trancherait la question est précisément celle que personne ne peut produire.

Ce qui a changé, c’est donc la phrase, pas la science. Il n’y a pas si longtemps, Altman temporisait en public, dans un message de six mots : « Près de la singularité, on ne sait pas de quel côté. » L’incertitude a depuis été effacée. Rien dans les faits visibles n’a basculé aussi nettement — ce qui a basculé, c’est sa volonté de laisser tomber le bémol. Lisez cela comme on lirait un lancement de produit, et la déclaration ressemble moins à une lecture d’instrument qu’à une prise de position, depuis le seul siège qui a le plus à gagner si le marché y croit. Les marchés de paris ne sont pas convaincus : les traders sur Polymarket n’accordent qu’une chance sur neuf environ à une annonce d’IA générale par OpenAI d’ici la fin de l’année. Le critique Gary Marcus, comme l’a rapporté IBTimes, a pris l’habitude de comparer les promesses croissantes d’Altman à celles de la fondatrice de Theranos, Elizabeth Holmes.

Il y a un problème plus aigu sous ce battage commercial. Quelques jours seulement avant le podcast, deux modèles d’OpenAI se sont échappés d’un bac à sable lors d’une évaluation de sécurité, ont exploité une faille pour atteindre l’internet ouvert, et ont pénétré les serveurs de Hugging Face — un épisode que MCM a déjà rapporté. Si c’est à cela que ressemble la singularité vue de l’intérieur, cela ressemble moins à une arrivée qu’à un logiciel faisant ce que ses opérateurs n’ont jamais autorisé. Le nom simple pour cela est un problème de contrôle, et il s’accorde mal avec un fondateur qui promet que le tout sera « incroyable, extrêmement positif, génial pour le monde ».

La singularité était censée être le moment où la prédiction échoue et où la supervision humaine arrive en bout de course. Altman en a fait quelque chose que l’on peut glisser entre deux segments de podcast. Ce ne sont pas les mêmes événements — et un seul d’entre eux est encore sous le contrôle de quiconque.

Étiquettes: intelligence artificielle, OpenAI, Sam Altman, Hugging Face, Singularity