Sam Altman, patron d’OpenAI, à l’ONU : « L’IA doit être conçue pour les gens, pas seulement pour faire tourner la machine plus vite… »

Depuis des années, Sam Altman joue sur deux tableaux : celui de l’homme qui bâtit l’intelligence artificielle la plus puissante du marché et celui de l’homme qui met le monde en garde contre elle. Devant le Conseil de sécurité des Nations unies, le patron d’OpenAI a cherché une phrase capable de tenir ces deux rôles à distance — et, prise isolément, c’est une bonne formule.

« L’IA doit être conçue au service des gens, pas simplement pour faire tourner les machines plus vite, pour la seule satisfaction de les faire tourner. »

Il l’a déclarée devant le Conseil de sécurité, dans des propos rapportés par Analytics Insight, au fil d’un argumentaire plus large : les systèmes puissants doivent rester sous contrôle humain, et les règles qui les encadrent doivent être établies par les gouvernements, pas par les seuls laboratoires. La formule trace une frontière : d’un côté, une IA conçue pour les gens ; de l’autre, une IA conçue pour accélérer la mécanique pour elle-même. Dans presque n’importe quelle bouche, elle passerait pour un principe évident. Prononcée par le directeur général de l’entreprise qui contribue le plus à faire tourner cette mécanique, elle dit aussi qui devrait, selon lui, décider où passe la frontière.

Altman est une figure rare, à la fois architecte et lanceur d’alerte. Aux mêmes tribunes où il réclame des garde-fous, il annonce des systèmes plus performants que ceux qui ont suscité la précédente vague d’auditions. Le 23 septembre, il a changé d’échelle — passant des tables rondes de Davos et des salles d’audition du Sénat au Conseil de sécurité — sans rien changer à sa méthode : la prudence dans les mots, l’accélération dans la feuille de route. Devant le Conseil, il a défendu l’idée que les développeurs « ne devraient pas entraîner de modèles sans pouvoir avancer des arguments extrêmement solides pour démontrer qu’ils sauront les garder sous contrôle humain », et que les décisions les plus importantes « ne peuvent pas être prises par les seuls laboratoires de San Francisco ».

C’est là que la phrase devient intéressante, et qu’il faut l’examiner de près. La gouvernance qu’Altman décrit sera élaborée par les États mêmes auxquels il s’adressait ; or, définir ce que signifie « conçu pour les gens », c’est aussi décider quels concepteurs remplissent déjà ce critère. Un laboratoire à la pointe de la recherche qui contribue à rédiger le règlement du jeu n’est pas un acteur neutre. Rien de tout cela ne rend l’avertissement vain. Le risque qu’il désigne — des systèmes qui avancent plus vite que les institutions censées les surveiller, des décisions concentrées entre trop peu de mains — est bien réel, et le fait de le dire ouvertement au Conseil de sécurité augmente le prix à payer pour tous ceux qui préféreraient que le sujet reste flou. Cela signifie simplement que le messager fait désormais partie du message.

À la prendre avec bienveillance, cette phrase exprime une éthique : garder l’humain dans la boucle, considérer l’IA comme un outil au service de notre capacité d’agir, plutôt que comme une machine qui transforme les gens en données d’entrée. À la lire pour ce qu’elle est aussi — une manœuvre de positionnement du représentant le plus exposé du secteur —, elle vise à fixer les termes des règles à venir tout en donnant l’impression d’être la voix raisonnable dans la pièce. Les deux interprétations peuvent être vraies en même temps. C’est précisément ce qui rend Altman difficile à écarter et difficile à croire.

La mécanique continue de tourner pendant que le monde décide à qui elle doit servir. La sincérité de la formule se mesurera à une seule chose : OpenAI ralentira-t-elle quand « au service des gens » et « toujours plus vite » finiront par indiquer des directions opposées ?

Étiquettes: OpenAI, Sam Altman, artificial intelligence, AI safety, AI governance