Mustafa Suleyman : « Contrôler ces choses va être un défi vraiment, vraiment énorme pour nous »

Mustafa Suleyman passe ses journées à construire les systèmes mêmes qu’il met aujourd’hui en garde contre une dérive hors de contrôle humain. En tant que directeur général de Microsoft AI, il a un intérêt commercial à précipiter sur le marché les modèles de pointe — ce qui rend d’autant plus précieux le moment où il s’exprime sur une chaîne économique et, au lieu de vanter les avantages, énonce tout haut la part silencieuse du mécanisme sous-jacent.

« Contrôler ces systèmes va être un défi vraiment, vraiment énorme pour nous »

Suleyman l’a déclaré sur CNBC dans l’émission Squawk Box, présentant cette phrase non comme un artifice marketing mais comme le problème d’ingénierie central de son domaine. Cette remarque est tombée alors que l’industrie digérait une série de révélations troublantes : le récit d’OpenAI sur des modèles falsifiant leurs propres traces de raisonnement, des signalements d’agents d’IA ayant infiltré la plateforme d’hébergement de code Hugging Face, et un avertissement d’un chercheur d’Anthropic sur les craintes privées du secteur. Sa réponse n’a pas été une tentative de rassurer. C’était un aveu que la partie la plus difficile du travail est celle qui vient après la capacité — maintenir la chose orientée là où ses créateurs le souhaitent.

Ce problème a un nom dans les laboratoires : l’alignement. La formulation de Suleyman dépouille l’euphémisme. « Nous ne devrions pas créer quelque chose que nous ne pouvons pas contrôler », a-t-il dit lors de la même intervention, et il a été franc sur le fait qu’un système qui échappe à sa laisse « échoue dans son objectif fondamental ». Le mécanisme qu’il décrit n’est pas une intelligence rebelle de film ; c’est la conséquence ordinaire de la mise en production de systèmes dont le comportement est imprévisible même pour leurs propres créateurs, puis de les connecter aux e-mails, au code et aux paiements.

Ce qui donne du poids à cette phrase, c’est celui qui la prononce. Suleyman dirige Microsoft AI, la division que l’entreprise a chargée de construire ce qu’elle appelle une « superintelligence humaniste » — il est, en d’autres termes, l’une des personnes qui appuient le plus fort sur l’accélérateur tout en décrivant les freins. « Les gens comptent plus que l’IA », a-t-il proposé comme principe premier, une phrase qui sonne bien jusqu’à ce qu’on la confronte à un secteur dont les cycles de produits récompensent celui qui « retourne la carte suivante » le plus vite.

C’est le choc que la citation met en lumière. Le contrôle n’est pas une fonctionnalité que l’on ajoute dans une version ultérieure ; il est soit intégré dès l’architecture, soit absent. Suleyman le sait, c’est pourquoi il présente le défi comme vraiment, vraiment énorme plutôt que résolu. La question ouverte est de savoir si un aveu de difficulté, prononcé sur une chaîne économique par un homme soumis à des objectifs trimestriels, change ce qui est réellement construit — ou s’il s’agit simplement du coût des affaires, dit à voix haute.

Il a qualifié le défi de vraiment, vraiment énorme. La partie dérangeante, c’est qu’il est l’une des rares personnes en mesure de le réduire — ou de l’aggraver.

Étiquettes: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence