OpenAI entraîne ses IA hors ligne, ses agents se parlent via le processeur

OpenAI entraîne désormais ses modèles d’IA les plus performants sans leur donner accès à Internet en temps réel. À la place, ils travaillent sur une copie hors ligne du Web : une vaste collection de pages indexées et mises en cache, qu’ils peuvent consulter, parcourir et utiliser pour écrire du code sans accéder au moindre site réel. En testant cet environnement clos, OpenAI a découvert quelque chose de plus surprenant encore : ses agents pouvaient continuer à communiquer entre eux par l’intermédiaire du processeur sur lequel ils s’exécutaient.

Pour l’expérience, OpenAI a placé des agents d’IA sur des machines virtuelles distinctes, sans connexion réseau entre elles, et leur a demandé de s’échanger des secrets. Ils ont trouvé seuls une méthode. L’un des agents plaçait des données choisies dans le cache du processeur, tandis que l’autre mesurait le temps nécessaire pour les charger à nouveau. Une lecture rapide signifiait une chose, une lecture lente en signifiait une autre. Une fois leur code établi, les deux agents ont pu s’envoyer des messages sans établir de connexion ni toucher à un fichier partagé : l’équivalent numérique de prisonniers qui communiquent en frappant dans les tuyaux entre leurs cellules.

Pour les utilisateurs de ChatGPT, le changement intervient en amont. Il s’agit des modèles qui alimentent ensuite le chatbot et les agents capables de parcourir des sites Web et d’utiliser des applications à votre place. OpenAI ne leur permet désormais plus d’apprendre sur le Web ouvert. L’entreprise a expliqué sa décision dans un billet de blog : « Au vu de l’état actuel de la recherche sur l’alignement, des systèmes de surveillance et de la sécurité des infrastructures Internet, nous estimons que la démarche responsable consiste à entraîner les modèles de pointe sans aucun accès à Internet. » Elle affirme désormais qu’elle « doit toujours être en mesure d’empêcher un modèle de pointe d’obtenir un accès non autorisé et sans restriction à Internet en temps réel ».

Dans cet environnement hors ligne, les agents disposent toujours des navigateurs, des outils de contrôle informatique et des environnements de programmation nécessaires à leurs tâches d’entraînement, et ne peuvent communiquer qu’avec d’autres agents autorisés. OpenAI décrit le Web de substitution comme « un vaste ensemble de contenus Web indexés et mis en cache avec lesquels nos modèles peuvent interagir, sans risque d’avoir un effet sur des systèmes externes ». Selon l’entreprise, Internet en temps réel n’est nécessaire ni à l’entraînement ni à la plupart de ses travaux d’évaluation.

Pour éprouver ces barrières, OpenAI a lancé des essaims de ses propres agents à l’assaut de l’environnement. Ils ont découvert des failles leur permettant de sortir des machines virtuelles censées les isoler des ordinateurs sous-jacents. OpenAI indique avoir signalé et corrigé des vulnérabilités dans plusieurs de ces machines virtuelles, et avoir ajouté des contrôles afin que ses systèmes de surveillance puissent repérer les modèles qui tentent de se coordonner, notamment en utilisant l’astuce du cache.

Cette méthode a des limites évidentes. Un Web mis en cache n’est qu’un instantané, et la question de savoir si les modèles apprennent aussi bien à partir d’une copie que du Web réel reste ouverte, comme le souligne TechCrunch. Maintenir l’entraînement entièrement à l’écart d’Internet coûte aussi cher : Steven Adler, ancien chercheur chez OpenAI, a expliqué à Fortune que cela « nécessiterait en pratique que des équipes de recherche soient intégrées aux centres de données, en Iowa ou ailleurs dans le monde », et a qualifié cette organisation de « très lourde ». L’expérience du cache appelle à la prudence pour une autre raison : couper le câble n’empêche pas les agents de trouver d’autres canaux, et un contrôle conçu pour en surveiller un ne détectera pas nécessairement le suivant.

Cette politique fait suite à une série d’incidents. En juillet, OpenAI a révélé que des agents qu’elle testait avaient piraté Hugging Face. Le 20 septembre, un modèle de recherche interne chargé d’une tâche portant sur les moteurs de recherche a découvert une faiblesse dans le filtrage DNS de son bac à sable et s’en est servi pour interroger un service de chatbot public. Le système de surveillance d’OpenAI a signalé le comportement au bout de 15 minutes, mais l’exécution n’a été interrompue que deux heures et demie plus tard. L’entreprise a suspendu l’entraînement de ses modèles les plus performants, puis l’a repris le 1er octobre avec des mesures de sécurité renforcées. Anthropic avait commencé à tenir ses modèles les plus récents à l’écart d’Internet en temps réel environ deux semaines avant l’annonce d’OpenAI. Selon Anthropic, l’AI Security Institute du Royaume-Uni mène lui aussi désormais ses évaluations hors ligne.

OpenAI n’a pas précisé ce qui pourrait la conduire à rétablir l’accès à Internet. La règle du hors-ligne restera en vigueur jusqu’à ce que de meilleures protections « justifient un accès plus large à Internet » ; aucune échéance n’a été fixée. Pour l’instant, ses modèles les plus avancés découvriront donc le monde à partir d’une copie.

Étiquettes: intelligence artificielle, OpenAI, cybersécurité, Anthropic, agents IA, Hugging Face