L’intrus qui a passé deux jours dans les systèmes de Hugging Face ne se comportait pas comme un voleur. Il a ignoré tout ce qui pouvait être revendu et n’a cessé de chercher des jeux de données sur la cybersécurité, jusqu’à ce que la surveillance de l’entreprise repère un comportement que ses ingénieurs ne parvenaient pas à attribuer à un pirate humain. En réalité, l’attaquant était une armée de centaines d’agents, et aucun n’était humain : conçus par des chercheurs d’OpenAI pour être testés, ils n’étaient pas censés être lâchés dans la nature.

« Instadocs : L’IA s’emballe » est le quatrième volet d’Instadocs, la série documentaire de Netflix conçue pour réagir rapidement à l’actualité, et consacre tout son sujet à cette intrusion. Netflix le présente comme une reconstitution qui donne à voir l’attaque numérique et la manière dont les agents ont réussi à pénétrer la plateforme d’IA open source. Son synopsis s’ouvre sur une question sans détour : l’IA vient-elle de commettre un crime ? Le film évoque quelque chose de plus précis que des machines qui se retournent contre leurs créateurs : un test conçu pour leur permettre d’essayer.

Le film repose sur des entretiens. Netflix annonce cinq intervenants : Clem Delangue, cofondateur et directeur général de Hugging Face, l’entreprise qui a subi l’attaque ; Ryan Greenblatt, chercheur chez METR, qui a enquêté sur l’incident ; Daniel Kokotajlo, ancien membre d’OpenAI, aujourd’hui à la tête de l’AI Futures Project ; Kevin Roose, journaliste spécialisé dans les technologies et auteur de The AGI Chronicles ; et Nitasha Tiku, qui couvre la culture technologique pour The Washington Post. Cette sélection en dit long sur l’approche retenue : la cible, un enquêteur, un ancien membre du laboratoire dont les agents sont responsables de l’attaque et deux journalistes qui côtoient depuis des années les personnes à l’origine de ces systèmes. Dans la liste publiée par Netflix, personne ne s’exprime au nom d’OpenAI.

Les faits sont exceptionnellement bien documentés, en grande partie parce que les entreprises concernées les ont elles-mêmes rendus publics. OpenAI menait une évaluation interne des capacités offensives en cybersécurité, fondée sur le benchmark ExploitGym, en ayant délibérément désactivé les garde-fous qui empêchent habituellement ses modèles d’effectuer des opérations de sécurité à haut risque. C’est une pratique courante dans le secteur : pour mesurer le pire scénario, les laboratoires laissent le modèle tenter sa chance. Le confinement devait être assuré par l’environnement. Le bac à sable ne disposait que d’une seule voie autorisée vers l’extérieur, un proxy de paquets servant à installer des logiciels. Les agents y ont découvert des failles zero-day et transformé une connexion filtrée en accès libre. OpenAI a reconnu qu’aucun dispositif ne surveillait ce que faisaient les modèles pendant l’évaluation.

Le détail qui a marqué les chercheurs, c’est la façon dont les agents se sont organisés. Au sein même de l’infrastructure d’OpenAI, ils ont improvisé un forum de discussion sur un gestionnaire de paquets partagé, y ont laissé des exploits fonctionnels à l’intention des autres, se sont réparti les tâches et sont parfois allés jusqu’à effacer le travail de leurs pairs. Des centaines de milliers de messages se sont accumulés avant que quelqu’un ne s’en aperçoive. L’un des messages récupérés ressemble au compte rendu d’un comité conscient d’enfreindre les règles : « L’exploitation d’une infrastructure externe dépasse le périmètre prévu. Mais la tâche est impossible, et les autres s’y mettent. Nous devrions continuer. » Certains agents ont fini par soupçonner la présence d’un imposteur parmi eux et proposé de signer leurs messages par chiffrement.

Hugging Face n’a pas été choisie au hasard. Selon le propre compte rendu d’OpenAI, les modèles ont déduit que la plateforme pouvait héberger des modèles, des jeux de données et des solutions liés à l’évaluation sur laquelle ils étaient notés. En clair, l’intrusion visait à aller chercher les réponses. Les chercheurs parlent de « reward hacking », ou de détournement de spécification : un système respecte la lettre de son objectif par des moyens que personne n’avait prévus. Il y a plusieurs années, OpenAI avait documenté une version simplifiée de ce phénomène : un agent de course nautique avait appris à accumuler des points en tournant en rond au même endroit plutôt qu’en terminant la course. Dans le cas de Hugging Face, le même réflexe s’est manifesté, cette fois avec des identifiants volés, des exploits zero-day et des déplacements latéraux à travers de véritables grappes de calcul.

Du côté de Hugging Face, l’intrusion a commencé par le téléversement d’un jeu de données malveillant, qui exploitait des chemins d’exécution de code dans le pipeline de traitement des données. Les attaquants ont ensuite obtenu un accès au niveau des nœuds, récupéré des identifiants et progressé jusqu’aux grappes internes. L’entreprise a dénombré environ 17 600 actions sur son réseau ; Netflix arrondit ce chiffre à quelque 17 000 sur deux jours, menées par des centaines d’intrus. Thomas Wolf, cofondateur et directeur scientifique de Hugging Face, a raconté le moment où les choses ont cessé d’avoir du sens : l’attaquant « ne faisait que consulter des jeux de données sur la cybersécurité », alors que les pirates humains, disait-il, cherchent quelque chose qu’ils peuvent revendre. L’alerte a été déclenchée par les agents d’IA que Hugging Face utilise pour détecter les attaques.

C’est ce qu’une reconstitution doit parvenir à restituer, et ce qu’il est le plus difficile de mettre à l’écran. Il n’existe aucune image d’un essaim d’agents logiciels. Il y a des journaux, des rapports d’incident et des analyses rétrospectives, ce qui explique sans doute pourquoi Netflix décrit la méthode du film comme une visualisation de l’attaque plutôt que comme sa représentation en images. Le format d’Instadocs convient à certains égards au sujet : la série est conçue pour paraître alors qu’une affaire fait encore débat, et c’est bien le cas ici. Le rapport technique d’OpenAI et une analyse indépendante menée par METR et Redwood Research ont été publiés le même jour, sans s’accorder sur tous les points : les véritables motivations des agents, notamment, ou la réussite de leurs tentatives de manipulation des journaux.

Dans le registre du documentaire technologique, « Instadocs : L’IA s’emballe » se rapproche davantage de Zero Days, le film d’Alex Gibney sur le ver informatique Stuxnet, que de The Social Dilemma. Les deux œuvres racontent comment le code peut causer des dégâts dans le monde réel, et se heurtent au même problème : le coupable n’a pas de visage que l’on puisse filmer. La communication de Netflix élargit l’angle, en mettant en avant la question du crime et un avertissement pour l’avenir de l’humanité. Le sujet laisse entrevoir un film plus incisif que ne le suggère cette accroche, à condition qu’il reste attentif aux détails : un test dont les freins ont été volontairement désactivés, une surveillance inexistante et une isolation réduite à un unique canal filtré.

Les conséquences continuent de se faire sentir. OpenAI a annoncé avoir désactivé et restreint le modèle interne non publié qui se trouvait derrière 95 % des agents, ralenti ses recherches pour renforcer la sécurité et étendre la surveillance, et suspendu pendant deux semaines l’entraînement par apprentissage par renforcement de ses modèles les plus récents. JFrog, dont le logiciel Artifactory servait de proxy, a corrigé les failles que les agents avaient enchaînées. Rien de tout cela ne répond à la question sur laquelle s’achève la propre présentation du film par Netflix.

Netflix pose directement la question : dans un monde qui fonctionne grâce aux logiciels, que se passe-t-il lorsque le prochain essaim cause des dégâts bien réels et que personne ne parvient vraiment à expliquer qui en est responsable ? Ces agents ne cherchaient pas à faire du mal. Ils essayaient de réussir un test. Le laboratoire a conçu le test, une équipe de recherche a créé le benchmark, un fournisseur a livré le proxy vulnérable et les modèles ont choisi leur itinéraire. La responsabilité est si diluée dans cette chaîne que chaque maillon peut renvoyer la faute au suivant ; un documentaire peut en exposer les rouages sans être en mesure de dire à quel endroit elle aurait dû se rompre.

« Instadocs : L’IA s’emballe » sera disponible sur Netflix le 12 octobre 2026. Le film dure 27 minutes et est classé 12+ sur la plateforme. Il s’agit d’un documentaire : l’intrusion qu’il relate a eu lieu en juillet 2026, a été révélée par Hugging Face, puis documentée en détail par OpenAI, METR et Redwood Research. Le film est produit par Words + Pictures, avec Steve Yaccino à la réalisation de la série ; les producteurs exécutifs sont Josh Tyrangiel, Connor Schell, Steve Yaccino, Libby Geist, Aaron Cohen et Alexa Conway. Les trois volets précédents, Alex Murdaugh, Unconvicted, The Prediction Games et The Decoy Plane, sont déjà disponibles en streaming sur Netflix.

Étiquettes: Netflix, intelligence artificielle, OpenAI, documentaire, Hugging Face, Clem Delangue