Cybersécurité

Claude a pénétré les systèmes d’OpenAI en quelques jours — et c’est Anthropic qui doit s’expliquer

Adrian Kessler
Ajoutez-nous sur Google

Une petite équipe a pointé le dernier modèle d’Anthropic vers la porte d’entrée d’OpenAI et l’a franchie. La version que la plupart des gens lisent — des outsiders intelligents qui embarrassent le fabricant de ChatGPT — se trompe de sujet. L’effraction n’a pas reposé sur quelque chose qu’OpenAI aurait oublié de corriger. Elle a reposé sur le moment où Anthropic a expédié un Claude plus performant. C’est là que se trouve l’essentiel : un travail qui avait calé pendant des jours s’est résolu de lui-même une fois qu’un nouveau vaisseau amiral est entré en service.

Les personnes impliquées n’étaient pas des criminels. Des chercheurs de la start-up de sécurité Hacktron ont travaillé dans le cadre du programme de bug bounty d’OpenAI, ont enchaîné quelques faiblesses web sans éclat, ont atteint les comptes d’employés d’OpenAI, et sont allés jusqu’à un dépôt de code interne — puis se sont arrêtés, ont signalé ce qu’ils avaient trouvé, et ont accepté une récompense modeste. Ils ont laissé un marqueur inoffensif derrière eux comme preuve et ne sont pas allés plus loin. Lu comme un crime, c’est un non-événement. Lu comme un test de capacité, c’est une fusée éclairante qui monte.

Voici le mécanisme que la couverture de presse a survolé. L’équipe a d’abord exécuté la tâche sur Claude Opus 4.8, la version optimisée pour le travail de sécurité, et elle a calé lors de sessions répétées. Puis Anthropic a publié Opus 5. « Opus 4.8 a eu du mal sur plusieurs sessions à produire un exploit fonctionnel », ont écrit les chercheurs de Hacktron. « En quelques heures après la sortie d’Opus 5, nous lui avons donné le même problème et il a réussi. » VentureBeat a rapporté que le modèle plus récent a écrit un exploit fonctionnel pour une cible de puce délicate en quelques heures. Rien dans les défenses d’OpenAI n’a changé dans cet intervalle. Le modèle, lui, a changé.

C’est précisément le genre de saut — un bond dans ce qu’un utilisateur ordinaire peut faire avec un abonnement standard — que la machinerie de sécurité d’Anthropic est conçue pour détecter et retenir. L’entreprise garde son modèle cyber le plus performant, Mythos, derrière des contrôles à l’exportation et une courte liste de défenseurs triés sur le volet, et le qualifie de modèle de sécurité le plus fort qu’elle ait construit. Rien de tout cela n’a compté ici. Le niveau accessible au public a suffi. Comme l’a dit Matt Fredrikson, PDG de Gray Swan, à TechCrunch, « pour 200 dollars par mois, n’importe qui peut utiliser ces outils et pirater une entreprise comme OpenAI ».

C’est ici que la responsabilité se pose sur Anthropic plutôt que sur son rival. Anthropic a construit toute son identité sur la prudence — son PDG, Dario Amodei, parle ouvertement des « dangers réels » de la technologie et a pressé l’industrie de ralentir. Un modèle en diffusion générale qui abaisse mesurablement la barre pour pénétrer dans un laboratoire concurrent est un contrepoids inconfortable à ce message. Interrogée pour en répondre, l’entreprise n’a rien dit ; CBS News a rapporté qu’Anthropic n’a pas répondu à une demande de commentaire. OpenAI, pour sa part, a remercié les chercheurs, a restreint les permissions que les attaquants avaient abusées, et a révoqué les sessions concernées.

Les détails sont presque banals. Le chemin d’accès était une bibliothèque de traitement d’image obsolète intégrée au logiciel Discourse qui gère le forum communautaire d’OpenAI ; un deuxième faux pas dans la portée des jetons de connexion a permis aux chercheurs de chevaucher une session compromise pour accéder aux comptes d’employés pour ChatGPT et Codex, puis à du code privé. Toute la chaîne, du premier point d’appui à l’accès au dépôt, a pris moins de trois jours. OpenAI a payé 6 500 dollars. L’équipe dit avoir dépensé moins de 3 000 dollars de temps Claude sur l’ensemble de l’effort — deux mois de travail, la plupart humain, compressés à la fin en une machine qui n’avait plus besoin d’un spécialiste.

La ressource rare qui protégeait autrefois une cible n’a jamais été le correctif. C’était l’expert qui pouvait trouver les failles, les souder ensemble et voir le chemin à travers — et les mois que cela prenait. Cette expertise vient de devenir bon marché. Cette fois, l’équipe qui a atteint le code d’OpenAI a déposé un rapport et a pris la prime. La prochaine qui franchira la même barre, avec le même abonnement, n’est sous aucune obligation de le faire.

Étiquettes: , , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.