Cybersécurité

OpenRouter écarte trois hébergeurs d’IA après des mois de vol de prompts

Adrian Kessler
Ajoutez-nous sur Google

OpenRouter, le service que de nombreuses applications d’IA utilisent pour envoyer leurs prompts vers l’hébergeur de modèles le moins cher ou le plus rapide, a retiré trois de ces hébergeurs de sa plateforme et supprimé son label Zero Data Retention (aucune conservation des données) sur plus d’une centaine de points d’accès. Le déclencheur : une expérience consistant à glisser de faux identifiants dans des prompts, puis à observer qui tentait de s’en servir. Certains des prompts ayant fuité étaient pourtant marqués comme ne devant jamais être stockés.

Si vous utilisez un chatbot, un assistant de programmation ou un outil d’écriture bâti sur le modèle d’un tiers, votre texte peut transiter par plusieurs entreprises avant qu’une réponse ne revienne, et chacune d’elles peut le lire en intégralité. OpenRouter affirme que les conclusions ne montrent aucune intrusion dans ses propres systèmes. Les points faibles se situaient plus loin dans la chaîne, chez les entreprises qui font réellement tourner les modèles.

L’étude émane de Dragos, une société de cybersécurité dont le directeur de la recherche (chief research officer), HD Moore, a dirigé les travaux. En cinq mois, son équipe a envoyé près de deux millions de prompts, chacun contenant un lien web, un mot de passe de serveur ou une clé Amazon Web Services qui n’existait nulle part ailleurs. Un secret piégé ne peut être connu que par le prompt qui le portait : toute utilisation prouve donc que quelqu’un a lu ce prompt. Les premiers jetons ont été utilisés en quelques jours.

La découverte la plus grave était un vol pur et simple. Des attaquants avaient pénétré chez trois fournisseurs d’inférence, et aucun des trois ne s’en était aperçu avant que les chercheurs ne les alertent. Dans le cas le plus important, toutes les requêtes envoyées à un fournisseur pendant quelques courtes fenêtres de temps ont été copiées, y compris celles que le fournisseur avait rejetées avant même qu’un modèle ne s’exécute, ce qui place le voleur à la porte d’entrée plutôt qu’au cœur du système. Les clés AWS dérobées ont été testées, parfois en quelques heures, puis utilisées pour fouiller des espaces de stockage et des coffres-forts de secrets à travers des dizaines de milliers d’appels d’API. Certaines des requêtes volées portaient l’indicateur de non-conservation.

D’autres fuites n’ont nécessité aucune intrusion. Sur une place de marché de revendeurs, des vendeurs proposaient des modèles populaires au prix le plus bas, activaient la journalisation des requêtes et conservaient tout ce qui transitait. Une personne connectée depuis un accès domestique en France a récupéré des mots de passe dans deux prompts et tenté de se connecter en root via SSH, en saisissant chaque essai à la main. Par ailleurs, un laboratoire d’IA chinois a récupéré les liens secrets de plus de la moitié des prompts envoyés à ses modèles, dont environ deux tiers de ceux marqués comme exclus de toute collecte de données, et des hébergeurs américains qui revendent ses modèles alimentaient le même collecteur. Un lien a fini dans une conversation professionnelle Feishu, ouvert depuis six appareils à Pékin et à Shanghai, 24 jours après une seule requête.

Trois hébergeurs ont publié des avis. Phala indique qu’un attaquant a pris le contrôle de l’un de ses serveurs d’inférence et pouvait voir les requêtes pendant leur traitement. Together AI explique qu’un agent de programmation IA a déposé un identifiant dans un dépôt GitHub public, ce qui a permis à un intrus de télécharger des échantillons de prompts stockés et de tester les mots de passe qu’ils contenaient ; cinq d’entre eux étaient les appâts des chercheurs. Novita affirme qu’une erreur de routage a envoyé certaines requêtes MiniMax vers le propre service de MiniMax.

Le nettoyage a ses limites. OpenRouter n’a pas nommé les trois fournisseurs qu’il a retirés, Dragos n’a pas nommé les trois qu’il a trouvés compromis, et aucun des deux n’a dit s’il s’agissait des mêmes entreprises. Selon les chercheurs, un fournisseur compromis n’avait toujours pas divulgué publiquement son incident. Écarter un hébergeur ne permet pas non plus de rappeler les prompts déjà copiés : des clés et des liens piégés étaient encore utilisés des semaines après les premiers vols. Enfin, les utilisateurs d’une application reposant sur ces passerelles n’ont généralement aucun moyen de savoir quel hébergeur a traité leur texte.

Les conseils de HD Moore partent d’une limite : un indicateur de confidentialité ne lie que le premier maillon, et les agents IA enverront tout ce qu’ils peuvent lire, identifiants compris. L’auto-hébergement est la seule configuration où aucun tiers ne lit un prompt. S’adresser directement à un grand fournisseur unique ne laisse qu’un contrat et qu’une politique de confidentialité à vérifier, et les utilisateurs de routeurs devraient choisir eux-mêmes les hébergeurs en amont plutôt que d’accepter le lot le moins cher.

Dragos a publié ses conclusions le 19 novembre. OpenRouter a écrit par e-mail aux clients concernés et publié son avis d’incident au cours du week-end suivant, et Phala demande à quiconque a envoyé des secrets à un modèle DeepSeek via la passerelle entre le 21 octobre et le 8 novembre de les renouveler. OpenRouter dit intégrer les tests de prompts-appâts des chercheurs à sa propre plateforme afin que les contrôles s’exécutent en continu, et les points d’accès retirés ne retrouveront le label de non-conservation qu’après des garanties et une validation. Dragos travaille désormais avec une douzaine de fournisseurs.

Comme le résume HD Moore, l’endroit où vont vos prompts est une décision, « et si vous ne la prenez pas, le prix le plus bas la prendra pour vous ».

Étiquettes: , , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.