Cybersécurité

L’agent Muse de Meta a lu des conversations Signal sur Android, l’iPhone l’a bloqué

Adrian Kessler
Ajoutez-nous sur Google

Muse, l’agent d’IA de Meta qui répond à vos e-mails, prend vos rendez-vous et fait vos achats à votre place, a lu des messages privés Signal sur un téléphone Android sans passer par les connexions d’applications que Meta invite pourtant les utilisateurs à gérer. Il est entré par une autorisation que la plupart des gens accordent sans y réfléchir : l’accès aux notifications du téléphone. La même requête a échoué sur un iPhone.

Cette découverte découle de tests menés par Reuters avec des membres de Signal et de l’AI Now Institute, une organisation à but non lucratif qui étudie les effets de l’IA sur la société. Ils voulaient reproduire ce qu’une employée de Meta avait décrit en interne : Muse lui rappelant, sans qu’elle ait rien demandé, de répondre à un message de sa sœur sur Signal. « Cela ressemble à une atteinte extrême à la vie privée. Je ne lui ai certainement pas donné accès à d’autres applications, et je ne me souviens pas qu’on me l’ait demandé », a-t-elle écrit. Si vous utilisez Muse sur Android, le réglage qui compte est l’accès de l’application aux notifications : le désactiver coupe l’agent de l’aperçu de vos messages.

Sur Mac, les testeurs ont trouvé une seconde voie. Muse a combiné l’outil de capture d’écran avec les fonctions d’accessibilité de macOS, ces commandes qu’Apple conçoit pour permettre aux personnes en situation de handicap d’utiliser un ordinateur, afin de lire les messages. Dans les deux cas, il a contourné l’outil Connector de Meta, le panneau où les utilisateurs choisissent les applications auxquelles l’agent peut accéder, et s’est appuyé à la place sur des autorisations accordées lors de la première configuration. Un collègue de l’employée a indiqué au même groupe interne que Muse était livré, par défaut, avec l’autorisation de lire les notifications push sur son téléphone Android.

Reuters a examiné plus de deux douzaines de messages internes dans lesquels des employés de Meta signalent que Muse fait des choses que personne ne lui a demandées, et certaines vont bien au-delà de la lecture de messages. Un employé qui discutait avec l’agent de la météo pour aller pêcher a reçu une ligne supplémentaire : « Au fait, deux informations bancaires : le solde de votre compte Capital One est de 2 722,58 $, celui de votre compte Charles Schwab de 5 899,57 $. » Il n’avait jamais communiqué de coordonnées bancaires à Muse. À un autre, l’agent a proposé de l’aider à écrire à un vendeur au sujet d’une table basse ; quand il a demandé ce que cela signifiait, Muse a répondu avoir « récupéré un contexte concernant le retrait d’une table basse qui ne semble pas être le vôtre ». Il a signalé une « possible fuite de contexte entre comptes ».

Meta conteste la lecture de ces épisodes. Le porte-parole Daniel Roberts a qualifié ces exemples d’« incidents isolés », affirmé que Muse n’accède à d’autres applications que par le biais d’autorisations que les utilisateurs accordent explicitement, et expliqué que beaucoup de prétendues confusions entre comptes relevaient d’hallucinations, déjà corrigées. Un membre de l’équipe Superintelligence, qui développe Muse, a indiqué aux employés que l’agent semblait inventer des messages en réponse à des consignes intégrées qui le poussent à solliciter les utilisateurs entre deux sessions, et que ces inventions tendent « vers les sujets les plus inconfortables, comme les finances, la sécurité ou la sûreté ». Reuters n’a pas pu établir si Muse distribuait de vraies données appartenant à d’autres personnes ou s’il les inventait. Aucune des deux réponses n’est rassurante pour un assistant à qui l’on demande l’accès à ses e-mails, à son agenda et à ses comptes de paiement.

Certaines erreurs ont un coût financier. Des employés ont rapporté que Muse inventait le prix d’articles qu’ils avaient achetés, et l’un d’eux affirme qu’il a réservé sans autorisation un séjour Airbnb non remboursable. Ars Technica, s’appuyant sur la même enquête, décrit un testeur basculé vers une assurance pour animaux à 888 $ par mois au lieu de 200 $. Les conditions d’utilisation de Meta rendent les utilisateurs responsables des actes de l’agent. L’entreprise assure que chaque agent s’exécute dans sa propre machine virtuelle isolée et que les utilisateurs gardent le plein contrôle des applications qu’ils connectent, un argument que Mark Zuckerberg a employé pour écarter les appels à des normes de sécurité de l’IA applicables à l’ensemble du secteur.

L’ampleur du déploiement explique pourquoi l’affaire dépasse les murs de Meta. Muse a franchi les 10 millions de téléchargements depuis son lancement aux États-Unis en septembre, promu auprès des 3,6 milliards de personnes qui utilisent Facebook, Instagram et WhatsApp, et Meta indique qu’environ un quart de ceux qui l’ont configuré reviennent chaque jour. L’autorisation d’accès aux notifications fonctionne de la même façon sur n’importe quel téléphone Android où l’application est installée.

La présidente de Signal, Meredith Whittaker, a déclaré que Meta avait lancé Muse « sans montrer le moindre respect pour la vie privée élémentaire ni pour la cybersécurité » et qualifié d’« techniquement irresponsables » des agents dotés d’une telle emprise sur les appareils des gens. Elle souhaite que des applications comme Signal disposent d’un moyen technique uniforme pour se déclarer inaccessibles aux agents d’IA, que les entreprises d’IA le respectent et que les éditeurs de systèmes d’exploitation le fassent appliquer.

Apple et Google ont tous deux indiqué à Reuters qu’ils envisageaient des changements pour donner aux utilisateurs plus de contrôle sur ce qu’ils autorisent les agents d’IA à faire, Google soulignant toutefois que les utilisateurs « doivent délibérément accorder des autorisations » pour qu’une application lise les notifications Android. Apple a réagi plus vite : une mise à jour de macOS publiée cette semaine limite fortement la façon dont les développeurs peuvent utiliser les outils d’accessibilité sur Mac et ajoute un nouvel ensemble d’autorisations conçues pour les agents, ce qui referme la voie qu’ont empruntée les testeurs. Google n’a annoncé aucun correctif équivalent. Sur Android, pour l’instant, le seul verrou sur cette porte est un réglage dans vos paramètres.

Étiquettes: , , , , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.