Affaires et finances

Meredith Whittaker, la patronne de Signal qui refuse de laisser l’IA lire vos messages

Penelope H. Fritz
Ajoutez-nous sur Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Naissance2000
ProfessionPrésidente de la Signal Foundation
RécompensesPrix Helmut Schmidt Future

Vendredi, Signal a activé un réglage que la plupart de ses utilisateurs ne remarqueront jamais. Sur les nouveaux iPhone, l’application empêche désormais l’IA Siri d’Apple de lire ce qui s’affiche à l’écran dans une conversation et bloque par défaut les captures d’écran ; sur Android, elle ferme la fenêtre dès que Gemini, l’IA de Google, tente de regarder. Meredith Whittaker, la présidente de Signal, a annoncé elle-même ce changement et, dans le même message, a reconnu qu’il ne suffisait pas. Les agents qu’Apple, Google et Microsoft intègrent à leurs systèmes d’exploitation peuvent encore accéder à ce qui est stocké sur l’appareil, et sur un Mac, Signal ne peut tout simplement pas les arrêter. Elle y voit une menace existentielle pour l’application qu’elle dirige.

Ce combat lui va comme un gant, mais il met aussi en lumière le dilemme au cœur de son parcours. Meredith Whittaker a passé plus de dix ans chez Google avant de devenir l’une des critiques les plus incisives du modèle économique qui finançait l’entreprise. Aujourd’hui, elle dirige une messagerie à but non lucratif qui refuse de collecter des données, ne vend rien et dépend de ses donateurs, mais qui doit pourtant vivre sur des téléphones conçus par les entreprises mêmes dont elle juge les produits d’IA irresponsables. Signal peut chiffrer un message de bout en bout. Il ne peut pas chiffrer le système d’exploitation.

Rien ne la destinait vraiment à la technologie. Meredith Whittaker a étudié la rhétorique et la littérature anglaise à l’université de Californie à Berkeley, puis est entrée chez Google en 2006, où elle est restée treize ans. Elle y a fondé le groupe Open Research, qui travaillait avec des universitaires et des développeurs de logiciels libres sur la mesure de la neutralité du net, la confidentialité et la sécurité, et elle a cofondé M-Lab (Measurement Lab), un réseau ouvert devenu la première source publique de données sur les performances d’internet.

La mesure lui a appris à se méfier des affirmations qui arrivent sans preuves. En 2017, elle a cofondé l’AI Now Institute à l’université de New York avec la chercheuse Kate Crawford, à la suite d’un colloque organisé par la Maison-Blanche. L’institut s’intéressait à ce que l’intelligence artificielle fait aux personnes sur lesquelles elle est utilisée plutôt qu’à ce qu’elle sait faire lors d’une démonstration, et ses rapports revenaient sans cesse au même argument : le problème de fond tenait moins à un code biaisé qu’à la question de savoir à qui appartiennent ces systèmes et contre qui ils sont dirigés. Elle a ensuite occupé la chaire de recherche Minderoo à NYU et exercé les fonctions de directrice du corps professoral d’AI Now ; elle en est aujourd’hui la conseillère principale.

Cet argument l’a placée sur une trajectoire de collision avec son employeur. En 2018, elle a rédigé une pétition contre le projet Maven, un contrat du Pentagone dans le cadre duquel Google développait des outils de vision par ordinateur pour le programme de drones américain. Plus de trois mille salariés l’ont signée, et Google n’a pas renouvelé le contrat. Quelques mois plus tard, elle a été l’une des principales organisatrices du Google Walkout, lorsque plus de vingt mille employés ont quitté leur poste après des révélations selon lesquelles l’entreprise avait versé 90 millions de dollars d’indemnités de départ à Andy Rubin, un dirigeant accusé de harcèlement sexuel. Meredith Whittaker a affirmé par la suite que Google avait exercé des représailles en lui demandant d’abandonner son travail à AI Now. Elle a quitté l’entreprise en juillet 2019.

Le même été, elle a déclaré devant la commission des sciences de la Chambre des représentants que les systèmes d’IA pouvaient ancrer les biais et a réclamé une protection des lanceurs d’alerte pour les salariés du secteur. Début 2020, elle est allée plus loin devant la commission de la Chambre chargée de la surveillance de l’action gouvernementale, en soutenant que le problème de la reconnaissance faciale ne tenait pas seulement à sa précision, mais au pouvoir de ceux qui la déploient sur des personnes qui en ont moins, et en demandant l’arrêt de son utilisation. À partir de novembre 2021, elle a été conseillère principale sur l’intelligence artificielle auprès de la présidente de la Federal Trade Commission, Lina Khan.

Signal l’a recrutée en septembre 2022 comme première présidente, un poste créé avec la direction de l’application. Signal ne diffuse aucune publicité et n’a aucune donnée d’utilisateurs à vendre ; Meredith Whittaker a dit ouvertement que son fonctionnement coûtait environ 50 millions de dollars par an. Une bonne partie de ses débuts à la tête de l’organisation a consisté à expliquer pourquoi une messagerie qui ne conserve presque rien sur ses utilisateurs a malgré tout besoin d’une grande équipe d’ingénieurs et de donateurs réguliers, et pourquoi l’autre solution reviendrait à être payé en surveillance.

Ses détracteurs soulignent les limites de ce modèle. Le protocole de chiffrement de Signal protège déjà les conversations de WhatsApp, mais l’application elle-même reste loin derrière le produit de Meta bâti sur sa cryptographie, et l’influence de Meredith Whittaker auprès des gouvernements repose en grande partie sur une seule menace : que Signal quitte un pays plutôt que d’affaiblir son chiffrement. Elle l’a brandie face à l’Union européenne et, de nouveau en juin, face au Royaume-Uni. La menace est crédible, car une application financée par les dons n’a pas d’actionnaires à ménager, mais elle rapproche aussi la réponse de Signal aux régulateurs de l’exil plus que de la négociation. L’épisode qui a valu à l’application sa plus forte vague d’attention a révélé un décalage similaire. Lorsqu’on a découvert, en mars 2025, que de hauts responsables américains avaient discuté de plans militaires dans un groupe Signal auquel un journaliste avait été ajouté par accident, Meredith Whittaker a défendu le chiffrement comme l’étalon-or de la communication privée et fait remarquer qu’aucune application ne peut empêcher des gens d’ajouter la mauvaise personne à une conversation. Une publicité de cette ampleur est difficile à refuser et plus difficile encore à maîtriser.

Depuis, elle a déplacé son attention des gouvernements vers les entreprises qui fabriquent les appareils. À Davos, en janvier, elle a qualifié les agents d’IA intégrés aux systèmes d’exploitation de périlleux pour les services chiffrés, avertissant qu’un système doté d’un accès root peut être détourné. Dans un entretien accordé à Bloomberg en juin, elle a déclaré que les chatbots n’étaient pas nos amis et décrit un assistant ayant accès à ses données de paiement et à son compte Signal comme une sorte de porte dérobée. Cette semaine, des tests menés par Reuters avec des membres des équipes de Signal et d’AI Now ont montré que l’agent Muse de Meta lisait des conversations Signal sur Android grâce à l’accès aux notifications, et Meredith Whittaker a jugé que des agents dotés d’une telle portée étaient technologiquement irresponsables.

En 2023, le magazine TIME l’a inscrite sur sa première liste des personnalités les plus influentes de l’intelligence artificielle. En mai 2024, elle a reçu à Hambourg le prix Helmut Schmidt de l’avenir, remis par Die Zeit et ses partenaires pour son travail sur la démocratie et la technologie, et en juillet 2025, elle a rejoint le conseil d’administration du groupe de médias allemand Hubert Burda Media.

La suite dépend moins de Signal que d’Apple, de Google et de Microsoft. Meredith Whittaker a demandé aux trois groupes une méthode documentée permettant aux applications de tenir les agents d’IA à l’écart de leurs écrans et de leurs données, et Signal se dit prudemment optimiste quant à l’intérêt que Google et Apple y portent. S’ils la mettent au point, le blocage activé cette semaine deviendra la norme du secteur. Sinon, la messagerie la plus privée du marché continuera de multiplier les parades contre les téléphones sur lesquels elle fonctionne, et sa présidente continuera de le dire publiquement.

Étiquettes: , , , , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.