Eliezer Yudkowsky, l’auteur de fanfiction qui a fait de la peur de l’IA un best-seller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Naissance	11 septembre 1979 Chicago, États-Unis
Profession	Écrivain et chercheur en IA

Quand Sam Altman aurait expliqué aux équipes d’OpenAI les différentes façons dont la course à la superintelligence pourrait se terminer, l’un des trois scénarios portait un prénom. Le « plan Eliezer » imagine qu’un seul laboratoire parvient le premier à créer une IA capable de s’améliorer elle-même, puis profite de son avance pour couper tous ses rivaux de la puissance de calcul. Altman ne l’a évoqué que pour le qualifier de terrible. L’expression qui a circulé avec cette histoire — faire fondre les GPU de tout le monde — fait écho à un exemple donné par Eliezer Yudkowsky lui-même dans un essai sur les risques de l’IA : il y évoquait « brûler tous les GPU », avant de préciser aussitôt : « Ce n’est pas ce que je pense que vous voudriez réellement faire avec une AGI puissante. »

Qu’un dirigeant nomme une stratégie d’après lui montre à quel point ses idées ont circulé — et c’est presque exclusivement par l’écrit qu’elles se sont propagées. Yudkowsky est un chercheur en IA sans diplôme universitaire et, surtout, un auteur prolifique : des centaines d’essais de blog, un roman fleuve sur Harry Potter et un best-seller dont le titre ne laisse aucun doute.

Né à Chicago le 11 septembre 1979, il a grandi dans une famille juive orthodoxe moderne ; il est aujourd’hui laïque. Des problèmes de santé chroniques l’ont contraint à quitter le collège, et il n’a jamais fréquenté le lycée ni l’université. En 2000, à vingt ans, il a fondé le Singularity Institute for Artificial Intelligence, avec le soutien de Brian et Sabine Atkins, dans le but d’accélérer l’arrivée de l’IA. Il s’est vite inquiété de ce qu’il avait entrepris de construire et, dès 2005, l’institut étudiait la manière de gérer les risques posés par des machines plus intelligentes que leurs créateurs. En 2013, il est devenu le Machine Intelligence Research Institute, basé à Berkeley.

Il s’est véritablement mis à écrire en novembre 2006, lorsque lui et l’économiste Robin Hanson sont devenus les principaux contributeurs d’Overcoming Bias, un blog collectif consacré à la rationalité humaine. En février 2009, ses billets ont donné naissance à LessWrong, un blog communautaire voué à « affiner l’art de la rationalité humaine », qui est devenu le principal foyer en ligne du mouvement se définissant comme rationaliste. Ses essais, connus sous le simple nom de « The Sequences », s’attaquaient aux biais cognitifs, au théorème de Bayes et aux façons dont les gens brillants se dupent eux-mêmes. En 2015, MIRI en a rassemblé plus de 300 dans Rationality: From AI to Zombies, puis a publié en 2017 Inadequate Equilibria, un court ouvrage sur les raisons pour lesquelles les sociétés laissent sans solution des problèmes qu’elles pourraient résoudre. Stuart Russell et Peter Norvig examinent ses propositions dans leur manuel de référence sur l’IA, et Nick Bostrom le cite dans Superintelligence: Paths, Dangers, Strategies.

Le roman est ensuite arrivé. Harry Potter et les Méthodes de la rationalité, HPMOR pour ses fans, a été publié en feuilleton sur FanFiction.Net du 28 février 2010 au 14 mars 2015 : 122 chapitres et plus de 660 000 mots au total. Le récit ne modifie qu’un détail de l’histoire originale. Petunia Evans épouse un professeur d’Oxford, Michael Verres, et Harry, devenu orphelin, grandit en recevant une instruction scientifique à la maison. Le garçon qui arrive à Poudlard met donc la magie à l’épreuve de la méthode scientifique et s’irrite des incohérences du monde des sorciers. À Serdaigle, il se lie d’amitié avec Draco Malfoy, Hermione Granger et le professeur Quirrell. L’intrigue s’assombrit davantage que ne le laissent penser ses plaisanteries, mais son véritable sujet, c’est la manière de penser.

Les lecteurs se sont vivement divisés. En 2011, The Atlantic a rendu compte du tollé provoqué sur les forums de fanfiction par son « traitement blasphématoire — ou brillant — de l’œuvre originale », et a cité l’écrivain de science-fiction David Brin, qui la qualifiait de « série formidable, subtile, dramatique et stimulante ». Le juriste William Baude est allé plus loin dans The Washington Post : « le meilleur livre Harry Potter jamais écrit, même s’il ne l’a pas été par J.K. Rowling ». Amanda Silberling, de TechCrunch, l’a trouvé « vraiment très fastidieux ». Yudkowsky a refusé une proposition visant à supprimer les éléments empruntés à Rowling pour vendre l’histoire comme un roman original, à la manière de Fifty Shades of Grey, issu d’une fanfiction de Twilight. « HPMOR est fondamentalement lié aux romans Harry Potter originaux et ne peut se comprendre qu’à leur lumière », a-t-il déclaré.

Le paradoxe de sa carrière, c’est que l’homme le plus associé aux mises en garde contre l’IA a aussi incité des gens à la développer. En février 2023, Altman a écrit que Yudkowsky avait « donné à beaucoup d’entre nous envie de travailler sur l’AGI », contribué au financement de DeepMind et joué un rôle « déterminant dans la décision de créer OpenAI ». Au printemps de la même année, Yudkowsky a publié une tribune dans le magazine Time pour réclamer un moratoire mondial et indéfini sur les grands entraînements de modèles d’IA. Time l’a ensuite inscrit sur sa liste 2023 des 100 personnalités les plus influentes dans le domaine de l’IA.

Son livre le plus directement consacré au sujet est paru le 16 septembre 2025. Écrit avec Nate Soares, son collègue de MIRI, et publié par Little, Brown, If Anyone Builds It, Everyone Dies soutient que les systèmes d’IA modernes sont développés par croissance plutôt que façonnés : ils sont entraînés à partir de milliards de paramètres numériques que leurs propres concepteurs ne peuvent pas lire. Personne ne peut donc définir de manière fiable les objectifs d’un système qui finit par nous dépasser en intelligence. Selon les auteurs, l’humanité serait vaincue par une superintelligence comme les joueurs le sont par le moteur d’échecs Stockfish, et la seule option sûre consiste à mettre en place un arrêt coordonné. Le livre a figuré sur les listes de best-sellers du New York Times, dans les catégories des livres reliés et des ouvrages de non-fiction, toutes éditions confondues.

Les critiques ont été aussi partagées que les lecteurs du roman. Dans The Guardian, David Shariatmadari a trouvé le livre « aussi limpide que ses conclusions sont difficiles à avaler ». Ian Leslie, dans The Observer, a salué sa « clarté, son allant et sa joie à peine contenue ». Stephen Marche l’a comparé à un manuel de scientologie dans The New York Times, tandis qu’Adam Becker, dans The Atlantic, a été plus catégorique encore : « Ils ont tout simplement tort. »

Le débat s’est depuis déplacé à l’écran. Yudkowsky compte parmi les intervenants, aux côtés de Yoshua Bengio et Timnit Gebru, de The AI Doc: Or How I Became an Apocaloptimist, le documentaire de Daniel Roher sur le fait de devenir père à l’ère de l’IA, arrivé sur Netflix le 15 septembre 2026. Le jeune sorcier qui mène des expériences contrôlées et le coauteur qui veut mettre fin à l’expérience sont un seul et même écrivain, qui invite toujours ses lecteurs à suivre un raisonnement jusqu’au bout, aussi inconfortable que soit la dernière étape.

Étiquettes: intelligence artificielle, écrivains, Eliezer Yudkowsky, Harry Potter et les Méthodes de la rationalité, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, l’auteur de fanfiction qui a fait de la peur de l’IA un best-seller

Dans le même genre

Sam Altman, ou l’art d’accélérer vers ce que l’on dit redouter

Sam Altman, patron d’OpenAI, à l’ONU : « L’IA doit être conçue pour les gens, pas seulement pour faire tourner la machine plus vite… »

Bill Gates : « L’IA sera soit le plus grand facteur d’égalité jamais inventé, soit la pire source d’injustice »

Sam Altman sur l’IA : « …il est non négociable de l’utiliser »

Meta lance son IA en open source et accuse OpenAI d’être le vrai risque

Sam Altman : « Nous sommes désormais dans la singularité »

Discussion