Charles III met en garde les créateurs de l’IA contre son ‘danger existentiel’

« Ceux qui ont créé ces technologies avertissent désormais de plus en plus que l’IA risque de développer des capacités plus sombres — peut-être même de prendre la vie. » La phrase choisie par le roi Charles n’était pas une mise en garde contre les pirates ou les États hostiles. C’était un miroir tendu à ceux qui construisent ces systèmes, et l’avertissement qu’il contenait, il l’attribuait à eux-mêmes.

C’est la moitié du discours que la plupart des médias ont éludée. La phrase qui a circulé était la plus douce du même discours — les « dangers existentiels de ces technologies tombant entre de mauvaises mains ». Les mauvaises mains sont un cadre confortable si vous êtes celui qui livre l’outil. Cela place le danger à l’extérieur, chez un méchant qui abuse d’un instrument neutre, plutôt que dans l’instrument lui-même ou dans les entreprises qui se précipitent pour le rendre plus performant. Charles a refusé d’en rester là.

Au lieu de cela, il a renvoyé le risque à sa source. Les créateurs sont ceux qui tirent aujourd’hui la sonnette d’alarme, a-t-il dit — et a ensuite posé une question à l’assemblée avec une pointe d’acuité : « Ne faut-il pas, assurément, des moyens de contrôle suffisants avant qu’il ne soit trop tard ? »

Le poids de cette phrase repose sur un seul mot. Le contrôle est la seule chose qu’une réunion comme celle-ci ne peut pas réellement confier. Elle n’a aucun pouvoir légal, ne fixe aucune limite qu’une entreprise doive respecter, et n’entraîne aucune sanction en cas de non-respect. Ce qui en est ressorti, c’est un accord pour poursuivre des « principes partagés » — une expression qui décrit une aspiration, pas un mécanisme. Les dirigeants, de l’avis général, étaient reconnaissants de la conversation. La gratitude n’est pas une garantie.

Il y a ici une inversion institutionnelle facile à manquer sous le cérémonial. Un monarque n’a aucun levier sur Nvidia, OpenAI, Anthropic ou Google DeepMind. Il ne peut pas autoriser un modèle, auditer un entraînement, ni ralentir un déploiement. Ceux qui peuvent faire ces choses — les législateurs, les régulateurs de la concurrence, le ministre qui était d’ailleurs assis dans la salle — n’étaient pas ceux qui convoquaient. Une figure à l’autorité symbolique et sans pouvoir de coercition demandait aux personnes disposant de tout le pouvoir sans contrainte au monde de bien vouloir se policer elles-mêmes. C’est à peu près l’arrangement que l’industrie a toujours préféré.

Lu ainsi, le sommet a rendu un service discret aux constructeurs. Il a permis à l’histoire de devenir « les mauvaises mains », le cadre dans lequel la technologie est bonne et seul son abus est le problème. Il a transformé un avertissement sur une capacité inhérente — la machine développant des « capacités plus sombres » sur sa propre trajectoire — en un débat familier sur les mauvais acteurs. Et il a enveloppé le tout dans la légitimité d’une Couronne qui, aussi sincère soit-elle, ne peut imposer une seule ligne des mesures de protection qu’elle a appelées de ses vœux.

La réunion s’est tenue à Dumfries House, le domaine géorgien restauré du roi à Ayrshire, en Écosse. Dans la salle se trouvaient le directeur général de Nvidia, Jensen Huang, le fondateur de Google DeepMind, Demis Hassabis, la directrice financière d’OpenAI, Sarah Friar, le directeur des affaires mondiales d’Anthropic, Tino Cuéllar, le ministre de l’Intelligence artificielle du Royaume-Uni, Kanishka Narayan, et le père Paolo Benanti, conseiller du Vatican pour l’éthique des technologies. Charles a pris soin de saluer aussi les promesses de l’IA — notamment en médecine — et de soulever son coût environnemental. Il a demandé aux invités de maintenir la technologie « fermement au service de l’humanité, de la communauté et du monde naturel ». Aucun engagement contraignant n’est sorti de la salle avec eux.

Ainsi, les personnes les plus puissantes du secteur ont entendu un chef d’État décrire leur produit comme capable, par lui-même, de prendre la vie — et sont reparties avec leur cadre préféré intact et une audience royale à montrer. Les moyens de contrôle que le roi a demandés restent exactement là où ils étaient avant qu’il ne parle : entre les mains de ceux à qui il s’adressait, et de personne d’autre.

Étiquettes: OpenAI, artificial intelligence, AI safety, AI risks, King Charles