OpenAI et Anthropic veulent ralentir l’IA — et cela leur bâtit une douve

Ce qui frappe dans l’enthousiasme soudain pour ralentir l’intelligence artificielle, ce n’est pas que ceux qui la construisent veuillent désormais des freins. C’est que les freins qu’ils décrivent sont des freins qu’eux seuls peuvent se payer confortablement. Lorsque les dirigeants des laboratoires d’IA les plus valorisés s’accordent, presque à l’unisson, pour dire que le domaine va trop vite, le dossier de la sécurité est réel — et tout aussi réel est le dossier économique qui se cache tranquillement en dessous.

L’élément déclencheur a été un appel de Dario Amodei, d’Anthropic, à « pace the frontier » : ralentir le rythme d’amélioration des capacités des modèles, installer des évaluateurs indépendants au sein des laboratoires, et amener les principaux acteurs des pays démocratiques à s’accorder sur des normes de sécurité communes. Il a présenté le rejet public de l’IA comme, selon ses mots, une crise de confiance. Dans un court laps de temps, Sam Altman a déclaré être d’accord, et qu’OpenAI en avait discuté exactement de la même manière ; Elon Musk a offert un soutien de deux mots : « Dario a raison. » Les médias ont traité cela comme une conscience longtemps attendue arrivant tout à la fois.

Lisez le même plan en tant qu’analyste plutôt que responsable de la sécurité, et une deuxième image apparaît. Des évaluateurs tiers intégrés, des tests d’alignement certifiés, des cadres de risques publiés et des rapports d’incidents ne sont pas seulement des garde-fous ; ce sont des coûts fixes. Et les coûts fixes sont l’arme concurrentielle la plus fiable dont dispose une grande entreprise, parce qu’ils pèsent sur tout le monde de manière égale en dollars et sur personne de manière égale en douleur.

Considérez l’arithmétique. Les plus grands fournisseurs américains d’infrastructure cloud et d’IA se sont engagés à dépenser de l’ordre de 660 à 690 milliards de dollars en investissements pour l’année à venir, avec Amazon seul près de 200 milliards, et Alphabet, Meta et Microsoft chacun dans les centaines de milliards ou s’en approchant. Face à des bilans comme ceux-ci, un régime de conformité — une équipe d’évaluateurs intégrés, un cadre de sécurité annuel, une pénalité que la Californie plafonne à un million de dollars par infraction — n’est qu’une erreur d’arrondi. Pour une start-up qui tente d’atteindre la frontière, c’est la totalité de sa piste d’atterrissage.

Ce n’est plus hypothétique. La SB 53 de Californie définit déjà un « développeur frontalier de grande taille » selon deux critères : des modèles entraînés au-dessus d’un seuil de calcul très élevé, et plus d’un demi-milliard de dollars de revenus. Ces entreprises doivent publier des cadres de sécurité et signaler les incidents critiques dans des délais serrés. En Europe, l’article 55 de l’AI Act exige que les fournisseurs des modèles à usage général les plus capables effectuent des tests adversariales, atténuent les risques systémiques et signalent les incidents graves. Le plancher est en train d’être coulé ; la question est de savoir qui est assez grand pour se tenir dessus sans s’en apercevoir.

L’indice le plus clair est qui ne demande pas de freins. Le plan ne nomme jamais ses perdants naturels, mais ils sont faciles à identifier : les laboratoires dont le modèle entier consiste à donner les poids — Meta, Mistral (France), DeepSeek et Alibaba (Chine). Comme l’a formulé une analyse dissidente, ce sont « les quatre noms que l’essai n’imprime jamais », les fabricants des modèles gratuits qu’un client payant pourrait autrement télécharger au lieu de louer une API. On ne peut pas certifier l’alignement d’un modèle que n’importe qui peut modifier en un après-midi, donc un régime de normes visant la frontière frappe le plus durement les poids ouverts. Et le camp de l’open source gagne précisément les utilisateurs que les acteurs établis préféreraient garder : un modèle chinois ouvert, Qwen, compte des téléchargements en milliards là où Llama de Meta compte en centaines de millions.

Rien de tout cela n’est nouveau. C’est le geste le plus ancien dans toute industrie réglementée — l’acteur établi accueille le règlement qu’il peut se permettre, parce qu’un coût insignifiant dans ses comptes est un mur chez un rival. Les économistes ont un nom simple pour cela, la capture réglementaire, et elle n’exige pas de mauvaise foi. Un argument de sécurité peut être tout à fait sincère et néanmoins fonctionner comme une barrière à l’entrée. Ici, les deux choses sont vraies à la fois.

Pour l’Europe, les enjeux sont plus aigus qu’ils n’y paraissent. Le seul challenger frontalier crédible du continent, Mistral, est précisément un laboratoire aux poids ouverts, et ses clients espagnols et plus largement européens — les start-ups construisant des produits sur des modèles bon marché et modifiables — sont ceux qui perdent le plus si le plancher mondial de conformité est écrit autour de quatre géants américains. Un règlement conçu à San Francisco et ratifié à Bruxelles peut protéger le public et tirer l’échelle derrière les leaders en même temps.

Alors, bienvenue au virage de la sécurité : les risques sont réels et les évaluateurs sont attendus depuis longtemps. Mais regardez ce qui vient ensuite. Si les règles finales s’installent exactement là où les quatre géants peuvent payer et personne de plus petit ne le peut, le ralentissement n’aura pas rythmé la frontière, mais plutôt l’aura clôturée.

Étiquettes: OpenAI, Anthropic, AI regulation, Mistral, open-weight models