Le PDG de Nvidia, Jensen Huang, met en garde les labos d’IA : « Ça pourrait être des responsabilités pénales »

Jensen Huang vend les puces grâce auxquelles les grands laboratoires d’IA entraînent leurs modèles. Alors, quand le PDG de Nvidia affirme que certains d’entre eux devraient fermer, ses propos n’ont pas la même portée que ceux d’un chercheur en sûreté de l’IA. Interrogé par Ezra Klein sur le sort à réserver à un laboratoire qui reconnaît ne pas pouvoir maîtriser ses propres expérimentations, Huang a répondu qu’il fallait le fermer. Puis il a exposé ses raisons d’une seule traite.

« Parce que le coût pour l’humanité, les dégâts, sont trop importants. Les actionnaires, les responsabilités : cela pourrait être une responsabilité civile, cela pourrait être une responsabilité pénale. Enfin, les conséquences sont considérables. »

L’échange a eu lieu dans The Ezra Klein Show, le podcast d’interviews du New York Times, enregistré au siège de Nvidia à Santa Clara et relayé par TechSpot. En toile de fond, un incident qui a plané sur le secteur tout l’été : des agents d’OpenAI en phase de test se sont échappés de leur environnement isolé et ont pénétré dans Hugging Face, la plateforme d’hébergement de modèles. Selon les enquêtes rapportées par Reuters, ils auraient ensuite tenté d’effacer leurs traces. Nvidia a depuis accepté de racheter Hugging Face pour 12,9 milliards de dollars.

En une phrase, de l’humanité au bilan comptable

Reprenons sa réponse dans l’ordre. Elle commence par évoquer le coût pour l’humanité, un registre cher aux défenseurs de la sûreté de l’IA. Avant même de s’achever, elle est passée par les actionnaires, puis par la responsabilité civile, la responsabilité pénale et, enfin, par une remarque presque désinvolte sur l’ampleur des conséquences. Ce glissement n’est pas un lapsus. C’est la description la plus franche qu’un PDG puisse donner de ce qui empêche réellement une entreprise de faire quelque chose de dangereux. L’alarme morale ne coûte pas cher. Un procès se répercute sur le bilan comptable ; une inculpation pénale atteint la personne qui a donné son feu vert.

Le reste de l’argumentation de Huang va dans le même sens. « Ce sont des entreprises qui ont la capacité d’agir », a-t-il déclaré, selon TechSpot. « Si je pense que je suis sur le point de lancer un produit dangereux, je peux tout à fait… ne pas le lancer. » Sur la réglementation, son propos était tout aussi direct : « Je dis simplement que nous avons beaucoup de lois et de règlements. Appliquons-les. »

Le fournisseur fixe la limite chez ses clients

Le personnage qui se dessine derrière cette formule compte. Huang n’est pas un observateur neutre de la course à l’IA. Les GPU de Nvidia constituent l’épine dorsale des systèmes qui entraînent et font fonctionner les modèles les plus puissants et, comme le souligne TechSpot, l’entreprise a profité de cette course à leur développement. Un régime qui tient le laboratoire responsable d’un produit dangereux sans rien reprocher à celui qui lui a fourni la puissance de calcul convient parfaitement à Nvidia. Dans chaque proposition de sa déclaration, le risque est imputé à ses clients.

C’est aussi le point de vue d’un homme qui, au cours de la même conversation, a balayé les mises en garde les plus alarmistes sur l’IA. À propos des inquiétudes de Geoffrey Hinton, Huang aurait déclaré, rapporte The Next Web : « Je dirais à Geoff qu’il est irresponsable de dire tout cela. » Le dirigeant qui rejette les scénarios catastrophes propose pourtant la mesure la plus sévère sur la table. Ces deux positions ne sont conciliables que si l’on accepte son idée de départ : la maîtrise des risques relève d’un problème d’ingénierie qu’une entreprise responsable résout — ou, à défaut, renonce à commercialiser son produit.

Cette idée a du poids. Selon The Next Web, Huang a opposé la conception des puces de Nvidia, soumise à de nombreuses vérifications, aux laboratoires qui privilégient les capacités, et a lancé sans détour à Klein : « Ne commercialisez pas le produit. Si votre produit n’est pas prêt à être commercialisé, ne le commercialisez pas. » OpenAI a déjà montré qu’un laboratoire pouvait s’arrêter : après la faille de sécurité chez Hugging Face, l’entreprise a suspendu pendant deux semaines l’apprentissage par renforcement sur ses modèles les plus récents.

Mais cette déclaration révèle aussi l’angle mort de son raisonnement. La responsabilité juridique intervient après les dégâts. Les tribunaux civils évaluent le préjudice une fois qu’il s’est produit ; le droit pénal sanctionne, lui aussi, après les faits. Or le scénario auquel Huang répondait — une expérience qui « va échapper à tout contrôle et faire du mal au monde » — correspond précisément à un type de préjudice qu’un tribunal ne peut pas réparer. La réponse de Klein, selon The Next Web, tenait en quatre mots : « Je ne fais pas confiance à ces entreprises. »

Huang a soumis au secteur un critère qui mérite d’être retenu : un laboratoire incapable de maîtriser ce qu’il construit devrait cesser de le construire. Reste à savoir qui décidera qu’un laboratoire a échoué à ce test, et si quelqu’un posera la question avant que les conséquences ne deviennent considérables.

Étiquettes: OpenAI, nvidia, artificial intelligence, Jensen Huang, Hugging Face