Demis Hassabis, sur qui doit financer la sécurité de l’IA : « Le financement devrait être considérable et provenir surtout de l’industrie »

Demis Hassabis a passé l’année à défendre l’idée que les systèmes d’IA les plus puissants devraient être examinés avant d’être mis sur le marché, par un organisme indépendant calqué sur le gendarme qui surveille les courtiers de Wall Street. La question la plus difficile n’est pas de savoir si un tel arbitre doit exister. C’est de savoir qui le paie — et en une seule phrase, le patron de Google DeepMind y a aussi répondu.

« Les fonds devraient être conséquents et provenir en grande partie de l’industrie, afin d’attirer des talents techniques de classe mondiale et de fournir les ressources de calcul nécessaires aux tests à grande échelle »,

Hassabis a écrit cette ligne dans l’essai-cadre exposant sa proposition, cité par Malay Mail. Lue rapidement, elle évoque la responsabilité : les garde-fous coûtent de l’argent, et les entreprises qui construisent la technologie devraient payer la note plutôt que de laisser le public financer le nettoyage. Lue comme un mécanisme, c’est la phrase porteuse de tout le plan — celle qui décide quels intérêts l’arbitre finira par protéger.

La tension se niche à l’intérieur de la phrase. Hassabis veut que l’organisme soit indépendant. Il veut aussi qu’il soit financé, « en grande partie », par l’industrie même qu’il serait chargé de juger. Ces deux objectifs tirent dans des directions opposées, et l’histoire du modèle qu’il a choisi montre lequel des deux a tendance à l’emporter. La Financial Industry Regulatory Authority, son modèle, est payée par les sociétés de courtage qu’elle supervise. La sénatrice Elizabeth Warren soutient depuis des années que la FINRA agit « davantage dans l’intérêt des sociétés de courtage qui paient ses factures que dans celui des investisseurs particuliers qu’elle est censée protéger ».

L’objection n’est pas marginale. Nader Henein, analyste vice-président chez Gartner, qualifie l’autorégulation de simplement « non viable », car la plupart des fournisseurs n’en ont pas la capacité et que l’arrangement « engendre nécessairement » des conflits d’intérêts. L’analyste indépendant Carmi Levy est allé plus loin, décrivant le plan comme « une feuille de route intéressée pour une industrie déterminée à foncer » sans se soucier des dégâts. Même les voix sympathisantes réclament une barrière de protection : Yoshua Bengio dit comprendre le pragmatisme mais insiste sur « une feuille de route claire et précise pour passer d’un modèle volontaire à un modèle obligatoire ».

Tout cela ne fait pas de Hassabis un acteur de mauvaise foi. Il dirige le laboratoire à l’origine d’AlphaFold, le système qui a prédit la forme des protéines et redéfini la manière dont la biologie fonctionne — un bilan qui donne à ses avertissements sur les capacités de pointe un poids réel. C’est précisément pour cela que la phrase mérite qu’on s’y attarde. La voix technique la plus crédible dans la salle est aussi celle qui propose l’arbitre, rédige ses règles et organise son budget à partir des mêmes entreprises qui passeraient l’examen. Soumission volontaire, fenêtre d’examen courte avant la sortie, financement par l’industrie : chaque concession est raisonnable en soi, et ensemble elles décrivent un organisme avec lequel les laboratoires pourraient vivre confortablement.

Un régime de sécurité n’est aussi indépendant que son budget. La phrase qui décidera si celui-ci protège le public ou les laboratoires n’est pas celle qui parle de tester les modèles de pointe. C’est la phrase discrète sur qui signe les chèques.

Étiquettes: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI