IA

Yann LeCun aux chercheurs universitaires : « Vous ne devriez absolument pas travailler sur les LLM »

Adrian Kessler
Ajoutez-nous sur Google

Depuis des années, Yann LeCun répète à l’industrie de l’IA que les grands modèles de langage sont une fausse piste. Dans un extrait de conférence qui circule actuellement sur X, le lauréat du prix Turing adresse cet avertissement à un public plus restreint et plus vulnérable, les chercheurs des laboratoires universitaires, et ne prend plus aucune précaution de langage.

« Vous ne devriez pas travailler sur les LLM. Du moins, si vous êtes dans le monde universitaire, vous ne devriez absolument pas travailler sur les LLM. Vous n’avez rien à apporter. Si vous voulez faire réellement avancer l’IA, développer une IA ancrée dans le monde réel, si vous voulez une IA physique, ne travaillez pas sur les LLM, ni sur les modèles génératifs. »

Il a tenu ces propos à l’ETH Zurich, lors de sa conférence « World Models: Enabling the Next AI Revolution », dans le cadre des cours Frontiers of Embodied AI, le 29 mai. Cette semaine, le commentateur spécialisé en IA Rohan Paul a publié l’extrait en le présentant comme la « dernière conférence » de LeCun, alors qu’il date de quatre mois. La remarque suivante a déclenché les rires : « Vous pouvez donc probablement deviner que cela ne me rend pas très populaire dans la Silicon Valley. » La diapositive derrière lui, intitulée « Recommandations à mes collègues scientifiques de l’IA », se conclut en lettres rouges capitales : « Si l’IA de niveau humain vous intéresse, ne travaillez pas sur les LLM. »

La première partie porte sur les moyens de calcul

Une fois la provocation mise de côté, le conseil adressé aux universitaires relève de l’économie. Les progrès sur les grands modèles de langage reposent sur des entraînements effectués sur des grappes de serveurs que seules quelques entreprises ont les moyens de financer. Un doctorant ne peut pas apporter grand-chose à une course dont l’issue dépend des budgets : c’est ce que signifie concrètement « vous n’avez rien à apporter ». LeCun défend cette idée depuis un certain temps : à VivaTech, à Paris, en 2024, il a expliqué à des étudiants qui souhaitaient bâtir la prochaine génération d’IA que les LLM étaient entre les mains des grandes entreprises, comme l’a rapporté VentureBeat.

La diapositive énumère aussi les domaines auxquels il souhaiterait voir consacrer du temps : les architectures à plongement conjoint plutôt que les modèles génératifs ; les modèles fondés sur l’énergie plutôt que les modèles probabilistes ; les méthodes régularisées plutôt que les méthodes contrastives ; et le contrôle prédictif par modèle plutôt que l’apprentissage par renforcement, qu’il ne garderait que pour corriger un plan lorsque le monde ne se comporte pas comme prévu. Ce sont des idées que l’on peut mettre à l’épreuve avec du matériel relativement modeste, et c’est là que les laboratoires universitaires conservent un avantage.

La seconde partie, la véritable provocation

« Ne travaillez pas non plus sur les modèles génératifs » va plus loin que les critiques habituelles des chatbots. Cette formule rejette la génération elle-même, autrement dit l’idée de construire l’intelligence en prédisant le mot ou le pixel suivant, ce qui place LeCun en porte-à-faux avec une bonne partie du secteur de l’IA physique auquel on l’associe. La semaine dernière, AMD a accepté de racheter World Labs, la société de Fei-Fei Li, dans le cadre d’une transaction entièrement en actions valorisée à environ 8,2 milliards de dollars. The Register a présenté l’opération comme une précaution face au risque que les LLM soient une impasse, en rappelant que LeCun l’a lui aussi affirmé. Pourtant, World Labs conçoit des modèles capables de générer et de simuler des environnements en 3D. Cosmos 3, de NVIDIA, est également un modèle génératif du monde, et Physical Intelligence construit ses modèles robotiques à partir de modèles vision-langage. Les capitaux qui affluent vers les « mondes, plutôt que les mots » ne se dirigent, pour l’essentiel, pas vers la conception qu’en a LeCun.

Les conseils d’un homme qui a des intérêts dans l’affaire

Il faut aussi tenir compte de la position de celui qui parle. LeCun a quitté Meta et préside désormais le conseil d’administration d’AMI Labs, à Paris. En mars, l’entreprise a levé 1,03 milliard de dollars, sur la base d’une valorisation de 3,5 milliards, lors du plus important tour d’amorçage jamais réalisé en Europe, afin de développer des modèles du monde comme alternative aux LLM. Elle étoffe ses équipes à Paris, New York, Montréal et Singapour. Chaque chercheur qui suivrait son conseil pourrait devenir une recrue potentielle.

Ce contexte ne rend pas son conseil cynique pour autant. Il défendait déjà cette idée avant la création d’AMI, et sa réputation en a souffert bien avant que des investisseurs n’y consacrent de l’argent. Mais en 2026, la recommandation de recherche et le plan d’affaires vont exactement dans la même direction, et les étudiants devraient en tenir compte.

LeCun a plaisanté en disant que cette prise de position lui faisait perdre des amis dans la Silicon Valley. Pour un étudiant qui choisit un sujet de thèse, l’enjeu est plus important : miser son doctorat sur l’architecture dont il vient de lever un milliard de dollars pour démontrer la validité.

Étiquettes: , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.