IA

Sam Altman, PDG d’OpenAI, dit que sa phrase sur la RAM a été sortie de son contexte : le podcast lui donne à moitié raison

Il répondait à une question sur l'inférence locale de l'IA, et non sur les PC de jeu. Son argument place tout de même la mémoire rare dans les centres de données.
Adrian Kessler
Ajoutez-nous sur Google

Sam Altman tient à ce qu’il soit clairement établi qu’il est du côté des personnes qui achètent de la mémoire pour leur propre ordinateur. Le directeur général d’OpenAI affirme qu’une remarque sur les PC personnels qui accapareraient la précieuse DRAM disponible dans le monde a été sortie de son contexte, et qu’il milite depuis longtemps pour que le secteur en produise davantage. La conversation intégrale montre qu’il a à moitié raison. Le contexte change le sens de ses propos. Mais il ne change pas la destination vers laquelle son argument oriente les puces tant que la pénurie perdure.

Il s’est défendu sur X après plusieurs jours de plaisanteries à ses dépens, auxquelles il a lui-même pris part. Un utilisateur lui a demandé de rebaptiser son compte « Ram Altman ». Il a répondu « ok yeah » et a changé son nom affiché. Puis il s’est expliqué : « i actually do want the world to have tons of memory and people to put as much as they want in their computers, and it is f***ing annoying that this was taken out of context. » Il a ajouté : « I have been arguing for the world to ramp up memory production for a long time. »

Ce qu’Altman a réellement dit dans Cheeky Pint

La phrase est tirée de Cheeky Pint, le podcast animé par John Collison, cofondateur de Stripe, qui publie les transcriptions intégrales de ses épisodes. Voici le passage : « Mais du point de vue de la répartition mondiale, c’est en fait assez terrible que tout le monde garde une bonne partie des réserves limitées de DRAM dans son propre ordinateur. Et qu’elle soit utilisée […] 5 % du temps. Si l’on veut faire face à cet environnement où l’offre est très contrainte, il faut maximiser l’utilisation dans le cloud. »

La plupart des articles ont commencé la citation à cet endroit. Or, ce qui précède est important. Collison lui avait demandé pourquoi les prix élevés de la mémoire n’incitaient pas de nouveaux fabricants à entrer sur le marché. Altman avait répondu que « la main invisible ne fonctionne pas en ce moment ». Pendant des décennies, expliquait-il, un fabricant de DRAM pouvait « investir 20 milliards de dollars de dépenses d’investissement pour en produire 19 milliards » et traverser les cycles de hausse et de baisse. Désormais, alors que chacun d’eux pourrait, selon ses estimations, générer « quelque 100 milliards de dollars de trésorerie disponible en un an », « ils se souviennent tous de leur histoire. Du nombre de fois où ils ont failli faire faillite en construisant trop d’usines ». C’est seulement ensuite qu’il s’est tourné vers les personnes qui veulent faire tourner des modèles en local : exécuter des modèles d’IA open source sur leurs propres machines, en partant du principe que cela soulagerait les centres de données. La remarque sur le fait que ce serait « assez terrible » était sa réponse à cette idée.

Plus tard dans la même conversation, il dit que le coût de l’énergie et des puces « devrait baisser », que « si ce n’est pas le cas, je serai très triste » et que « l’offre doit fortement augmenter ». Sur ce point précis, sa défense tient. Il parlait d’inférence IA à domicile, pas de PC dédiés aux jeux ou au montage vidéo, et il a réclamé une hausse de la production au cours du même épisode.

Là où le contexte cesse de jouer en sa faveur

Sur un marché en manque d’approvisionnement, parler de répartition revient à parler de qui obtient les puces. « Maximiser l’utilisation dans le cloud », c’est les destiner aux centres de données, et OpenAI est l’un des plus gros acheteurs de ce marché. Samsung et SK Hynix ont signé des lettres d’intention pour fournir de la mémoire au projet d’infrastructure Stargate d’OpenAI ; The Register a évalué cet engagement à environ 900 000 démarrages de production de wafers DRAM par mois. Ces lettres ne sont pas contraignantes, mais elles montrent l’ampleur des achats qu’OpenAI entend réaliser sur le marché. Notebookcheck a souligné que cet argument correspond aussi au modèle économique d’OpenAI : des modèles propriétaires qui tournent dans ses centres de données et sont vendus par abonnement.

La déclaration la plus claire de l’épisode en faveur de l’abondance ne vient même pas d’Altman. C’est Collison qui résume la position de son invité en évoquant un « excédent de capacités de calcul » dans lequel « quiconque veut un ordinateur, pour quelque raison que ce soit, peut en avoir un ». Altman n’a pas répondu directement. Il a répliqué en termes de centres de données, en évoquant le coût sur cinq ans d’un gigawatt de capacité, qu’il estime à environ 70 milliards de dollars et qu’il aimerait voir tomber à 20 milliards.

Le chiffre de 5 % ne repose sur aucune source

Le chiffre qui a mis le feu aux poudres n’est étayé par aucune mesure. PC Games Hardware a fait remarquer qu’il décrit la durée pendant laquelle la mémoire est occupée, et non la quantité dont une machine a besoin : un système d’exploitation conserve des données en cache et les programmes réclament davantage de mémoire par à-coups. Même si un gigaoctet reste inutilisé toute la nuit, il doit être disponible au moment où un jeu ou un modèle local se lance. Les gens font aussi tourner l’IA sur leur propre matériel pour des raisons qu’un taux d’utilisation ne peut pas refléter, comme la confidentialité, la maîtrise d’un modèle qu’un fournisseur ne peut pas modifier discrètement, ou le coût unique plutôt qu’un abonnement.

Elon Musk s’est également mêlé à la discussion sur X, en écrivant : « Les gens ont aussi le droit d’avoir leur RAM ! » Comme l’a relevé PC Games Hardware, sa propre entreprise d’IA exploite le centre de données Colossus, à Memphis.

La pénurie se répercute déjà sur les prix en magasin. Le 2 novembre, Raspberry Pi a augmenté de 80 dollars le prix du Raspberry Pi 5 de 16 Go, le portant à 385 dollars, en invoquant « l’absence d’autres sources d’approvisionnement en DRAM de 16 Go ». PC Gamer, dont l’article a largement diffusé l’échange sur X, a écrit que les passionnés de technologie et les joueurs étaient « exclus du marché du matériel neuf » par OpenAI et le reste du secteur de l’IA. L’épisode de Cheeky Pint a été publié le 29 octobre, et les réponses d’Altman sur X ont suivi dans les premiers jours de novembre.

La solution qu’Altman préconise à tout cela, c’est de construire davantage d’usines. De son propre aveu, les entreprises qui devraient les bâtir se souviennent d’avoir frôlé la faillite la dernière fois qu’on leur a dit que le boom serait différent. Tant qu’elles n’auront pas changé d’avis, la mémoire est déjà répartie comme il l’a décrit : elle va à l’acheteur qui paie le plus et l’utilise le plus intensivement — et cet acheteur est un centre de données, pas un ordinateur de bureau.

Étiquettes: , , , ,

Ajoutez-nous sur Google

Discussion

Il y a 0 commentaire.