Le plus intéressant dans la dernière mise à jour d’Elon Musk sur Grok n’est pas le langage de programmation. C’est ce qu’il reconnaît au passage : le prochain modèle est en retard parce que l’équipe chargée de le construire a abandonné les outils open source qu’elle utilisait pour entraîner et déployer ses modèles, et a développé les siens.

Présenté comme un avant-goût du lancement, le message est optimiste : l’entraînement est terminé, les résultats aux évaluations progressent et un déploiement progressif est prévu avant la fin de la semaine. Mais vu sous l’angle des systèmes, il en dit beaucoup plus. xAI, désormais intégrée à SpaceX, a décidé que les frameworks partagés la freinaient. L’entreprise mise donc ce modèle, et le suivant, sur la maîtrise de toutes les couches logicielles qui séparent ses chercheurs de ses GPU.

« Nous avons abandonné JAX/SGLang et réécrit de zéro toute la pile d’apprentissage par renforcement et d’inférence en C/C++, ce qui nous a pris un peu plus de temps », a écrit Musk sur X, en réponse à un utilisateur qui demandait quand attendre Grok 4.8. JAX est la bibliothèque numérique basée sur Python avec laquelle xAI avait entraîné ses modèles ; SGLang est un framework open source de mise en service des grands modèles de langage. Le préentraînement est terminé, a-t-il précisé, après qu’« un important travail de nettoyage a été nécessaire sur les données SFT », l’ensemble de données d’affinage supervisé. « Maintenant, la version 4.8 est en phase d’apprentissage par renforcement et les résultats des évaluations commencent à grimper. »

Cette déclaration éclaire le retard que Musk avait lui-même annoncé. À la mi-septembre, il avait présenté le modèle comme « un modèle de 2,5 T entraîné avec notre nouvelle pile logicielle C++ », qui devait « terminer son entraînement cette semaine et commencer l’apprentissage par renforcement ». À peu près à la même période, comme l’a rapporté Analytics India Magazine, il avait qualifié la partie consacrée à l’apprentissage par renforcement de « pile logicielle encore assez ancienne, composée de nombreux systèmes tiers différents », qu’il faudrait corriger « le moment venu ». Fin octobre, il écrivait : « Je sais que cela prend plus de temps que prévu, mais Grok 4.8 ne décevra pas. » La correction s’est finalement révélée être la source du retard. Le code de préentraînement était déjà nouveau ; il fallait reconstruire la partie qui apprend au modèle à se comporter et celle qui répond aux utilisateurs avant de pouvoir passer à l’étape suivante.

La « réécriture en C++ » évoquée dans les titres est en grande partie une réécriture en C. Interrogé sur le langage, Musk a répondu : « Du C avec un peu de C++, mais pas beaucoup. » Selon lui, cette pile est issue des logiciels écrits par les ingénieurs de SpaceX pour Starlink (« Chez SpaceX, nous écrivons nos propres en-têtes et calculons nous-mêmes notre temps », a-t-il ajouté). En septembre, il avait expliqué que le code de préentraînement avait été écrit par l’équipe de Starlink et qu’il « n’avait pas été écrit par une IA », car « l’IA n’est pas encore assez performante pour produire des logiciels extrêmement performants (mais elle le sera) ».

La justification de cette démarche est publique depuis le printemps. Fin mai, Musk avait annoncé que SpaceX avait presque achevé une pile d’entraînement interne en C, conçue pour correspondre exactement à un cluster de 220 000 puces Nvidia GB300, et estimé que, pour les grands entraînements, elle pourrait être « plus d’un ordre de grandeur » plus rapide que JAX. Fin juin, il avait promis des « gains vraiment considérables » d’ici environ trois mois, une fois réécrite l’ensemble de la pile d’entraînement et d’inférence, et « la plupart des couches logicielles complètement supprimées ». Au regard de ce calendrier, la réécriture a été livrée avec environ six semaines de retard. Aucune de ces promesses de vitesse n’a été vérifiée en dehors de l’entreprise.

Maîtriser toute la pile a des avantages et des inconvénients. Abandonner JAX et SGLang libère xAI des abstractions et des calendriers de publication conçus par d’autres, et permet à ses ingénieurs d’adapter directement les logiciels à un matériel précis. En contrepartie, chaque bogue dans la boucle d’entraînement ou dans la chaîne de mise en service relève désormais de la seule responsabilité de xAI, dans un code qu’aucune communauté extérieure n’a utilisé avant son arrivée chez les utilisateurs.

Musk tempère aussi fortement les attentes. « Grok 4.8 n’aura rien à voir avec la version 4.7 (heureusement) », a-t-il écrit, en dénigrant publiquement le modèle lancé par xAI le 21 septembre. « Il n’est pas encore extraordinaire, mais cette fois, les fondations sont bien construites ; je m’attends donc à ce qu’il évolue et devienne quelque chose de spécial. » Moins d’une heure plus tard, interrogé sur la comparaison entre la version 4.8 et Opus 5.5 d’Anthropic, il a répondu : « Il ne sera pas aussi bon. Opus 5.5 est un chef-d’œuvre. » Sa véritable promesse porte sur une échéance plus lointaine : « Grok 5 devrait dépasser Opus 5.5, et cela arrivera peut-être dans deux ou trois mois. »

Tout le reste manque encore. La page d’actualités et la documentation destinée aux développeurs de xAI ne le mentionnent pas, selon les outils de suivi qui les surveillent ; il n’existe ni fiche de modèle, ni résultat de benchmark, ni tarif, ni référence dans le catalogue de l’API. Le chiffre de 2 500 milliards de paramètres vient uniquement de Musk, tout comme les résultats d’évaluation qui, selon lui, progressent. Le déploiement progressif auprès des utilisateurs de Grok Bot est prévu « plus tard cette semaine », sans date précise. En octobre, Musk avait indiqué que la plupart de ces requêtes seraient prises en charge par « une version ultrarapide de Grok 4.8 ».

Le déploiement de cette semaine servira donc davantage à tester les tuyaux qu’à évaluer le modèle. Si celui-ci résiste au trafic réel de Grok Bot, la réécriture deviendra la plateforme sur laquelle sera entraîné Grok 5. S’il trébuche, il ne restera aucun framework en amont à accuser.

Étiquettes: Elon Musk, SpaceX, modèles d'IA, xAI, Grok