IA

xAI se dote d’un supercalculateur d’IA de 100 000 GPU

Sur fond de polémique environnementale, Elon Musk a présenté Colossus, son supercalculateur, qu'il décrit comme « le plus puissant au monde ». 

Les choses avancent rapidement pour xAI, la startup d’intelligence artificielle fondée par Elon Musk et à l’origine du modèle de langage non censuré Grok. Après une levée de fonds de 6 milliards de dollars auprès de grands fonds d’investissement en mai, destinée à déployer une infrastructure avancée, Elon Musk a annoncé la mise en service de Colossus, un supercalculateur dédié à l’entraînement de la troisième génération des modèles d’xAI, Grok-3.

Il aura fallu seulement 122 jours pour concevoir cette machine qui renferme 100 000 GPU Nvidia H100. Sans surprise, Elon Musk a vanté les mérites de son nouveau jouet sur X : « Colossus est le système d’entraînement en IA le plus puissant au monde. De plus, sa taille doublera pour atteindre 200 000 unités (avec 50 000 H200) dans quelques mois. »

Une consommation d’eau gargantuesque

À titre de comparaison, la version bêta Grok-2 a été entraînée sur 15 000 GPU H100, ce qui a suffi pour en faire l’un des chatbots les plus compétitifs. On peut donc s’attendre à ce que Colossus contribue grandement au succès d’xAI.

Cependant, ce nouvel outil ne fait pas l’unanimité, notamment à Memphis (Tennessee), où il est implanté. Avec sa consommation maximale de 150 MWh, Colossus pèsera lourd sur les ressources locales. Son système de refroidissement peut consommer jusqu’à 3,7 millions de litres d’eau par jour. Et cela ne devrait pas s’arrêter là, puisque xAI prévoit d’ajouter 50 000 accélérateurs Nvidia H200 dans les mois à venir.