Contexte et objectifs

Lors du Open Compute Project Global Summit, Nvidia a présenté une série d’innovations destinées à réduire les goulets d’étranglement de fabrication et de déploiement des « usines d’IA ». Selon Joe DeLaere, responsable des solutions d’infrastructure IA, la vitesse de mise en place des systèmes reste le principal frein du secteur. Les nouvelles propositions s’appuient sur la plateforme MGX, déjà utilisée pour les serveurs GPU, afin d’établir des références communes pour la disposition des racks, le refroidissement, l’alimentation et le réseau.

Architecture MGX et design de rack

Le design Vera Rubin, intégré dans la version MGX 1.2, propose un châssis ouvert où les composants de refroidissement liquide sont « bind‑mate », c’est‑à‑dire pré‑alignés pour faciliter l’assemblage. Cette approche permet d’ajouter des baies d’E/S sans ventilateur, tout en conservant une alimentation standardisée, ce qui simplifie la production en série et l’installation sur site. Nvidia affirme que les processeurs Vera offrent environ deux fois les performances de la génération précédente de GPU Grace sur plusieurs charges de travail, et une amélioration de 1,8 × sur le benchmark Terminal‑Bench, dédié aux tâches d’agents IA impliquant des conteneurs de code.

Avancées réseau et collaborations

Sur le plan du réseau, Nvidia a annoncé que Meta adoptera le commutateur Ethernet Spectrum‑6, un ASIC capable de 102,4 terabits‑par‑seconde. Ce débit vise à soutenir les flux massifs générés par la distribution de données entre des milliers de processeurs ou GPU. En parallèle, Nvidia intègre le protocole Falcon Transport de Google dans son écosystème Spectrum‑X, avec un premier support prévu sur les futurs ConnectX‑10 SuperNIC. Falcon gère la congestion, la récupération de paquets perdus et la sécurité des connexions sur de grands réseaux. Enfin, Nvidia et Cisco co‑définissent un module optique ultra‑dense (USFP) capable de 400 Gbps par voie, soit quatre fois la densité de bande passante du format OSFP 200G, tout en améliorant l’efficacité énergétique de 1,3 ×.

Implications pour les usines d’IA

Ces contributions ouvrent la voie à des usines d’IA plus modulaires : les racks Vera Rubin offrent une base physique réutilisable, tandis que le spectre de commutation Spectrum‑6 et les modules USFP permettent d’accroître la capacité réseau sans agrandir l’enveloppe du centre de données. La combinaison d’un refroidissement liquide simplifié, d’une alimentation normalisée et d’une interconnexion à 102,4 Tbps réduit le nombre de pièces uniques à fabriquer, ce qui accélère la chaîne d’approvisionnement. Toutefois, la dépendance à des composants propriétaires comme le ASIC Spectrum‑6 ou le module USFP peut limiter la portabilité vers des fournisseurs alternatifs, un point que Nvidia n’a pas détaillé. En l’absence de données publiques sur la consommation énergétique totale du système complet, l’impact réel sur la densité de puissance reste à confirmer.