Présentation de Vera Rubin

Nvidia a présenté les dernières avancées de sa plateforme Vera Rubin, destinée aux usages de l'intelligence artificielle. Les performances de cette nouvelle génération sont impressionnantes, avec des gains de 10 fois plus de tokens par watt pour certaines applications.

Architecture et fonctionnement

La plateforme Vera Rubin repose sur une architecture customisée, avec des processeurs graphiques (GPU) et des processeurs centraux (CPU) spécifiquement conçus pour les workloads d'intelligence artificielle. Les CPU Vera sont basés sur une microarchitecture Olympus core, optimisée pour les flux de contrôle irréguliers des agents d'intelligence artificielle.

GPU hours de test : 1,4 million

Les tests ont montré des améliorations de 1,9 fois pour les performances des agents d'intelligence artificielle et de six fois pour la latence, par rapport aux alternatives x86.

Optimisations et impacts environnementaux

Nvidia a également mis en avant les optimisations de son infrastructure, permettant de déployer 40% plus de GPU dans le même envelope de puissance. Les systèmes de refroidissement à 45°C en circuit fermé permettent d'économiser environ 4 millions de gallons d'eau par mégawatt par an.

Simulated decode throughput : 2,3 fois supérieur à Ethernet

Les interconnects NVLink 6 offrent une bande passante de décodage simulaire 2,3 fois supérieure à celle des réseaux Ethernet. La plateforme Spectrum-X permet une bande passante de mémoire directe 1,6 fois plus rapide avec 1,7 fois moins de commutateurs.

Implications et limites

Les améliorations de performances et les optimisations de l'infrastructure de Nvidia sont prometteuses, mais il est important de considérer les limites et les défis potentiels liés à la mise en œuvre de ces technologies. Les coûts et la complexité de la mise en place de ces systèmes pourraient être des freins à leur adoption.