Présentation de Vera Rubin

Nvidia a lancé Vera Rubin, une plateforme conçue pour améliorer les performances par watt et réduire les coûts de token, avec une production en cours de déploiement auprès d'un large éventail de partenaires mondiaux, notamment des fournisseurs de cloud et d'infrastructure d'IA.

Architecture et fonctionnement

Vera Rubin est une plateforme complète qui intègre sept puces co-conçues, de nouvelles fonctionnalités de réseau et est déjà déployée par des partenaires tels que CoreWeave, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure. La plateforme est conçue pour améliorer les performances par watt et réduire les coûts de token, avec une architecture qui intègre un processeur Arm personnalisé basé sur le noyau Olympus.

Le processeur Vera présente 88 cœurs personnalisés, 176 threads matériels, jusqu'à 1,2 téraoctets par seconde de bande passante de mémoire LPDDR5X, 164 mégaoctets de cache L3 unifié et jusqu'à 1,8 To/s de bande passante cohérente CPU-GPU via NVLink-C2C. Cette architecture est conçue pour améliorer les performances par watt et réduire les coûts de token, en préservant une forte réactivité par cœur tout en scaling sur des charges de travail d'agents hautement concurrentes.

Implications et limites

La plateforme Vera Rubin est une réponse à l'évolution de l'IA, en particulier à l'émergence de l'IA agentic, qui nécessite une réflexion sur l'architecture système, le réseau et la conception des processeurs. Nvidia mise sur une approche de co-conception extrême, avec une plateforme conçue pour améliorer les performances par watt et réduire les coûts de token, tout en préservant une forte réactivité par cœur.

La plateforme Vera Rubin est également équipée d'un réseau conçu pour améliorer les performances de l'IA, avec une passerelle de coalescence de données et un commutateur Ethernet Spectrum-X conçu pour les modèles de trafic de l'IA. Cette approche de co-conception extrême permet à Nvidia de proposer une plateforme complète et intégrée pour l'IA, qui répond aux besoins des entreprises et des chercheurs dans le domaine de l'IA.

Analyse scientifique

L'approche de co-conception extrême de Nvidia permet de réduire les coûts de token et d'améliorer les performances par watt, tout en préservant une forte réactivité par cœur. Cette approche est particulièrement importante dans le contexte de l'IA agentic, où les charges de travail sont hautement concurrentes et nécessitent une grande quantité de calcul et de mémoire. La plateforme Vera Rubin est une réponse à ces besoins, avec une architecture conçue pour améliorer les performances par watt et réduire les coûts de token, tout en préservant une forte réactivité par cœur.

Exemple de code pour la mise en œuvre de l'algorithme d'apprentissage automatique sur la plateforme Vera Rubin

La plateforme Vera Rubin est une étape importante dans l'évolution de l'IA, en proposant une approche de co-conception extrême pour améliorer les performances par watt et réduire les coûts de token. Cette approche permet à Nvidia de proposer une plateforme complète et intégrée pour l'IA, qui répond aux besoins des entreprises et des chercheurs dans le domaine de l'IA.