Présentation de Helios
Microsoft utilisera les racks Helios d'AMD, conçus pour l'intelligence artificielle, pour certains services Azure. Helios est une conception de référence qui permet aux partenaires de fabrication d'AMD de créer des racks de centre de données. Chaque système contient 72 unités de traitement graphique Instinct MI455 d'AMD, qui disposent de 432 gigaoctets de mémoire HBM4, 19,6 téraoctets par seconde de bande passante et une nouvelle architecture de cœur appelée CDNA 5.
Architecture et composants
Les GPUs de Helios sont soutenues par des unités de traitement de données Pensando et des unités centrales de traitement Epyc. Les puces Pensando sont optimisées pour les tâches de gestion des infrastructures, telles que la coordination des équipements de stockage et le chiffrement du trafic réseau. Les CPUs de Helios proviennent de la série de processeurs de centre de données Venice d'AMD, qui utilise un processus de deux nanomètres de Taiwan Semiconductor Manufacturing Co. et une technologie appelée SoIC qui permet de superposer des puces.
Implémentation et performances
Helios organise ses CPUs, GPUs et DPUs en modules appelés trays, qui sont plus larges qu'un serveur de rack standard pour accueillir plus de matériel. Les trays utilisent un refroidissement liquide pour dissiper la chaleur de leurs puces et échangent des données à l'aide d'un protocole de réseau open source appelé UALoE. Microsoft utilisera les systèmes Helios pour alimenter une nouvelle famille d'instances Azure appelée ND MI455X v7, qui est optimisée pour les charges de travail d'inférence telles que les agents d'intelligence artificielle et les outils de recherche.
Autres instances Azure
Microsoft a également présenté deux autres familles d'instances qui seront exécutées sur du silicium AMD : la série HDv2, optimisée pour les tâches effectuées par les applications d'intelligence artificielle à l'aide de CPUs, et la série HXv2, une version améliorée d'une série d'instances Azure existante optimisée pour les applications de conception électronique assistée par ordinateur (EDA). Chaque instance HXv2 dispose de 176 cœurs Epyc Vulcan avec une vitesse d'horloge supérieure à 5 GHz et prend en charge une large gamme de charges de travail, y compris les simulations scientifiques.
UALoEAMD commencera à expédier les racks Helios à Microsoft et à d'autres clients plus tard cette année. La collaboration entre Microsoft et AMD s'étend également à une technologie appelée Azure Boost, qui décharge les calculs impliqués dans l'exécution de logiciels de virtualisation à partir des CPUs vers des puces plus efficaces et spécialisées.
