Présentation de l'Instinct MI455X
L'Instinct MI455X d'AMD est conçu pour les déploiements d'IA à grande échelle et repose sur l'architecture CDNA5, avec des améliorations significatives du processeur de calcul et du SoC. Cette carte graphique est équipée de 256 Work Group Processors (WGPs) et offre une fréquence d'horloge maximale de 2,4 GHz.
Architecture et performances
Chaque WGP contient quatre unités SIMD32 Wave32, permettant ainsi jusqu'à 256 opérations FP32 par cycle. Les unités matricielles ont également été améliorées, avec chaque unité capable d'effectuer jusqu'à 8 192 opérations FP4 par cycle. La mémoire de l'Instinct MI455X est composée de 12 piles de HBM4, offrant une capacité totale de 432 Go et une bande passante de 23,3 To/s.
Améliorations du système et du cache
Le système de cache de l'Instinct MI455X a été modifié pour prendre en charge la nouvelle conception. Le cache de données L1 et le cache LDS ont doublé de taille, passant respectivement à 64 Ko et 320 Ko. La bande passante du cache LDS a également doublé pour mieux alimenter les WGPs CDNA5. De plus, la sous-système mémoire permet maintenant des chargements multicast, accélérant ainsi considérablement la multiplication matricielle en réduisant le trafic mémoire redondant.
Networking et plate-forme Helios
AMD lance également une plate-forme de déploiement d'infrastructure d'IA à grande échelle appelée Helios, qui permet une mise à l'échelle avec jusqu'à 72 GPU dans un seul rack. La plate-forme Helios utilise le nouveau facteur de forme Open Rack Wide d'OCP et offre une bande passante de mise à l'échelle de 260 To/s. Avec 72 GPU, un déploiement Helios peut fournir jusqu'à 2,9 exaflops à MXFP4 ou 22,6 petaflops à FP32, ainsi que 31 To de mémoire HBM4 partagée à une bande passante de mémoire combinée de 1,7 Po/s.
