AMD caractérise précisément le comportement numérique de ses cœurs matriciels

Contexte et objectifs

Les unités de multiplication matricielle (MMU) intégrées aux GPU récents ne respectent pas la norme IEEE 754. Les différences portent sur la largeur de l’accumulateur, le mode d’arrondi, la gestion des sous‑normaux et le traitement des entrées spéciales. Cette hétérogénéité empêche la reproductibilité exacte des calculs entre appareils et complique l’interprétation des écarts de résultats. L’étude vise à identifier ces caractéristiques sur les architectures AMD CDNA 1, CDNA 2 et CDNA 3, représentées respectivement par les GPU MI100, MI210/250 et MI300A/300X.

Méthodologie de caractérisation

Les auteurs conçoivent des vecteurs de test ciblant chaque paramètre numérique : largeur de l’accumulateur (32 bits vs 48 bits), points de normalisation, logique de débordement et d’underflow, ainsi que le comportement face aux sous‑normaux et aux NaN. Chaque vecteur est appliqué aux trois familles de GPU, les sorties étant comparées à des valeurs de référence calculées à la main. Cette approche permet d’isoler, par observation directe, le mode d’arrondi (vers zéro, vers l’infini ou au pair le plus proche) et le moment où le matériel normalise les résultats intermédiaires.

Modélisation logicielle et validation

À partir des observations, les chercheurs développent des modèles logiciels sous MATLAB reproduisant le flux de calcul de chaque architecture. La validation repose sur un jeu de tests aléatoires contenant 10 000 000 de jeux d’entrée. Le processus itératif consiste à comparer les sorties du modèle aux sorties matérielles, à identifier les divergences bit à bit, puis à affiner le modèle jusqu’à obtenir une correspondance exacte pour chaque cas. Cette procédure confirme que les modèles atteignent une fidélité binaire avec le matériel, ce qui constitue une première pour les cœurs matriciels AMD.

Implications pour les applications IA

Les modèles sont employés comme bancs d’essai pour deux applications numériques : la multiplication de matrices de grande taille et la convolution dans un réseau de neurones. En comparant les résultats obtenus avec les modèles AMD aux performances des Tensor Cores de NVIDIA, les auteurs quantifient les écarts d’erreur au niveau de l’application. Les écarts proviennent principalement des différences d’arrondi et de la gestion des sous‑normaux, ce qui peut affecter la précision des algorithmes d’apprentissage profond lorsqu’ils sont exécutés sur des GPU AMD. La disponibilité de modèles bit‑exacts ouvre la voie à des études de sensibilité plus poussées et à l’optimisation logicielle ciblée.