Présentation du Maia 300
Microsoft a présenté le Maia 300, son nouveau processeur dédié à l’inférence d’IA. Le dispositif regroupe quatre chiplets de calcul fabriqués chez TSMC sur le processus de 2 nm. Il est associé à huit modules HBM4 totalisant 288 Go, un volume identique à celui du Rubi de Nvidia. Malgré cette capacité mémoire, le Maia 300 affiche environ 20 % de bande passante mémoire inférieure à Rubi, ce qui influence la vitesse de transfert des données entre les unités de calcul et la mémoire.
Architecture et gestion de la mémoire
Le Maia 300 adopte une architecture dataflow visant à réduire les déplacements de données. Les chiplets de calcul privilégient un cache SRAM interne, évitant ainsi le recours systématique aux piles HBM. Lorsque le HBM reste indispensable, les chiplets transmettent les informations à une pile située physiquement à proximité, limitant la latence. Le format de compression MXFP4 est utilisé pour réduire la taille des tensors, accélérant les déplacements internes. Un chiplet de contrôle de dispositif gère l’alimentation, la télémétrie et d’autres fonctions de support, tandis que deux chiplets auxiliaires orchestrent les flux de données entrants et sortants.
Intégration système et performances
Les accélérateurs sont empaquetés par quatre dans des plateaux, chaque plateau étant installé dans un rack refroidi par liquide contenant 96 accélérateurs. Un groupe de racks forme un « superpod » de 12 288 puces, interconnectées par une pile réseau Ethernet propriétaire. Cette pile utilise les mêmes sémantiques de communication pour le trafic intra‑rack et inter‑rack, éliminant le besoin de processeurs hôtes ou de puces réseau dédiées. Microsoft indique que le Maia 300 délivre 40 % de tokens supplémentaires par mégawatt comparé aux systèmes GPU dominants, et que le superpod atteint un débit de tokens sept fois supérieur à celui du Maia 200 de génération précédente.
Limites et perspectives
La bande passante mémoire réduite de 20 % par rapport à Rubi constitue une contrainte potentielle pour les modèles très larges. La dépendance à une pile réseau propriétaire impose également une couche logicielle spécifique, dont la maturité reste à évaluer. Microsoft prévoit un déploiement en production dès l’an prochain, mais ne détaille pas encore les exigences logicielles ni les outils de compilation. La réussite du Maia 300 dépendra de la capacité à équilibrer la densité de calcul, la gestion de la mémoire et la flexibilité du réseau dans des charges de travail variées.
