Contexte et évolution de l’infrastructure IA
Jusqu’en 2024, le débat autour de l’IA se focalisait sur les GPU. Nvidia était alors le fournisseur dominant et la disponibilité des puces était le principal indicateur de performance. L’article souligne que cette première phase, qualifiée de « phase un », est désormais dépassée. Les dirigeants interviewés – Mark Papermaster d’AMD, Charlie Kawwas de Broadcom, Paul Cho de Samsung et Richard Ho d’OpenAI – constatent que la gravité du sujet s’est déplacée du composant unique vers l’ensemble du système.
Architecture système : processeurs, chiplets et accélérateurs
Les intervenants décrivent une architecture hétérogène où CPU, GPU et les nouveaux XPUs coexistent. AMD illustre ce modèle avec ses conceptions « Venice », des chiplets modulaires qui permettent de créer des variantes spécialisées tout en conservant une base commune. Les accélérateurs sur mesure, qualifiés d’« XPUs », restent réservés aux acteurs disposant d’un volume de travail suffisant pour amortir les coûts de R&D. Google utilise les TPU, AWS les Trainium et Inferentia, Microsoft le Maia, Meta poursuit son accélérateur interne, et OpenAI développe le Jalapeño en partenariat avec Broadcom, optimisé pour les kernels, les mouvements de mémoire et les modèles de pointe.
Mémoire et emballage avancés comme facteur central
Le texte indique que la mémoire n’est plus un simple accessoire mais le point de départ du design. Paul Cho affirme que « la mémoire devient le centre de conception ». Cette inversion se traduit par une co‑conception logique‑mémoire‑packaging, incluant la qualification du HBM et l’intégration 3D. Le déplacement de la bande passante et de la capacité de mémoire près du calcul réduit la latence et la consommation énergétique, deux paramètres critiques pour les modèles de plusieurs billions de paramètres.
Gestion des goulots d’étranglement et implications
Le concept de « bottleneck clock » décrit une succession de contraintes : pénurie de GPU, puis de HBM, ensuite de packaging, de réseau, de puissance et enfin de refroidissement ou d’espace physique. Chaque contrainte résolue fait apparaître la suivante, ce qui oblige les fournisseurs à investir simultanément dans le packaging à grande échelle, les substrats massifs, la gestion thermique et les interconnexions à haute vitesse. Cette dynamique modifie les modèles économiques, les stratégies d’investissement et les considérations géopolitiques autour de la souveraineté technologique.
