Contexte et évolution du volume de données
Le CEO de Western Digital, Irving Tan, rappelle que la quantité de données générées devrait dépasser 700 zettabytes en trois ans, selon IDC. L’entreprise anticipe une croissance annuelle composée d’au moins 25 % pour le stockage sur cinq ans. Cette dynamique impose de répartir les données en niveaux hot, warm et cold entre le cloud, le edge et les appareils, afin de maintenir la disponibilité des modèles d’IA.
Architecture système : interconnexions et mémoire
Les liaisons optiques remplacent progressivement le cuivre. Semtech fournit les puces des transceivers optiques qui relient des milliers de processeurs GPU ; chaque perte de liaison entraîne le redémarrage d’un job, affectant ainsi le temps de disponibilité des GPU. Lumentum, dont la demande est déjà réservée jusqu’en 2029, produit des lasers à base d’indium phosphide, composant critique de la transition vers la fibre au sein des data‑centers.
Parallèlement, le Compute Express Link (CXL) permet le partage de mémoire entre serveurs. Greg Ernst signale que même un modèle de 8 milliards de paramètres requiert plus de mémoire que les modules HBM ne peuvent offrir, d’où l’intérêt pour les hyperscalers de réutiliser des modules DDR4 dans des pools CXL. La persistance de la « memory wall » est estimée à cinq ans, selon les mêmes intervenants.
En lithographie, Multibeam a réduit la colonne d’é‑beam de 80 cm à la taille d’un stylo, rendant possible l’écriture parallèle de plusieurs puces sur un même wafer. Cette approche maskless élimine la contrainte du réticule, facilitant l’assemblage de puces AI de grande taille.
Contraintes d’alimentation et cycles de mise à jour
Les systèmes d’alimentation traditionnels évoluent sur des cycles de six à dix ans, alors que le matériel AI se renouvelle chaque année. Melton Chang de Schneider Electric décrit les variations de charge AI, qui peuvent passer de 30 % à 150 % en quelques millisecondes, comme une source de déséquilibre de tension et de fréquence. Schneider utilise des jumeaux numériques et des simulations en temps réel pour anticiper ces fluctuations et protéger les générateurs sur site.
Approches alternatives et perspectives
Les startups explorent des architectures hors‑mémoire. Normal Computing développe des calculs d’inférence directement dans la mémoire LPDDR5, réduisant le coût énergétique. Un autre groupe, Unconventional AI, mise sur le calcul basé sur la physique du monde réel, visant une intelligence comparable à l’humain avec 10 000 W dans un rack, contre 20 W pour le cerveau humain.
Enfin, l’économie de l’inférence pousse les fabricants à concevoir des racks adaptés aux exigences de latence, de débit ou d’énergie, comme le souligne Sunghyun Park de Rebellions. La flexibilité du rack devient ainsi le facteur déterminant pour la rentabilité des charges de travail AI.