Présentation de la stratégie
La diversité de silicium est en train d'émerger comme une stratégie clé pour les hyperscalers, car les charges de travail d'intelligence artificielle (IA) dépassent la capacité de toute architecture de puce unique. Avec la demande de calcul qui dépasse constamment l'offre, les fournisseurs de cloud sont en train de construire des systèmes qui peuvent s'adapter à différents types de puces, tels que les GPU, les CPU et les puces personnalisées, plutôt que de s'en tenir à la feuille de route d'un seul fournisseur.
Contexte technique
Ceci se reflète directement chez Microsoft, qui a récemment confirmé qu'il allait déployer la plate-forme Helios d'AMD à l'échelle des racks sur Azure pour alimenter l'inférence de modèles de pointe aux côtés de nouvelles familles de machines virtuelles alimentées par AMD EPYC. Le choix et la concurrence entre les fournisseurs de puces ne sont plus optionnels pour répondre aux exigences d'échelle de l'IA, selon Alistair Speirs, directeur général de l'infrastructure Azure chez Microsoft.
Fonctionnement de la collaboration
La collaboration entre Microsoft et AMD s'étend profondément dans le processus d'ingénierie, où les deux entreprises prennent des décisions ensemble, allant des compromis entre les puces à la distribution d'alimentation dans les centres de données. Cette collaboration couvre l'ensemble de la pile, de l'étage physique du centre de données au logiciel qui s'exécute dessus.
Les données de centre de données, les installations, les racks, les couloirs, la distribution d'alimentation, le réseau et bien sûr le logiciel
Implications et limites
Cette alignement de la pile complète vise de plus en plus à maîtriser une nouvelle pression sur les coûts liée à la consommation croissante de jetons d'IA. Alors que les entreprises poussent plus loin dans l'IA agente, gérer cette courbe de coûts sans sacrifier les performances est la priorité. La diversité de silicium et le choix deviennent vraiment importants pour atteindre cette efficacité coût-performance que la pointe exigera.