Présentation de l'événement
Le 23 juillet, theCUBE organisera une série de vidéos intitulée « Beyond The GPU : The Full-Stack Fight for Enterprise AI » avec des leaders de l'industrie tels que Supermicro, AMD, Vast Data, TensorWave et Crusoe. L'objectif est de discuter des défis liés à la construction d'infrastructures d'IA d'entreprise de nouvelle génération.
Contexte technique
La demande croissante pour les charges de travail d'inférence nécessite des systèmes capables de gérer de grandes quantités de données et des besoins en matière de traitement. Les entreprises comme Supermicro développent de nouvelles approches pour répondre à ces besoins, notamment avec des plateformes d'IA et de calcul haute performance. Par exemple, Supermicro a récemment introduit son DCBBS Blueprint pour HPC basé sur la plate-forme Nvidia Vera Rubin NVL4, qui prend en charge des configurations allant jusqu'à 1 152 GPU Nvidia Rubin et 576 CPU Nvidia Vera.
Implications et limites
Les défis liés à la construction de systèmes capables de gérer les charges de travail d'inférence sont nombreux. Il faut notamment prendre en compte la stratégie de données, car elle sera fondamentale pour profiter de la courbe de l'IA. Selon Dave Vellante, directeur de la recherche de theCUBE, « la façon dont vous pensez votre stratégie de données sera essentielle pour profiter de la courbe de l'IA ».
Architecture et solutions
Pour répondre à ces défis, les entreprises doivent développer des architectures complètes pour l'IA d'entreprise. Cela implique de prendre en compte les besoins en matière de stockage, de réseau et d'écosystèmes ouverts. Les solutions telles que les plateformes d'IA et de calcul haute performance, les appliances d'IA pour le edge computing et les réseaux de données seront essentielles pour supporter les charges de travail d'inférence. Les entreprises comme Supermicro et AMD travaillent déjà sur ces solutions, avec des produits tels que les serveurs Supermicro basés sur les processeurs Intel Core et les GPU Arc Pro B-series.
