Présentation de l'infrastructure AI modulaire
Dell Technologies Inc. se concentre sur l'infrastructure AI modulaire pour faciliter le déploiement et la mise à l'échelle des initiatives d'intelligence artificielle (IA) dans les entreprises. Selon Varun Chhabra, vice-président senior du groupe de marketing de produits et de solutions d'infrastructure de Dell, les coûts et la simplification des opérations sont les principaux défis pour l'adoption de l'IA dans les entreprises.
Les défis de la mise à l'échelle
Les entreprises rencontrent des difficultés pour passer d'une phase de preuve de concept à une phase de production. Les projets d'IA fonctionnent souvent bien avec un petit groupe d'utilisateurs, mais la mise à l'échelle à l'échelle de l'entreprise introduit de nouveaux défis. Le coût de la tarification basée sur les jetons natifs est l'un des principaux problèmes, car il peut devenir incontrôlable, en particulier lorsque les utilisateurs clés commencent à voir une grande valeur dans les flux de travail.
L'approche de Dell
Dell a conçu la plate-forme Dell AI avec Advanced Micro Devices Inc. (AMD) pour permettre aux clients de commencer avec de petits déploiements d'IA et de mettre à l'échelle sur la même plate-forme sans avoir à réarchitecturer leur infrastructure. La fabrique d'IA modulaire fait partie de cette approche. Les clients peuvent commencer avec de petites unités de stockage, de calcul, de réseau, préintégrées avec les processeurs AMD Instinct et EPYC, ainsi que le logiciel ROCm et l'écosystème ouvert qui se trouve au-dessus.
Avantages de l'infrastructure modulaire
Les entreprises peuvent ainsi tester et valider les solutions, puis les mettre à l'échelle de manière modulaire avec les mêmes cadres. Cela leur permet de contrôler les coûts et de simplifier les opérations, tout en bénéficiant d'une infrastructure flexible et évolutives pour soutenir leurs initiatives d'IA. Les entreprises peuvent ainsi déployer des solutions d'IA plus rapidement et de manière plus efficace, tout en réduisant les risques et les coûts associés à la mise à l'échelle.
Les clients peuvent utiliser la plate-forme Dell AI pour déployer des solutions d'IA, telles que les pipelines RAG, pour gérer les données et les modèles d'IA.
