Présentation de l'infrastructure d'IA d'entreprise
Les entreprises sont en train de passer à une nouvelle phase dans le domaine de l'intelligence artificielle (IA), en se concentrant sur les déploiements de production qui offrent des résultats commerciaux mesurables. Cette transition met en avant l'économie des jetons d'IA, qui redéfinit les priorités en matière d'infrastructure autour des coûts d'inférence et de la flexibilité pour exécuter l'IA dans des environnements hybrides.
Évolution de l'IA hybride
L'IA hybride évolue au-delà de la simple décision de savoir si les charges de travail s'exécutent sur site, au bord ou dans le cloud. De plus en plus, les entreprises adoptent une approche hybride pour les modèles d'IA, en combinant des modèles de frontière et des modèles à poids ouvert en fonction des besoins de chaque charge de travail, selon Suresh Andani, vice-président corporatif de l'informatique et de l'IA d'entreprise chez Advanced Micro Devices Inc.
Optimisation de l'économie des jetons d'IA
Non toutes les tâches d'IA d'entreprise nécessitent un modèle de frontière. Beaucoup de tâches sont mieux adaptées aux modèles à poids ouvert qui s'exécutent sur site, où les organisations peuvent réduire les coûts tout en maintenant une sécurité, une souveraineté et un contrôle accrus, selon Andani. Les entreprises paient pour les résultats, et non pour les puces ou les serveurs. La valeur de l'infrastructure d'IA est finalement mesurée par les résultats commerciaux qu'elle offre.
Implications et limites
Les entreprises veulent soit construire leurs propres piles d'agents d'IA en utilisant des plateformes fournies par les partenaires OEM et cloud, soit préfèrent des plateformes d'IA qui offrent plus de fonctionnalités prêtes à l'emploi. Pour AMD, il s'agit de fournir l'ensemble de la pile, des puces GPU, CPU et réseau aux couches d'applications ISV, en passant par les plateformes et le plan de contrôle pour l'IA.
