Introduction
Nvidia Corp. travaille actuellement sur un processeur d'inférence dédié qui sera utilisé par OpenAI Group PBC et d'autres entreprises d'intelligence artificielle pour développer des modèles plus rapides et plus efficaces. Ce nouveau processeur d'inférence devrait être lancé lors de la conférence des développeurs GTC de Nvidia à San Jose plus tard ce mois.
Contexte Technique
L'inférence, qui fait référence au processus d'exécution de modèles d'IA formés en production, est devenue un domaine clé dans l'industrie de l'IA. Les rivaux de Nvidia, tels que Google LLC et Amazon Web Services Inc., ont développé des puces d'inférence spécialisées qui concurrencent ses unités de traitement graphique. Le processeur d'inférence de Nvidia intégrera la technologie acquise auprès de la startup de puces Groq Inc. en décembre.
Analyse et Implications
OpenAI a eu un accès précoce au nouveau processeur d'inférence de Nvidia et en sera l'un des premiers utilisateurs, ce qui constitue une victoire importante pour le fabricant de puces. Bien que OpenAI ait cherché des alternatives plus efficaces aux GPU de Nvidia pour diversifier sa pile de calcul, il a reçu 30 milliards de dollars de financement de la part de Nvidia la semaine dernière, ce qui renforce son engagement envers l'entreprise. Les puces d'inférence de Groq sont connues sous le nom d'unités de traitement de langage et reposent sur une architecture entièrement nouvelle qui leur permet de réaliser des inférences avec une consommation d'énergie beaucoup plus faible.
Perspective
Si le rapport est vrai et que Nvidia annonce effectivement une puce dédiée à l'inférence, cela marquerait un notable changement de cap par rapport à sa position il y a un an. L'annonce de cette puce pourrait avoir des implications importantes pour l'industrie de l'IA, notamment en termes de concurrence et d'innovation. Il faudra surveiller de près les prochaines étapes de Nvidia et les réactions de ses concurrents pour comprendre pleinement l'impact de cette nouvelle puce d'inférence.
