Introduction
OpenAI et Broadcom ont annoncé le développement d'un nouveau chip appelé Jalapeño, conçu spécifiquement pour l'inférence de modèles de langage à grande échelle dans les data centers.
Contexte Technique
Le chip Jalapeño est un circuit intégré spécifique (ASIC) conçu à partir de zéro pour répondre aux besoins des modèles de langage à grande échelle (LLM). Il a été développé en collaboration avec les chercheurs d'OpenAI, qui ont fourni des informations détaillées sur les besoins futurs des modèles et produits.
La conception et la production du chip ont pris neuf mois. Selon Broadcom, le chip Jalapeño est plus spécialisé pour les besoins actuels des LLM que les chips utilisées actuellement dans les data centers.
Analyse et Implications
OpenAI affirme que les tests préliminaires montrent que le chip Jalapeño offre une performance par watt substantiellement meilleure que les chips actuelles. Cependant, les tests de performance ne sont pas encore terminés et un rapport technique détaillé sera présenté dans les prochains mois.
Perspective
Ce chip est le premier d'une série de chips qui seront développés dans le cadre d'un projet à long terme. Les prochaines étapes consisteront à affiner les performances et à améliorer l'efficacité énergétique du chip. Il faudra surveiller les progrès de ce projet pour comprendre les implications sur le marché et la sécurité des données.
