Introduction
La société Groq, spécialisée dans les puces IA, a été acquise par Nvidia en décembre dernier. Cependant, il a été révélé que Groq lève 650 millions de dollars supplémentaires. Cette situation est surprenante, car une entreprise qui a déjà réalisé une sortie réussie ne devrait pas avoir besoin de lever davantage de fonds.
Contexte Technique
Il est important de noter que Nvidia n'a pas acquis l'entité corporative de Groq, mais a plutôt licencié sa technologie et embauché les principaux dirigeants techniques. L'entité corporative de Groq continue d'opérer, en se concentrant sur la maintenance de ses datacenters et de son API d'inférence. Cette API se spécialise dans l'offre d'une inférence extrêmement rapide sur des modèles plus petits, avec une limite technique due à l'absence de grandes quantités de mémoire à bande passante élevée (HBM) dans chaque paquet de puces.
Cependant, la stratégie de Groq basée sur l'utilisation de la SRAM lui permet de servir les petits modèles beaucoup plus rapidement que les puces conventionnelles basées sur la HBM, en délivrant plus de jetons par seconde au détriment d'un coût plus élevé. Cette approche peut être avantageuse pour certaines applications.
Analyse et Implications
Les datacenters de Groq représentent un atout stratégique majeur, avec quatre déploiements déjà opérationnels pour servir les charges de travail d'inférence à grande échelle. La construction de nouveaux datacenters est un défi important pour les startups et les hyperscalars, et l'expérience de Groq dans ce domaine est précieuse. Cependant, il reste à voir si le nom de Groq leur donne un avantage légitime et si leur association avec la puce LPU et une stratégie d'inférence à haute vitesse et à coût élevé les limite.
La demande d'inférence explose, et les datacenters existants atteignent rapidement leur pleine capacité. Les entreprises tentent de construire de nouveaux datacenters le plus rapidement possible, mais les réglementations, les problèmes de puissance et l'expertise nécessaire ralentissent ces projets. Pour les investisseurs en capital-risque, obtenir une exposition directe à la demande de datacenters est difficile en raison de la rareté des startups capables de construire et d'exploiter ces infrastructures.
Perspective
La capacité de Groq à lever 650 millions de dollars supplémentaires soulève des questions sur la valeur de ses datacenters et de son expertise opérationnelle. Les comparaisons avec des entreprises de datacenters d'IA cotées en bourse, comme CoreWeave et Nebius, suggèrent que les datacenters de Groq pourraient valoir des milliards de dollars. Cependant, la valeur de la marque Groq et la concurrence potentielle avec d'autres fournisseurs de cloud basés sur la technologie LPUv3 de Nvidia ajoutent de la complexité à l'évaluation.
Il est crucial de surveiller comment Groq évoluera, notamment en ce qui concerne son approvisionnement en matériel et sa stratégie d'inférence à haute vitesse et à coût élevé. Les défis liés à la construction de nouveaux datacenters et à la maintenance des infrastructures existantes seront des facteurs clés à prendre en compte pour l'avenir de l'entreprise.
