Présentation de Solidigm
Solidigm, une filiale de SK Hynix NAND Product Solutions Corp, se positionne sur la couche d'intelligence en raison de l'essor de l'inférence agente qui pousse le stockage au centre de l'attention. L'entreprise propose des disques durs SSD à haute capacité pour répondre aux besoins des déploiements d'intelligence artificielle.
contexte technique
Le passage de la formation de modèles à l'inférence agente entraîne une réflexion fondamentale sur la manière dont les infrastructures d'intelligence artificielle sont construites. Les composants qui étaient considérés comme des éléments de base sont maintenant reconnus comme la couche d'intelligence où les données brutes deviennent des informations actionnables.
Les déploiements d'intelligence artificielle souveraine et les clusters d'entreprise sont en train de se développer, ce qui accentue la pression sur les organisations pour construire des piles de calcul haute performance capables de soutenir une inférence continue à grande échelle. Le stockage est devenu un élément clé dans ces conversations, selon Greg Matson, vice-président senior et chef du marketing et des produits chez Solidigm.
fondamentaux techniques
Les disques durs SSD à haute capacité sont devenus essentiels pour l'inférence d'intelligence artificielle. Les besoins de stockage pour les déploiements d'intelligence artificielle sont considérables, avec des exigences pouvant aller jusqu'à des pétaoctets de données. Solidigm propose des disques durs SSD avec une capacité allant jusqu'à 122 téraoctets par unité.
122 téraoctets par unitéimplications et limites
Les économies de génération de jetons rendent ce cas concret. Une simple invite de 15 mots peut générer jusqu'à 40 000 jetons, représentant 5 à 10 gigaoctets de données de contexte. La multiplication de cela à travers les effectifs d'entreprise pousse rapidement les exigences de stockage dans les pétaoctets. Solidigm répond à ces besoins avec des disques durs SSD à haute capacité et des produits conçus pour les serveurs de GPU Nvidia entièrement sans ventilateur.
