Contexte et problème de goulot d’étranglement
Pendant deux ans, les entreprises ont investi massivement dans les GPU et les TPU, considérant le calcul comme le facteur limitant de l’IA. Elles ont ainsi négocié des allocations de GPU, déployé des plateformes de machine learning et mesuré l’utilisation des accélérateurs. Lorsque les métriques d’utilisation des GPU sont tombées en dessous des cibles, le coût d’un GPU inactif a été identifié comme une perte directe et traçable. Les équipes ont découvert que, malgré la disponibilité des accélérateurs, le chemin de livraison des données restait sous‑optimisé, créant un goulet d’étranglement de stockage qui ralentit l’ensemble du pipeline.
Architecture de stockage orientée IA
Google Cloud propose la technologie Rapid object storage, capable de délivrer 15 téraoctets par seconde de débit et de supporter 20 millions de requêtes par seconde avec une latence sous la milliseconde. Cette capacité est couplée à 10 téraoctets par seconde sur les clusters gérés, grâce à une colocation zonale qui place les données physiquement à proximité des GPU/TPU. Le design réduit le nombre d’étapes de traitement dans le chemin de stockage, permettant à un seul bucket d’atteindre ces performances. Ces chiffres, présentés comme « industry‑leading », sont le résultat d’années d’exploitation interne d’AI hyperscale avant d’être exposés aux clients.
Différents profils de charge IA
Schwartz distingue trois types de charges : l’entraînement, l’inférence et les charges agentiques. L’entraînement nécessite des lectures séquentielles massives et un checkpoint toutes les ~15 minutes, souvent de plusieurs téraoctets. Rapid storage écrit ces checkpoints plus de trois fois plus vite et les restaure plus de cinq fois plus rapidement que le stockage objet standard, évitant le gel complet d’un cluster GPU. L’inférence impose une latence ultra‑faible, car chaque milliseconde impacte l’expérience utilisateur et les coûts de tokenisation. Les charges agentiques, quant à elles, requièrent une persistance d’état partagée, un accès à des données non structurées (images, vidéos, PDF) et la capacité de réactiver des agents en quelques millisecondes. L’exemple de Torin, entreprise de véhicules autonomes, illustre comment des millions de points de capteur alimentent l’entraînement et comment la rapidité du checkpoint devient une exigence opérationnelle.
Initiatives Smart Storage et enrichissement d’objets
Le Smart Storage Initiative introduit la fonction Object Enrichment, qui applique automatiquement des modèles d’IA Google aux fichiers entrants pour extraire du contenu et générer des métadonnées structurées en quelques secondes. Ainsi, les données auparavant non structurées deviennent interrogeables directement par les agents, sans pipelines de transformation manuels. Cette capacité s’intègre aux volumes Filestore dédiés aux agents et à l’architecture « borderless lakehouse » de Google, permettant aux agents d’accéder à des sources externes tout en restant dans le même environnement de stockage. Google collabore avec neuf des dix plus grands fournisseurs de modèles d’IA, ce qui renforce la pertinence de cette offre pour les déploiements d’entreprise à grande échelle.
