Les huitièmes génération de TPU : deux puces pour l'ère agentic

Introduction

Google présente les huitièmes générations de ses processeurs Tensor (TPU), conçus pour répondre aux besoins de l'ère agentic. Deux puces distinctes, le TPU 8t et le TPU 8i, sont spécifiquement conçues pour la formation et l'inférence, offrant ainsi une efficacité et des capacités accrues pour les charges de travail d'apprentissage automatique.

Contexte Technique

Les TPU ont été conçus pour répondre aux besoins de l'ère agentic, où les modèles doivent raisonner à travers des problèmes, exécuter des flux de travail mult étapes et apprendre de leurs propres actions. Les TPU 8t et 8i ont été conçus en partenariat avec Google DeepMind pour répondre aux charges de travail d'IA les plus exigeantes et s'adapter aux architectures de modèles évoluant à grande échelle.

Les TPU 8t et 8i offrent des fonctionnalités telles que des numériques personnalisés, un refroidissement liquide, des interconnects personnalisés et bien plus encore. Le TPU 8t est conçu pour les charges de travail de formation massives et intensives en calcul, tandis que le TPU 8i est conçu pour les charges de travail d'inférence les plus sensibles à la latence.

Analyse et Implications

Les TPU 8t et 8i offrent des avantages significatifs en termes d'efficacité et de performances. Le TPU 8t offre une puissance de calcul de 121 ExaFlops et peut scaler jusqu'à 9 600 puces et deux pétaoctets de mémoire partagée. Le TPU 8i offre une meilleure performance par dollar de 80 % par rapport à la génération précédente, permettant ainsi aux entreprises de servir près du double du volume de clients au même coût.

Les implications de ces nouvelles puces sont importantes, car elles permettent aux entreprises de développer des modèles d'IA plus complexes et plus puissants, ce qui peut conduire à des avancées significatives dans des domaines tels que la santé, les finances et les transports.

Perspective

Les TPU 8t et 8i représentent une étape importante dans l'évolution de l'IA et de l'apprentissage automatique. À mesure que les modèles d'IA deviennent de plus en plus complexes, les besoins en termes de puissance de calcul et de mémoire augmentent. Les TPU 8t et 8i sont conçus pour répondre à ces besoins et offrir des performances et une efficacité accrues.

Il est important de noter que les TPU 8t et 8i sont conçus pour être utilisés dans des environnements de cloud et de centre de données, ce qui signifie qu'ils seront accessibles à un large éventail d'entreprises et d'organisations. Cela pourrait conduire à une adoption plus large de l'IA et de l'apprentissage automatique dans différents secteurs.