Présentation d'Etched

Etched, une startup de puces IA fondée par trois anciens élèves de Harvard en 2022, a clôturé un tour de financement de série C de 300 millions de dollars à une valorisation de 10,3 milliards de dollars. Cette valorisation est plus du double de celle de décembre, qui était de 5 milliards de dollars.

Architecture et fonctionnement

Etched a conçu deux nouveaux composants pour accélérer l'inférence, le processus de calcul qui se produit après la soumission d'une invite. Le premier composant, appelé « prefill chip », fonctionne à une tension très basse, ce qui lui permet de fonctionner plus rapidement et de générer moins de chaleur. Le deuxième composant est une nouvelle technologie de mémoire et d'interconnexion appelée « cluster-scale memory », qui permet à plusieurs puces de se connecter et d'utiliser un pool de mémoire partagé à très faible latence.

Implications et limites

Malgré les progrès réalisés, Etched doit encore faire face à des sceptiques qui mettent en doute la capacité de la startup à produire des systèmes de rack en grande quantité. Cependant, les fondateurs d'Etched, dont Robert Wachen, restent confiants dans leur capacité à atteindre leur objectif, grâce à leur équipe de 400 personnes et à leur nouveau centre de données de 10 MW. Les systèmes d'Etched peuvent exécuter n'importe quel modèle d'IA, y compris les modèles de mélange d'experts et les conceptions non-transformer.

Analyse scientifique

La technologie d'Etched repose sur l'idée de concevoir des puces spécifiquement pour les modèles d'IA basés sur la technologie de transformateur. Cette approche permet d'accélérer le processus d'inférence, qui est essentiel pour les applications d'IA modernes. Les puces d'Etched sont conçues pour fonctionner à une tension très basse, ce qui réduit la quantité de chaleur générée et permet d'augmenter la densité des transistors. Cette approche permet également de réduire les coûts et d'augmenter les performances.

Les systèmes d'Etched peuvent exécuter des modèles d'IA tels que DeepSeek et Qwen, qui utilisent une architecture de mélange d'experts.

Les résultats d'Etched sont prometteurs, avec une valorisation de 10,3 milliards de dollars et des commandes d'une valeur de 1 milliard de dollars. Cependant, la startup doit encore relever des défis importants pour atteindre son objectif de production en grande quantité.