Présentation d'Etched

Etched Inc., une startup spécialisée dans les puces optimisées pour l'inférence artificielle, a annoncé avoir levé 300 millions de dollars dans le cadre d'une nouvelle série de financement.

La ronde de financement Series C a été menée par Sequoia, avec la participation de SK Hynix Inc., le plus grand fournisseur de mémoire pour les puces IA, ainsi que d'Andreessen Horowitz, Jane Street et Diffusion.

Architecture et fonctionnement

Les cartes graphiques populaires de Nvidia Corp. sont conçues pour exécuter à la fois les charges de travail d'entraînement et d'inférence IA. Selon Etched, l'optimisation de sa puce uniquement pour le cas d'utilisation d'inférence lui a permis de développer une conception plus efficace.

Lorsqu'un modèle IA reçoit une invite, il déclenche le flux de travail d'inférence en effectuant un traitement préalable appelé préremplissage. Cette étape aide le modèle à comprendre le sens de l'invite. La tâche est effectuée à l'aide de multiplications de matrices, des calculs mathématiques intensifs en matériel qui diffèrent considérablement d'une multiplication régulière.

Matrix Multiplication

Avantages et limites

Le nombre de multiplications de matrices qu'une puce peut effectuer par seconde est lié à sa fréquence d'horloge. Plus la fréquence est élevée, plus la puce peut effectuer de calculs. Les GPU traditionnels doivent limiter leur fréquence d'horloge pour éviter de générer une chaleur excessive.

Selon Etched, sa puce évite le goulet d'étranglement thermique des GPU à l'aide d'un mécanisme appelé LVI. La technologie minimise la tension du processeur, ce qui à son tour abaisse sa température. Cela lui permet de fonctionner à des fréquences d'horloge plus élevées que les cartes graphiques.

Implications et perspectives

Etched prévoit de commencer à expédier ses premiers racks cet été. La société est en train de construire une ligne de production SMT pour accélérer l'assemblage de ses appareils. La ligne de production sera située dans un bâtiment de 80 000 pieds carrés près du siège social de San Jose, en Californie, qui sert également de laboratoire de prototypage.