Présentation d'Olix

Olix Computing Ltd, une startup de matériel d'intelligence artificielle, a annoncé avoir levé 312 millions de dollars dans le cadre d'une série C. Cette levée de fonds inclut des contributions d'Arm Holding plc et de Reed Hastings, co-fondateur de Netflix Inc. Olix est désormais valorisée à 3,3 milliards de dollars, soit environ trois fois sa valeur après sa précédente levée de fonds en février.

Architecture du processeur DX-1

Olix développe un processeur appelé DX-1, spécifiquement optimisé pour les charges de travail de décodage. Le DX-1 sera expédié dans le cadre d'un appareil de centre de données appelé X-1. Selon Olix, les puces à l'intérieur du système seront liées ensemble à l'aide d'une interconnexion optique qui transmet des données sous forme de lumière. Le processeur DX-1 est conçu pour stocker les caches KV dans une mémoire SRAM rapide sur puce, réduisant ainsi le besoin de mémoire HBM hors puce.

Fonctionnement et performances

Le processeur DX-1 d'Olix permet aux modèles de langage à 100 milliards de paramètres de traiter plus de 10 000 jetons par seconde. De plus, les clients peuvent relier plusieurs racks X-1 pour exécuter des modèles avec 10 billions de paramètres. Olix prévoit de commencer à expédier ses puces dans la première moitié de 2027 et utilisera son dernier cycle de financement pour améliorer la plate-forme de silicium personnalisée derrière le DX-1 et accélérer les efforts de fabrication.

Avantages de l'interconnexion optique

L'interconnexion optique utilisée par Olix est conçue pour être plus fiable et moins sujette aux erreurs que les interconnexions optiques traditionnelles. Elle utilise une méthode d'encodage appelée NRZ, qui est moins performante mais plus fiable que la technologie PAM4 utilisée dans les interconnexions optiques traditionnelles. Cela permet d'éviter le besoin de processeurs de signal numérique pour supprimer les erreurs, réduisant ainsi les coûts et améliorant la fiabilité.

Exemple de code pour la méthode d'encodage NRZ :
   // Encodage NRZ
   function nrz_encode(data) {
       // Encodage des données en utilisant la méthode NRZ
       return encoded_data;
   }