Introduction
Upscale AI, un fournisseur de réseautique pour l'intelligence artificielle (IA), a annoncé avoir levé 190 millions de dollars en financement frais, portant sa valorisation à 2 milliards de dollars. Cette levée de fonds est une extension de son tour de table A de 200 millions de dollars, menée par Premji Invest et avec la participation de Nvidia Corp., Salesforce Ventures, Seligman Ventures, Temasek et plusieurs investisseurs existants.
Contexte Technique
Les centres de données comportent différents types de commutateurs conçus pour des tâches spécifiques. Upscale AI développe des commutateurs pour les charges de travail de l'IA, visant à améliorer les performances en réduisant les retards imprévus dans les calculs. La société a créé un processeur personnalisé appelé SkyHammer, qui prend en charge plusieurs protocoles réseau open source optimisés pour le trafic de mise à l'échelle. SkyHammer permet aux unités de traitement graphique (GPU) d'accéder aux données dans la mémoire les unes des autres comme si c'était une mémoire RAM locale, grâce à la technologie UALink.
Upscale AI a également prévu une ligne de commutateurs pour relier les racks de cartes graphiques, basée sur la série de processeurs Spectrum-X de Nvidia. Ces commutateurs prennent en charge la technologie RoCE, qui permet aux paquets de contourner le processeur central, réduisant ainsi les retards. De plus, ils collectent des données de télémétrie pour aider les administrateurs à détecter les problèmes techniques.
Analyse et Implications
L'infrastructure de l'IA est en train d'être redéfinie à l'échelle du cluster, et le réseautique est l'un des goulets d'étranglement les plus critiques. Upscale AI vise à construire un tissu de réseau haute performance, basé sur des normes ouvertes, conçu spécifiquement pour les charges de travail synchronisées à grande échelle. L'utilisation de matériel personnalisé et de logiciels open source, comme le système d'exploitation SONiC, simplifie la gestion du réseau et améliore les performances.
Les implications de cette technologie sont importantes, car elle peut améliorer considérablement les performances des applications d'IA, telles que la reconnaissance d'images et le traitement du langage naturel. Cela pourrait également avoir un impact sur le marché des centres de données et des fournisseurs de matériel informatique, car les entreprises pourraient être incitées à adopter des solutions plus performantes et plus efficaces.
Perspective
Upscale AI prévoit d'utiliser les fonds levés pour accélérer ses efforts de commercialisation. La société est actuellement évaluée par plusieurs hyperscalers et opérateurs de neocloud. L'avenir de l'IA et du réseautique est prometteur, avec des possibilités d'amélioration continue des performances et de l'efficacité. Cependant, il est important de surveiller les limites et les défis potentiels de cette technologie, tels que la complexité de la mise en œuvre et les coûts associés.
