Présentation de ZML
ZML, une startup française spécialisée dans l'intelligence artificielle (IA) soutenue par le lauréat du prix Turing Yann LeCun, a lancé un logiciel pour améliorer les performances d'inférence sur une variété de circuits, notamment ceux de Nvidia, AMD, Google, Apple et Intel.
fonctionnement de ZML/LLMD
Le serveur d'inférence LLM, ZML/LLMD, vise à briser les silos existants et à rendre différents circuits disponibles pour les cas d'utilisation de l'IA à leur vitesse maximale disponible, voire plus rapide, selon Steeve Morin, fondateur de ZML. Le logiciel permet de faire fonctionner une variété de modèles de langage ouverts sur différents circuits.
analyse scientifique des impacts
L'optimisation de l'inférence, ou le traitement des requêtes, est devenue plus importante que la formation de modèles, mais elle est souvent limitée par des barrières logicielles et architecturales qui conduisent à un verrouillage des fournisseurs. ZML/LLMD vise à résoudre ce problème en offrant une solution qui permet aux entreprises et aux clouds d'utiliser un mélange de circuits, ce qui pourrait réduire les coûts et la consommation d'énergie.
implications et limites
ZML/LLMD est actuellement disponible gratuitement, avec pour objectif d'apprendre de l'utilisation et de générer des revenus de manière efficace. La startup a déjà levé 20 millions de dollars auprès de firmes de capital-risque et compte des investisseurs tels que Solomon Hykes, Clément Delangue et Julien Chaumond. Cependant, il est trop tôt pour dire si ZML/LLMD deviendra un produit payant et quelle sera son adoption.
Les circuits supportés incluent Nvidia, AMD, Google TPU, Apple Metal et Intel Arc.Le fondateur de ZML, Steeve Morin, souligne que l'objectif est de donner aux gens la possibilité de créer leur propre système et d'obtenir de réelles gains d'efficacité, ce qui permettrait de diffuser l'IA de manière plus large.
