Introduction
Tether Operations S.A. de C.V., une entreprise connue pour son cryptocurrency, a annoncé le lancement d'un framework open-source pour les développeurs afin de créer des fonctionnalités d'intelligence artificielle (IA) directement sur les appareils et les plateformes.
Contexte Technique
Le framework, appelé QVAC (QuantumVerse Automatic Computer), est conçu pour être abstrait et s'exécuter sur n'importe quel appareil ou plateforme, quel que soit le système d'exploitation. Les applications construites sur le SDK peuvent s'exécuter sans modification sur iOS, Android, Windows, macOS et Linux.
Le SDK intègre QVAC Fabric, une version forks de llama.cpp, un exécuteur populaire pour les grands modèles de langage, fournissant un cadre pour exécuter les charges de travail de modèle d'IA, les embeddings, la génération de texte, les images, l'audio et la vidéo. Il intègre également des moteurs locaux de classe mondiale, notamment whisper.cpp et Parakeet pour la reconnaissance vocale et Bergamot pour la traduction sur appareil.
Analyse et Implications
La société Tether, issue d'un contexte de blockchain décentralisé, a intégré des fonctions peer-to-peer dans le cœur du SDK. QVAC comprend des primitives intégrées pour la distribution décentralisée de modèles, permettant l'inférence déléguée sans nécessité d'infrastructure centralisée. Cela signifie que si un nœud ou un pair disparaît, le groupe peut reprendre le relais et que le « cerveau » de l'IA cloud continue de fonctionner.
Les fonctions peer-to-peer seront gérées de manière identique sur toutes les plateformes, ce qui signifie que les consommateurs ne remarqueront pas la différence entre la connexion à un fournisseur centralisé ou l'utilisation des capacités décentralisées. Le framework lui-même permettra des expériences d'IA locales résilientes, des systèmes d'IA peer-to-peer qui n'ont pas besoin de services centralisés et la possibilité de se connecter à des fournisseurs d'IA, le tout géré de manière transparente.
Perspective
Dans les mois et les années à venir, Tether prévoit d'investir des ressources substantielles dans l'écosystème pour couvrir les fonctionnalités et les outils conçus spécifiquement pour les cas d'utilisation de pointe tels que la robotique et les interfaces cerveau-ordinateur. L'avenir de l'IA semble prometteur avec ce framework open-source qui pourrait révolutionner la façon dont nous développons et utilisons l'IA sur nos appareils.
