Présentation d'Inkling

Thinking Machines Lab, une startup d'IA fondée par l'ancien CTO d'OpenAI Mira Murati, a lancé son premier modèle d'IA interne appelé Inkling. Contrairement aux modèles phare d'OpenAI, d'Anthropic ou de Google, Inkling est un modèle ouvert, ce qui signifie que les développeurs et les entreprises externes peuvent le télécharger et le modifier directement.

Architecture et fonctionnement d'Inkling

Inkling est un système de mixture d'experts avec 975 milliards de paramètres au total, mais il n'utilise que une fraction de ceux-ci, environ 41 milliards, pour chaque tâche. Ce design permet de garder les modèles très grands plus rapides et moins coûteux à exécuter. Inkling a été formé sur 45 billions de jetons de texte, d'image, d'audio et de vidéo, et raisonne de manière native sur les quatre.

Implications et limites d'Inkling

Thinking Machines ne prétend pas que Inkling est le meilleur modèle disponible aujourd'hui, mais plutôt qu'il offre des performances bien arrondies. Le modèle est conçu pour fournir des réponses calibrées, y compris en signalant l'incertitude plutôt que de deviner, et permet aux utilisateurs de régler l'effort de réflexion pour échanger contre la vitesse. Inkling utilise un tiers des jetons nécessaires par le modèle Nemotron 3 Ultra de Nvidia pour atteindre les mêmes performances de codage.

Modèle économique et impact sur le marché

Thinking Machines mise sur le fait que les organisations peuvent adapter Inkling pour leurs besoins spécifiques, plutôt que de dépendre de modèles génériques. Le modèle est proposé comme un point de départ pour les organisations, qui peuvent le personnaliser via la plateforme de personnalisation de modèles Tinker. Cela signifie que les clients, et non Thinking Machines, sont responsables de s'assurer que leurs personnalisation sont sécurisées.

Exemple de code pour utiliser Inkling : 
   # À venir

Thinking Machines a également souligné que son approche est différente de celle d'OpenAI, d'Anthropic et de Google, qui ont tous construit des modèles d'IA généraux pour les chatbots. Le PDG de Microsoft, Satya Nadella, a également averti que les entreprises qui utilisent des modèles d'IA propriétaires paient deux fois : une fois pour les coûts d'abonnement et une autre fois pour les connaissances commerciales intégrées dans leurs invites et corrections.