Présentation d'Inkling

Thinking Machines a développé un modèle de poids ouverts appelé Inkling, qui est un Mixture-of-Experts transformer avec 975 milliards de paramètres au total, dont 41 milliards actifs. Ce modèle prend en charge une fenêtre de contexte pouvant atteindre 1 million de jetons et a été pré-entraîné sur 45 billions de jetons de texte, d'images, d'audio et de vidéo.

Fonctionnement d'Inkling

Inkling raisonne de manière native sur du texte, des images et de l'audio, et équilibre le coût avec les performances grâce à un effort de réflexion efficace et contrôlable. Le modèle a été entraîné pour être une base solide et équilibrée : solide dans de nombreux domaines et suffisamment flexible pour s'adapter. Inkling n'est pas le modèle le plus puissant disponible aujourd'hui, mais il offre une combinaison de qualités qui en font une bonne base de modèle de poids ouverts pour la personnalisation.

Implications et limites

Les capacités d'Inkling incluent la transcription de la parole, le suivi d'instructions verbales, la réponse à des questions sur des enregistrements et la raisonnement sur des contenus audio plus longs. Le modèle peut également accepter des images en entrée et décrire le contenu visuel, répondre à des questions et effectuer un raisonnement approfondi basé sur les informations visuelles fournies. Inkling démontre des performances solides sur des tâches de raisonnement visuel, telles que les diagrammes et les tâches de raisonnement mathématique visuel.

Personnalisation et applications

Inkling est disponible pour une personnalisation sur la plateforme Tinker, ce qui permet aux développeurs de fine-tuner le modèle pour des cas d'utilisation spécifiques. Le modèle peut être utilisé pour une variété de tâches, telles que la création de web-apps, la génération de code et la résolution de problèmes. Les capacités de personnalisation d'Inkling ouvrent de nouvelles perspectives pour les applications réelles, telles que la collaboration et l'amélioration continue à travers l'itération.

Exemple de code pour la personnalisation d'Inkling :
   # Importation de la bibliothèque Tinker
   import tinker
   
   # Chargement du modèle Inkling
   model = tinker.load_model('inkling')
   
   # Fine-tuning du modèle pour une tâche spécifique
   model.fine_tune('tâche_spécifique')

Les développeurs peuvent choisir le meilleur modèle pour chaque cas d'utilisation en fonction de la courbe d'effort/performances, qui prend en compte le coût et la latence. Inkling offre une flexibilité et une efficacité pour les applications réelles, ce qui en fait un outil puissant pour la personnalisation et l'amélioration continue.