Présentation
La mission de Thinking Machines est de développer une intelligence artificielle (IA) qui étend la volonté et le jugement humains. L'IA peut effectuer de plus en plus de tâches, mais la décision de ce qu'elle devrait faire repose sur les individus, les organisations et l'humanité dans son ensemble. Ces décisions nécessitent des connaissances et un jugement que les personnes acquièrent grâce à un contact continu avec le travail, de plus en plus souvent réalisé aux côtés de l'IA.
Architecture et fonctionnement
La plupart des IA utilisées aujourd'hui sont formées dans un nombre limité de lieux, puis figées. Elles ne sont pas façonnées par les personnes qu'elles servent et n'apprennent pas beaucoup du travail qu'elles font ensemble. Pour étendre la volonté et le jugement humains, il faut des IA aussi diverses et réparties que les personnes elles-mêmes. Thinking Machines s'engage sur cette voie en poursuivant plusieurs directions techniques, notamment la formation de modèles solides, le développement d'outils permettant aux personnes de personnaliser les modèles pour répondre à leurs besoins uniques, et la création d'interfaces qui élargissent le canal de communication entre les humains et les machines.
Implications et limites
L'avenir de l'IA que nous considérons comme digne d'être construit est humain, façonné par les connaissances humaines, guidé par la volonté humaine et décidé par le jugement humain. Cela nécessite de porter l'intelligence là où se trouvent les connaissances et où elles sont utilisées. Les outils que nous développons permettent à chacun d'affiner les modèles avec ses connaissances uniques et de continuer à les adapter à mesure que ses connaissances évoluent. La participation humaine est un défi technique qui nécessite une nouvelle approche de la conception et de l'évaluation de l'IA, notamment en termes de communication entre les humains et les machines, et en définissant les cibles appropriées pour l'évaluation et l'optimisation.
Analyse scientifique
Un des principaux défis pour intégrer les connaissances et le jugement humains dans le travail avec les modèles de langage (LLM) est le canal de communication étroit entre les humains et l'IA, souvent limité à une petite boîte de texte et à une longue attente. Cela est trop étroit pour véhiculer la richesse de la sagesse et de l'intention humaines et trop lent pour un retour d'information continu. Les personnes collaborent le mieux lorsqu'elles collaborent en temps réel. C'est pourquoi nous faisons un pari à long terme sur les modèles d'interaction, capables de gérer des interactions multimodales en temps réel de manière native, directement dans le modèle lui-même plutôt que dans des structures ajoutées. Construits de cette façon, l'interactivité évolue avec l'intelligence ; la même formation qui rend le modèle plus intelligent le rend également meilleur collaborateur.
