Contexte et motivation
L’article Thinking Fast and Slow in AI: the Role of Metacognition (arXiv:2110.01834) souligne que les avancées récentes en intelligence artificielle restent confinées à des tâches étroites – classification d’images, traitement du langage naturel, prédiction – et reposent largement sur de grands jeux de données et une puissance de calcul accrue. Les auteurs constatent que ces systèmes manquent de capacités que l’on associe à l’intelligence humaine, notamment la flexibilité de passer d’une réponse immédiate à une réflexion approfondie.
Pour combler cet écart, ils s’appuient sur la théorie de Daniel Kahneman, qui distingue deux modes de pensée : le système 1, rapide et basé sur l’expérience, et le système 2, lent et analytique. Le texte propose de transposer ce modèle dans une architecture d’IA multi‑agents.
Architecture proposée
Le schéma décrit deux catégories d’agents : les agents « fast » (système 1) qui résolvent les problèmes en exploitant uniquement des connaissances antérieures stockées dans un modèle du monde, et les agents « slow » (système 2) qui sont déclenchés lorsqu’une situation dépasse les capacités du système 1. Ces agents « slow » effectuent un raisonnement explicite, recherchent des solutions optimales et peuvent mettre à jour le modèle du monde.
Les deux types d’agents partagent également un modèle de soi, contenant l’historique des actions réalisées et les compétences de chaque solveur. Cette double modélisation permet à l’architecture de choisir dynamiquement le niveau de traitement requis, en fonction de la complexité perçue du problème.
Analyse technique des mécanismes
Le recours à un modèle du monde implique la représentation explicite de connaissances de domaine, souvent sous forme de graphes ou de bases de faits. Cette représentation doit être suffisamment riche pour que les agents « fast » puissent récupérer des réponses par similarité de cas, ce qui réduit le coût computationnel à une simple recherche de voisinage. En revanche, les agents « slow » nécessitent des algorithmes de planification ou d’optimisation – par exemple, recherche en profondeur, programmation logique ou méthodes de Monte‑Carlo – ce qui augmente la charge CPU mais améliore la qualité de la solution.
Le modèle de soi agit comme un méta‑registre : il consigne les performances passées des agents, ce qui autorise un méta‑apprentissage où le système ajuste la probabilité d’invoquer le système 2. Cette métacognition repose sur des métriques telles que le taux d’erreur ou le temps de réponse, bien que l’article ne fournisse pas de valeurs numériques précises.
Implications, limites et perspectives
En séparant les traitements rapides des traitements réfléchis, l’architecture vise à réduire le gaspillage de ressources lorsqu’une solution simple suffit, tout en conservant la capacité de résoudre des problèmes complexes. Cependant, la mise en œuvre d’un modèle du monde complet reste un défi : la collecte, la mise à jour et la cohérence des connaissances exigent des efforts d’ingénierie substantiels.
De plus, la décision d’activer le système 2 dépend d’un critère de déclenchement qui, sans seuil clairement défini, peut entraîner des activations inutiles ou, au contraire, des omissions de réflexion. Le papier ne précise pas de protocole d’évaluation comparative entre cette architecture et les approches monolithiques classiques, ce qui limite l’appréciation empirique de son efficacité.
Malgré ces réserves, le cadre proposé ouvre la voie à des systèmes d’IA capables de métacognition, c’est‑à‑dire de surveiller leurs propres performances et d’ajuster dynamiquement leurs stratégies de résolution.
