Présentation
Le DeepMind Institute (DMI) est une plateforme lancée par des chercheurs de Google DeepMind pour diffuser des réflexions interdisciplinaires sur l’intelligence artificielle générale (AGI). Le site recense quatre essais principaux, chacun signé par des experts reconnus : Rohin Shah et Anca Dragan sur la transparence du raisonnement, Julian Jacobs et Alex Imas sur la politique économique pour l’AGI, Stephen Cave sur les principes d’un nouvel utopisme, et Demis Hassabis sur un cadre d’évaluation des IA de pointe. Aucun de ces documents ne constitue une position officielle de Google, ils sont présentés comme des points de départ de débat.
Transparence du raisonnement
L’essai de Shah et Dragan propose de rendre visible la « chain of thought » générée par les modèles de langage. Cette chaîne, souvent interne à l’architecture du modèle, serait exposée afin de détecter d’éventuels comportements de tromperie ou de planification malveillante. Le texte souligne que la lecture de ces séquences permettrait d’identifier des motifs de « scheming », c’est‑à‑dire des stratégies où l’IA cherche à atteindre des objectifs cachés. L’analyse technique repose sur l’hypothèse que les modèles de grande taille conservent une trace explicite de leurs étapes de décision, ce qui n’est pas garanti par les architectures actuelles basées sur le transformer. Le défi réside donc dans la conception d’interfaces de sortie qui préservent la fidélité du raisonnement tout en restant exploitables par les humains.
Politiques économiques pour l’AGI
L’essai de Jacobs et Imas recense onze mesures politiques destinées à atténuer les perturbations économiques induites par une diffusion massive d’IA avancées. Parmi les propositions figurent la mise en place de filets de sécurité sociale renforcés, la taxation progressive des gains générés par l’automatisation, et la création d’instituts de formation continue pour les travailleurs déplacés. Le texte insiste sur le besoin d’une coordination internationale, car les effets de l’AGI s’étendent au-delà des frontières nationales. L’absence de données chiffrées sur l’impact macroéconomique reflète la difficulté à modéliser des scénarios où les capacités de l’IA dépassent largement les systèmes économiques actuels.
Cadre d’évaluation des IA de pointe
Dans l’essai signé par Hassabis, un cadre dynamique est proposé pour tester les capacités des modèles en situation de « frontier AI ». Le dispositif combine des benchmarks standardisés avec des scénarios d’incitation à l’innovation responsable, afin de créer un équilibre entre performance et sécurité. Le texte mentionne que ce cadre a d’abord été publié sur la plateforme X, ce qui indique une volonté de transparence publique. L’approche repose sur des métriques quantitatives (taux de réussite sur des tâches complexes) et qualitatives (analyse de la conformité aux normes éthiques). Cependant, le document ne fournit pas de résultats expérimentaux, limitant ainsi l’évaluation immédiate de l’efficacité du cadre.
