Présentation de l'Institut DeepMind
Le 17 septembre 2026, Google et sa filiale DeepMind ont annoncé la création du DeepMind Institute. Le conseil de direction comprend le co‑fondateur de DeepMind Shane Legg, le cadre Google James Manyika et le président de Google DeepMind Demis Hassabis, avec Legg nommé rédacteur en chef. L’objectif déclaré est de mettre en évidence les divergences de points de vue entre les équipes internes et la communauté mondiale de recherche sur l’intelligence générale artificielle (AGI).
Cette structure institutionnelle se veut un cadre de dialogue permanent, où les positions peuvent évoluer à mesure que de nouvelles données apparaissent. En plaçant des chercheurs de différents horizons sous une même bannière, l’institut cherche à éviter l’enfermement idéologique souvent observé dans les laboratoires de grande taille.
Contenu des essais inauguraux
Le premier livret de l’institut regroupe quatre essais. Le premier traite des politiques économiques susceptibles de gérer les perturbations liées à l’AGI, en proposant des mécanismes de redistribution des gains de productivité. Le second explore la préservation du raisonnement lisible par l’homme dans les modèles, soulignant que la capacité à suivre chaque étape de décision reste un critère de confiance.
Un troisième texte s’attache aux principes de l’épanouissement humain, argumentant que les systèmes d’AGI doivent être alignés sur des valeurs sociétales larges. Le dernier essai propose un cadre d’évaluation des modèles de pointe, incluant des métriques de robustesse, de biais et de conformité aux normes de sécurité.
Propositions de gouvernance et de transparence
Rohin Shah et Anca Dragan, chercheurs en sécurité de DeepMind, soulignent le phénomène de « opaque serial depth » : la profondeur séquentielle d’un modèle qui ne génère pas de trace de raisonnement exploitable. Ils suggèrent de limiter cette profondeur ou d’imposer des exigences de monitorabilité même pour les architectures les plus opaques. Cette approche vise à contrer la tendance à rendre les modèles de plus en plus difficiles à inspecter.
Demis Hassabis avance la création d’un organisme américain de standards pour les IA de frontière. Le processus commencerait par une soumission volontaire de modèles jusqu’à 30 jours avant leur mise en production, suivi d’évaluations conçues en concertation avec les entreprises. À terme, des tests « held‑out » indépendants seraient introduits pour empêcher l’optimisation ciblée des modèles. Le cadre prévoit également la possibilité d’un ralentissement coordonné des développements si le risque global augmente.
Enjeux et limites du débat
Ces propositions s’inscrivent dans une évolution du débat sur la sécurité de l’IA, qui passe de déclarations générales à des mesures concrètes de divulgation et de contrôle externe. L’appui récent des dirigeants d’Anthropic à l’appel de Dario Amodei pour « pace » le développement des IA de pointe montre une convergence d’intérêts parmi les acteurs majeurs.
Cependant, le texte ne fournit pas de métriques chiffrées sur la réduction de la fenêtre de transparence ni sur les coûts associés à la mise en place du cadre de standards. L’absence de données précises rend difficile l’évaluation de la faisabilité technique et économique de ces mesures. Le succès dépendra de la capacité des régulateurs à obtenir des informations détaillées sans compromettre l’innovation.
