Présentation du contexte
Demis Hassabis, PDG et cofondateur de Google DeepMind, estime qu'un régulateur mondial de l'IA est nécessaire pour contrôler les modèles de pointe qui pourraient devenir trop dangereux. Il propose que les États-Unis dirigent cette initiative, compte tenu de leur position économique et technique.
Architecture et fonctionnement
L'organisation, similaire à des régulateurs existants comme la Financial Industry Regulatory Authority, serait composée d'experts indépendants et de représentants de communautés open-source. Elle aurait le pouvoir d'évaluer les modèles de pointe avant leur sortie et de coordonner un ralentissement à l'échelle de l'industrie si ces modèles sont jugés trop risqués.
Implications et limites
La nécessité d'une régulation mondiale devient de plus en plus urgente à mesure que les systèmes d'IA gagnent en sophistication. Demis Hassabis estime que l'intelligence artificielle générale (AGI) est probablement à seulement quelques années d'intervalle. Il souligne que les États-Unis devraient prendre la tête de cette initiative pour établir des normes mondiales.
Analyse scientifique
La proposition de Demis Hassabis fait suite à des efforts pour établir un cadre de gouvernance pour les systèmes d'IA de plus en plus puissants. Il a passé des mois à construire un soutien pour sa proposition, notamment en briefant l'administration Trump et des officiels européens. L'objectif est de créer une organisation opérationnelle d'ici la fin de l'année.
