Présentation du contexte
Demis Hassabis, PDG de Google DeepMind, a récemment plaidé pour la création d'un organisme de standards pour l'IA. Cet appel à l'action vise à établir des normes pour réguler les modèles d'IA de pointe et à assurer leur sécurité.
Architecture et fonctionnement
L'organisme proposé serait chargé de créer des références pour mesurer les risques liés à l'IA. Ces références évalueraient les capacités des modèles d'IA de pointe dans des domaines sensibles tels que la cybersécurité et la recherche en biologie. Hassabis a également souligné l'importance de détecter les modèles d'IA trompeurs.
Les tests d'évaluation des risques pourraient inclure des évaluations spécifiques pour détecter les tentatives de contournement des mécanismes de sécurité ou les signes de tromperie. Hassabis a également proposé que les modèles d'IA soient munis d'une « empreinte digitale » pour garantir leur traçabilité.
Les tests pourraient vérifier les tentatives de bypass des garde-fous de sécurité ou les signes de tromperie, et s'assurer du respect des meilleures pratiques, telles que la mise en place d'empreintes digitales pour les images générées par l'IA.Implications et limites
La mise en place d'un tel organisme nécessiterait une infrastructure importante, que le secteur privé pourrait fournir. Le fonctionnement de l'organisme serait supervisé par un conseil d'experts techniques indépendants et de représentants du secteur open-source.
Les travaux de l'organisme pourraient commencer par un programme d'évaluation des risques pour les laboratoires d'IA, qui pourrait être suivi d'un protocole d'évaluation formel des risques pour l'IA. Cela permettrait de garantir que les modèles d'IA soient sécurisés avant leur mise sur le marché.
Analyse scientifique
La création d'un organisme de standards pour l'IA est une étape cruciale pour assurer la sécurité et la responsabilité dans le développement et le déploiement de l'IA. La proposition de Hassabis souligne l'importance de la collaboration entre les acteurs du secteur privé et les autorités réglementaires pour établir des normes communes et garantir la sécurité des modèles d'IA.
