Présentation du cadre réglementaire
Le PDG de Google DeepMind, Demis Hassabis, a plaidé pour la création d'un nouvel organisme de régulation pour surveiller les sorties de modèles de pointe. Dans un article intitulé « Un cadre pour l'IA de pointe et l'aube d'une nouvelle ère », il propose un « organisme de normalisation » calqué sur la Financial Industry Regulatory Authority (FINRA), qui pourrait tester les modèles de pointe et développer les meilleures pratiques pour leur sortie.
fonctionnement de l'organisme de régulation
Le système proposé s'appuierait sur les examens ad hoc effectués par le gouvernement américain sur les modèles Anthropic’s Mythos et OpenAI’s Sol. Ces examens ont été critiqués pour leur manque d'expertise technique et leur processus de décision opaque. Selon la proposition de Hassabis, ces décisions pourraient être confiées à un nouvel organisme, soutenu par le gouvernement américain mais financé par l'industrie de l'IA et fonctionnant de manière indépendante.
analyse de la proposition
La création d'un tel organisme de régulation soulève des questions sur la manière dont il serait financé et géré. Hassabis propose que l'organisme soit financé par l'industrie de l'IA et qu'il soit dirigé par des représentants de l'open source et des experts techniques de l'industrie. Cela permettrait de garantir que l'organisme soit techniquement compétent et qu'il puisse évoluer avec le domaine de l'IA.
implications et limites
La proposition de Hassabis vise à répondre aux préoccupations concernant la régulation de l'IA en créant un organisme de régulation qui soit à la fois techniquement compétent et indépendant. Cependant, il reste à déterminer comment cet organisme serait mis en place et comment il serait financé. De plus, il faudra veiller à ce que l'organisme ne freine pas l'innovation dans le domaine de l'IA tout en garantissant la sécurité et la responsabilité des modèles de pointe.
