Introduction

OpenAI a récemment publié un document de politique qui propose une approche différente de celle de la Maison Blanche en matière de sécurité de l'IA. Cette divergence concerne notamment la responsabilité de la surveillance de la sécurité des modèles d'IA avancés.

Contexte Technique

Le document d'OpenAI, intitulé « Gouvernance démocratique de l'IA de pointe : un plan pour un cadre fédéral », préconise que les agences civiles soient responsables de la surveillance de la sécurité de l'IA de pointe, tandis que la Maison Blanche a confié cette tâche à la National Security Agency (NSA). OpenAI préfère que cette responsabilité soit confiée aux régulateurs scientifiques civils du Center for AI Standards and Innovation (CAISI), qui fait partie du département du Commerce.

Le PDG d'OpenAI, Sam Altman, a exprimé son soutien à l'ordre exécutif de la Maison Blanche sur les réseaux sociaux, soulignant que les États-Unis devraient jouer un rôle de leader dans le développement de l'IA tout en veillant à ce qu'elle soit sûre et que les outils de cybersécurité soient mis à la disposition des défenseurs de confiance.

Analyse et Implications

La divergence entre OpenAI et la Maison Blanche sur la sécurité de l'IA pourrait avoir des implications importantes pour le développement et la régulation de l'IA aux États-Unis. La décision de confier la surveillance de la sécurité de l'IA à la NSA ou au CAISI pourrait avoir des conséquences sur la manière dont les modèles d'IA sont évalués et réglementés.

Un autre point de préoccupation pour OpenAI est le plan de la Maison Blanche d'établir un processus de « benchmarking » pour les modèles d'IA de pointe. Cela pourrait entraîner une certaine confusion quant au niveau de scrutiny que les modèles d'IA subiront de la part de la NSA.

Perspective

Les prochaines discussions entre OpenAI et les responsables de la Maison Blanche devraient porter sur les critères à établir pour déterminer le seuil de capacité au-delà duquel un modèle d'IA devrait être considéré comme un « modèle d'IA de pointe » soumis à la réglementation. Il sera important de suivre ces développements pour comprendre comment la sécurité de l'IA sera réglementée aux États-Unis et quels seront les impacts sur le développement de l'IA dans le pays.