Contexte et enjeux

Dans un article publié sur le blog de Cohere, Aidan Gomez, co‑fondateur et PDG, rappelle que les systèmes d’intelligence artificielle sont déjà déployés dans des secteurs à haut risque – banques, réseaux de télécommunications et ministères de la défense. Il souligne que les défaillances dans ces environnements peuvent affecter la stabilité financière, les infrastructures critiques et la sécurité nationale. Le texte indique également que les capacités offensives de l’IA, notamment la génération de code vulnérable, deviennent moins coûteuses que les mesures de défense, créant un déséquilibre technologique.

Analyse des précédents réglementaires

Gomez cite deux exemples historiques. En 1975, la Securities and Exchange Commission américaine a désigné trois agences comme Nationally Recognized Statistical Rating Organizations sans publier de critères d’accès. Ces agences, payées par les émetteurs qu’elles notaient, ont maintenu un monopole pendant plus de vingt‑cinq ans et ont contribué à la crise des titres hypothécaires subprimes. Le second cas, en 1985, concerne le Motor Vehicle Block Exemption européen, qui a permis aux constructeurs automobiles de fixer les normes de sécurité et de formation. Après vingt‑cinq années de réformes, l’Union européenne a dû démanteler ce cadre pour réintroduire une concurrence réelle. Les deux épisodes illustrent comment des règles prétendues « sûres » peuvent consolider des positions de marché et limiter l’innovation.

Risques liés à la concentration des standards IA

Le texte décrit le projet d’Anthropic, dirigé par Dario Amodei, qui sollicite des exemptions antitrust afin que « quelques laboratoires puissants » définissent des standards communs et fixent la vitesse d’évolution de l’IA. Cette proposition implique que les gouvernements obligent tous les autres développeurs à appliquer ces standards sans consultation publique. Gomez argue que la définition du risque, basée sur l’échelle du modèle, favorise les acteurs disposant de ressources massives, excluant les petites équipes qui pourraient identifier des vulnérabilités non couvertes par les cadres existants. Il met en garde contre un système où les critères d’évaluation sont pré‑déterminés, limitant le débat scientifique.

Propositions alternatives

Pour éviter la création d’un cartel technologique, l’auteur recommande la mise en place d’un processus d’examen indépendant ouvert à un panel diversifié – académiciens, régulateurs, organisations de la société civile – avec un mandat clairement défini. Il insiste sur la nécessité de publier les critères d’éligibilité aux revues, afin que chaque acteur puisse les atteindre par des processus transparents. Enfin, il suggère que les standards de sécurité soient revus périodiquement, en intégrant les retours d’expériences provenant de déploiements réels, notamment dans les domaines mentionnés (finance, télécoms, défense). Cette approche viserait à équilibrer la protection contre les risques et la préservation d’un environnement concurrentiel.