Anthropic propose une loi s’activant après 50 décès ou 1 Md$ de dommages

Contexte et objectifs du texte

Anthropic, l’un des principaux fournisseurs de modèles de langage, a soumis un projet de loi américain visant à encadrer les systèmes d’intelligence artificielle à haut risque. Le texte prévoit que les mesures de restriction ne s’appliquent que si l’impact réel dépasse deux seuils quantitatifs : au moins 50 décès ou un milliard de dollars de dommages matériels ou financiers. L’objectif déclaré est d’éviter une régulation excessive tout en conservant la capacité d’intervenir en cas de catastrophe majeure.

Mécanisme de déclenchement et rôle du Département du Commerce

Le projet attribue au Department of Commerce l’autorité exclusive d’« arrêter » un modèle d’IA jugé dangereux. Cette compétence se matérialise par un ordre d’arrêt qui suspendrait la mise à disposition du modèle, que ce soit via une API, un produit intégré ou une distribution open‑source. Le texte ne précise pas de procédure détaillée de notification, mais il implique que le Commerce devra évaluer les preuves d’un préjudice atteignant les seuils avant d’émettre l’ordre.

Analyse technique des seuils de déclenchement

Les seuils choisis – 50 décès et 1 Md$ de dommages – sont exceptionnellement élevés comparés aux incidents de sécurité informatique classiques, où les impacts sont souvent mesurés en milliers de dollars ou en atteinte de données. Cette barrière quantitative crée un point de bascule qui ne sera probablement atteint que dans des scénarios de mauvaise utilisation à grande échelle, comme une IA générant des instructions pour fabriquer des armes ou manipulant des marchés financiers. En pratique, la collecte de données fiables sur les décès ou les pertes financières liées à une IA est complexe : les effets peuvent être indirects, différés dans le temps, ou masqués par des acteurs malveillants. Le manque de métriques intermédiaires risque donc de retarder l’intervention jusqu’à ce que le préjudice soit déjà irréversible.

Implications et limites du dispositif

Concentrer le pouvoir de décision dans une seule agence soulève plusieurs questions de gouvernance. Le Commerce, traditionnellement chargé de la politique industrielle, n’a pas d’expertise spécifique en éthique ou en sécurité de l’IA, ce qui peut conduire à des évaluations biaisées ou à une dépendance excessive aux rapports fournis par les développeurs. De plus, le texte ne prévoit pas de mécanisme de recours indépendant, ni de cadre de transparence sur les critères d’évaluation. Enfin, le seuil de 50 décès pourrait être perçu comme une dérogation de principe : les dommages humains sont traités comme un simple compteur, sans prise en compte de la gravité morale ou sociétale des incidents non mortels mais massifs (ex. désinformation, discrimination). En l’absence de données intermédiaires, les régulateurs pourraient se retrouver incapables de justifier une action préventive, laissant les risques s’accumuler sous le radar.