Introduction
Les démocrates américains tentent de « codifier » les limites d'Anthropic en matière d'armes autonomes et de surveillance de masse. Le sénateur Adam Schiff travaille sur un projet de loi pour garantir que les humains prennent les décisions finales en matière de vie et de mort.
Contexte Technique
Anthropic, une entreprise d'IA, a mis en place des limites pour empêcher que ses modèles d'IA soient utilisés pour des armes autonomes et une surveillance de masse. Le Pentagone a réagi en désignant Anthropic comme un risque pour la chaîne d'approvisionnement. Le sénateur Schiff souhaite éviter de dépendre de la parole du Pentagone ou des dirigeants d'entreprises d'IA pour garantir que les armes autonomes ne soient pas utilisées.
Analyse et Implications
Le projet de loi de Schiff vise à garantir que l'IA ne soit pas utilisée à des fins illicites. Un autre projet de loi, introduit par la sénatrice Elissa Slotkin, limite la capacité du département de la Défense à utiliser l'IA pour la surveillance de masse et les armes autonomes. Les deux projets de loi soulignent l'importance de la présence humaine dans la chaîne de commandement pour les décisions de vie et de mort.
Perspective
Les démocrates américains tentent de trouver un équilibre entre les avantages de l'IA pour la sécurité nationale et les risques potentiels. Le principe de la présence humaine dans la chaîne de commandement est considéré comme essentiel pour éviter les erreurs et garantir que les décisions de vie et de mort soient prises par des humains. Les prochaines étapes consisteront à finaliser les projets de loi et à les soumettre au vote.
