Contexte diplomatique
Lors de la septième conférence de révision de la Convention sur certaines armes classiques (CCW) à Genève, du 16 au 20 novembre, les délégués ont examiné la possibilité d’ouvrir des négociations sur un traité juridiquement contraignant visant les systèmes capables de sélectionner et d’engager des cibles sans intervention humaine supplémentaire. Selon le texte de la campagne Stop Killer Robots, 130 pays soutiennent un instrument contraignant, tandis que plus de 70 sont prêts à lancer les pourparlers. Environ une douzaine d’États, dont les États‑Unis, Israël et la Russie, s’opposent à cette approche.
Position américaine et arguments juridiques
Le gouvernement américain a présenté, le 4 novembre, un document de travail préconisant cinq années supplémentaires d’efforts au sein du groupe d’experts de la CCW pour élaborer un cadre non contraignant. Les États‑Unis avancent que le droit humanitaire international existant couvre déjà les armes autonomes et qu’un nouveau traité contraignant serait redondant. Le texte américain souligne que des règles non contraignantes peuvent être révisées plus rapidement en fonction de l’évolution technologique, évitant ainsi la création d’un régime juridique distinct applicable uniquement aux signataires.
Le même document affirme qu’il n’a pas été démontré que les systèmes autonomes sont intrinsèquement indiscriminés ou excessivement blessants, et que l’usage responsable de fonctions autonomes peut même renforcer l’application des interdictions actuelles du droit humanitaire. Cette position repose sur l’observation que les pratiques d’État montrent déjà une utilisation contrôlée de l’autonomie, ce qui, selon Washington, réduit les risques pour les civils comparé à des armes dépourvues de telles capacités.
Analyse technique des systèmes autonomes
Les systèmes qualifiés d’« armes autonomes » varient largement, du simple assistance à la décision (IA de reconnaissance d’images) aux plateformes capables de choisir et d’engager une cible sans validation humaine. Les rapports de Human Rights Watch et d’Amnesty International indiquent que des drones équipés d’algorithmes de ciblage sont déjà déployés en Ukraine et au Moyen‑Orient. La distinction technique repose sur le niveau de contrôle humain : les systèmes « human‑in‑the‑loop » requièrent une validation finale, tandis que les systèmes « human‑out‑of‑the‑loop » exécutent la séquence complète de détection, sélection et engagement de façon autonome.
Les risques identifiés incluent la mauvaise identification de cibles, la discrimination involontaire contre des populations vulnérables et l’absence de chaîne de responsabilité lorsqu’une attaque échoue. Ces vulnérabilités découlent de limites inhérentes aux algorithmes de vision par ordinateur, aux jeux de données biaisés et aux contraintes de latence en environnement de combat. Sans supervision humaine directe, la capacité à corriger une décision erronée en temps réel est fortement réduite.
Implications pour le droit humanitaire et la sécurité
Le refus américain de soutenir un traité contraignant maintient la dépendance aux interprétations nationales du droit humanitaire. Cette approche peut conduire à des divergences d’interprétation entre États, notamment sur la notion de « contrôle humain significatif ». En l’absence d’obligations juridiques uniformes, les acteurs non étatiques ou les États aux pratiques moins transparentes pourraient exploiter les lacunes pour déployer des systèmes plus autonomes, augmentant ainsi le risque d’escalade involontaire.
Par ailleurs, la proposition de règles non contraignantes implique que les mises à jour seront principalement techniques, sans mécanisme d’application contraignant. Cette dynamique pourrait favoriser l’innovation rapide, mais elle laisse la porte ouverte à des déploiements qui ne respectent pas les principes de proportionnalité et de distinction, fondamentaux du droit humanitaire. Le débat actuel montre ainsi la tension entre la rapidité d’adaptation technologique et la nécessité d’un cadre juridique stable pour prévenir les dommages collatéraux.