Introduction

La Convention sur certaines armes classiques, un forum international qui se concentre sur les systèmes autonomes létaux, est organisée deux fois par an à l'ONU à Genève. Lors de la session de novembre 2017, Branka Marijan a réalisé que la technologie de l'IA pour la guerre était plus proche et plus réelle que jamais.

Contexte Technique

Le Pentagone a développé un projet appelé Project Maven, qui utilise l'IA pour analyser les images de surveillance des drones. Le projet a débuté en 2017 et a été rejoint par Google. Les systèmes en question n'étaient pas futuristes, mais des plateformes existantes avec des degrés d'autonomie ou la capacité de sélectionner et d'engager des cibles en fonction des données des capteurs.

La technologie de l'IA a transformé la guerre, permettant des tueries plus rapides et plus précises que jamais auparavant. Les États-Unis ont soutenu le développement de l'IA pour la guerre pendant des décennies, et l'influence de l'IA a augmenté de manière exponentielle chaque décennie.

Analyse et Implications

La bataille entre le gouvernement américain et la startup Anthropic a mis en lumière les risques de la guerre autonome. Anthropic cherche à préserver deux « lignes rouges » : l'interdiction de la surveillance de masse domestique et des armes qui peuvent identifier, suivre et tuer des cibles sans intervention humaine. Cependant, il est facile de perdre de vue le contexte plus large, à savoir que l'IA est profondément ancrée dans l'armée.

La directive DOD 3000.09, l'une des rares politiques régissant l'utilisation d'armes autonomes létales, définit un tel système comme celui qui, une fois activé, peut sélectionner et engager des cibles sans intervention supplémentaire d'un opérateur. Cependant, certains programmes de défense antimissile peuvent avoir franchi cette ligne il y a des décennies.

Perspective

La guerre de l'IA est déjà là, et il est important de surveiller les limites et les prochaines étapes. Les débats sur les armes autonomes létales ont été relancés, et il est crucial de considérer les implications éthiques et les risques potentiels de cette technologie. Les entreprises comme Anthropic doivent naviguer dans un paysage complexe de réglementations et de politiques, tout en essayant de préserver leurs « lignes rouges ».