Contexte de l’appel papal
Dans un discours prononcé le vendredi, le pape Léon XIV a exhorté les États membres de l’ONU à « désarmer » les systèmes d’intelligence artificielle. L’intervention s’inscrit dans le cadre d’une réunion prévue à Genève le mois prochain, où les délégués devront examiner des mesures concrètes pour interdire les armes autonomes létales. Le pape rappelle également son encyclique publié en mai 2024, qui insiste sur la protection de la personne humaine à l’ère de l’IA. Il cite en parallèle la prise de position du pape François en 2024, qui avait déjà demandé l’interdiction de toute machine capable de décider de la mort d’un être humain.
Enjeux techniques des armes autonomes
Les armes autonomes létales reposent sur des algorithmes capables d’interpréter des capteurs, de sélectionner des cibles et d’engager le feu sans validation humaine immédiate. Cette chaîne de décision soulève deux problèmes majeurs : la fiabilité des données d’entrée et l’impossibilité de garantir une supervision humaine en temps réel. Les systèmes d’apprentissage profond, lorsqu’ils sont déployés dans des environnements de combat, peuvent produire des comportements imprévus, notamment en raison de biais d’entraînement ou de perturbations électromagnétiques. Sans une boucle de contrôle humain, la responsabilité juridique devient floue, ce qui complique l’attribution de la faute en cas d’erreur.
Propositions de gouvernance
Le pape propose la mise en place de normes partagées, d’une surveillance indépendante et de mécanismes d’obligation de rendre des comptes. Il insiste sur le fait que les décisions affectant la vie, la liberté ou l’usage de la force doivent rester sous contrôle humain éclairé. L’appel à « rejeter les droits ou la personnalité juridique pour les IA » vise à empêcher la création de cadres légaux qui attribueraient à des systèmes autonomes une capacité de décision équivalente à celle d’une personne morale. Ces recommandations s’appuient sur la nécessité d’une transparence algorithmique et d’audits réguliers pour détecter les dérives.
Limites et perspectives de mise en œuvre
La réalisation d’un bannissement global dépendra de la volonté politique des États et de la capacité des organisations internationales à faire respecter les standards proposés. Les acteurs militaires disposent déjà de prototypes fonctionnels, ce qui rend la transition technique difficile. De plus, l’absence de consensus sur la définition exacte d’une « arme autonome » complique la rédaction de traités contraignants. Malgré ces obstacles, le discours du pape crée un cadre moral qui pourrait influencer les négociations futures, notamment en incitant les législateurs à intégrer des exigences de contrôle humain dès la phase de conception.
