Contexte des contrats militaires d'IA
En 2024, Google a signé plusieurs accords avec le ministère de la Défense américain et le gouvernement israélien pour fournir ses modèles d’intelligence artificielle. Le contrat avec le Pentagone, conclu au premier semestre, autorise l’usage des modèles Google pour « tout usage gouvernemental licite » tout en excluant la surveillance de masse et les armes autonomes sans supervision humaine. Un autre accord, nommé Project Nimbus, implique une collaboration avec Amazon d’une valeur de 1,2 milliard de dollars pour livrer du cloud et de l’IA aux forces armées et aux services civils d’Israël. Des entreprises comme OpenAI, Microsoft, Amazon, SpaceX, Oracle, Nvidia et la start‑up Reflection ont signé des contrats similaires, élargissant le champ d’application de l’IA à la logistique, à la planification et aux opérations de champ de bataille.
Départs de personnel chez Google DeepMind
Au cours du même mois, deux chercheurs de Google DeepMind, Sofia Liguori et Andreas Kirsch, ont annoncé leur démission. Liguori, ingénieure de recherche basée à Londres, a déclaré que la multiplication des projets militaires « me rend honteuse de travailler chez Google ». Kirsch a critiqué la gouvernance de l’entreprise, affirmant que les mécanismes de contrôle « ne sont ni suffisants ni significatifs » pour un déploiement sûr dans des environnements classifiés. Tous deux ont indiqué que leurs contrats de travail les empêchent de critiquer publiquement l’entreprise, ce qui rend leur prise de parole exceptionnelle.
Analyse des mécanismes de gouvernance et des risques
Google se réfère à ses AI Principles, qui insistent sur la supervision humaine et le respect du droit international. Cependant, les employés citent un écart entre ces principes et la pratique contractuelle. Le contrat Pentagon stipule que l’IA ne doit pas être utilisée pour des armes autonomes « sans supervision humaine appropriée », mais le projet Maven de Palantir, intégré à l’IA de plusieurs fournisseurs, montre que les algorithmes peuvent accélérer la sélection de cibles, réduisant le temps de décision de l’opérateur. Selon l’ancien directeur de Project Maven, Jack Shanahan, la priorité est « de déployer le plus vite possible », ce qui peut compromettre la rigueur des tests et des évaluations. Les critiques soulignent que la rapidité de l’IA augmente le risque d’erreurs non détectées dans des contextes de haute pression.
Implications pour l’industrie et perspectives
Les démissions signalent un risque de fuite de talents pour les entreprises technologiques qui s’engagent dans la défense. Un employé anonyme a indiqué que les départs pourraient être compensés par un afflux de nouveaux profils, mais que la culture interne pourrait se transformer. Le débat public sur les contrats militaires d’IA pourrait pousser d’autres acteurs à renforcer leurs politiques d’éthique ou à refuser des projets similaires. En l’absence de transparence sur les processus de revue et de contrôle, les pressions internes et externes resteront un facteur déterminant pour la viabilité à long terme des collaborations entre le secteur privé et les forces armées.
