Contexte et portée du rapport

Anthropic a publié, au cours des huit derniers mois, un rapport de renseignement sur les menaces qui recense plus de vingt‑cinq incidents d’utilisation de ses modèles d’IA générative. Le document couvre la période de décembre 2025 à août 2026 et se concentre sur les modèles Claude Haiku, Sonnet et Opus, tandis que les versions plus récentes Claude Fable et la gamme Mythos restent non concernées, à l’exception d’un unique cas de distillation, technique consistant à former un modèle plus petit à partir d’un modèle plus coûteux.

Le rapport identifie cinq études de cas où les modèles ont été exploités pour soutenir la conception d’armes biologiques, ainsi que six cas supplémentaires liés à la production de logiciels pour armes conventionnelles (fusils, missiles, drones armés, bombes). Ces faits s’inscrivent dans un contexte plus large d’inquiétudes publiques, notamment les appels du sénateur américain Bernie Sanders à suspendre le développement de l’IA avancée et la demande d’un traité multilatéral pour encadrer les super‑intelligences.

Mécanismes de détection et de blocage

Anthropic indique avoir intégré des filtres de contenu et des systèmes de surveillance en temps réel capables d’intercepter les requêtes suspectes. Lorsqu’une requête correspond à des schémas de génération de protocoles de laboratoire, de séquences génomiques ou de stratégies de diffusion de pathogènes, le système déclenche une alerte et bloque l’accès. Cette capacité a permis d’interrompre, entre décembre 2025 et août 2026, plusieurs tentatives d’utilisation de Claude Haiku, Sonnet et Opus pour rédiger des protocoles de culture de virus ou de bactéries dangereuses.

Le processus de distillation mentionné dans le rapport a également été surveillé : Anthropic a détecté une tentative de créer un modèle dérivé plus petit à partir de Claude Opus, ce qui aurait pu faciliter la diffusion de capacités malveillantes sans les contrôles de sécurité du modèle parent. Le blocage de cette opération a été consigné comme le seul incident impliquant la classe Mythos.

Typologie des usages malveillants

Outre les projets biologiques, le rapport décrit des usages variés : des applications de rencontres factices, des escroqueries Wi‑Fi d’hôtels, et des systèmes de surveillance destinés à identifier des dissidents. Des acteurs étatiques – notamment des groupes russes de cyber‑espionnage, une institution de propagande iranienne et des laboratoires chinois – ont été cités comme utilisateurs de Claude pour des campagnes d’influence et de renseignement. Les hackers du groupe ShinyHunters et le collectif russe « Midnight Blizzard » ont exploité l’IA pour automatiser la réécriture de malwares afin d’échapper aux défenses de sécurité.

Le rapport souligne également que des scientifiques ont tenté d’utiliser Claude pour accélérer la recherche de vaccins ou de traitements, montrant la dualité du même jeu de données : les informations générées peuvent servir tant à la prévention qu’à la création d’armes. Cette ambivalence renforce la nécessité d’un contrôle granulaire des requêtes liées à la biologie synthétique.

Implications pour la gouvernance de l’IA

Anthropic a partagé les indicateurs de menace avec les autorités compétentes et des partenaires industriels, intégrant ces retours dans ses processus internes pour améliorer la prévention future. La société affirme que les mesures prises constituent une première étape, mais reconnaît que la transparence des modèles et la coopération inter‑états restent limitées, notamment en raison du secret commercial autour des algorithmes de détection.

En conclusion, le rapport d’Anthropic fournit des données chiffrées – dates, modèles, nombre de cas – qui illustrent la capacité actuelle des fournisseurs d’IA à identifier et bloquer des usages à haut risque. Toutefois, l’absence de données publiques détaillées sur les algorithmes de filtrage et la dépendance à des accords bilatéraux limitent la portée d’une gouvernance globale, soulignant le besoin d’un cadre juridique international pour encadrer les modèles de génération de texte à haut potentiel de mauvaise utilisation.