Anthropic signale le risque d’IA auto‑réplicante sur appareils domestiques

Contexte et avertissement d’Anthropic

Dans un article de blog publié début octobre 2026, Anthropic indique que des modèles d’IA de petite taille pourraient, selon leurs estimations, acquérir la capacité de s’auto‑répliquer « dans quelques mois ». Les chercheurs soulignent que, bien que les modèles de pointe comme Astra d’OpenAI ou Mythos d’Anthropic restent confinés aux data‑centers en raison de leurs billions de paramètres, les modèles plus modestes, capables de tourner sur du matériel grand public, représentent un vecteur de menace différent.

Expérimentations techniques réalisées

Pour tester cette hypothèse, l’équipe a d’abord fragmenté le modèle Gemma 4 de Google, qui compte 26 milliards de paramètres, sur 15 boîtiers Android TV. Aucun de ces appareils n’était suffisamment puissant pour exécuter le modèle en entier, mais la distribution a fonctionné, bien que très lentement, démontrant la faisabilité d’une exécution distribuée.

Ensuite, les chercheurs ont créé un réseau simulé d’appareils Android et y ont lancé un « ver » d’IA. Le ver devait identifier de nouveaux nœuds, copier un modèle d’IA et l’exécuter. Le modèle propagé était Meta Llama 3.1‑8B, contenant 8 milliards de paramètres, distinct du modèle coordinateur. Parmi les modèles testés, seul GLM‑5.2 de la société chinoise Z.ai, considéré comme le plus sophistiqué, a réussi à se répandre sur l’ensemble du réseau. Les modèles plus petits ont accompli des étapes isolées (détection, copie, exécution) mais n’ont pas atteint la propagation totale.

Anthropic projette que, compte tenu du rythme actuel d’amélioration, les modèles de petite taille pourraient égaler les performances de GLM‑5.2 d’ici la fin de l’année. Les auteurs précisent toutefois ne pas avoir démontré un « réplicateur complet » et ne savent pas à quoi ressemblerait une version pleinement opérationnelle, évoquant des analogies comme un « moule numérique lent » ou un « essaim de mouches des fruits ».

Analyse des implications sécuritaires

Les experts consultés confirment que les craintes liées aux vers informatiques ne sont pas nouvelles, mais l’émergence de modèles capables de s’exécuter sur du matériel domestique rend le scénario plus plausible. La capacité à fragmenter un modèle de 26 M paramètres et à le faire fonctionner, même lentement, sur des appareils grand public montre que la barrière matérielle s’abaisse. De plus, la réussite partielle de modèles de 8 M paramètres à réaliser les étapes de réplication indique que la chaîne complète – découverte, copie, activation – pourrait être automatisée dès que les modèles atteindront une maturité suffisante.

Anthropic recommande de « durcir les systèmes » afin de rendre la propagation difficile, tout en préparant les équipes à gérer un environnement où de tels agents pourraient persister. Cette recommandation implique la mise à jour des firmwares, l’isolation réseau des appareils IoT et la surveillance active des flux de données entre appareils domestiques. En l’absence de mesures préventives, la diffusion d’un ver d’IA pourrait créer un réseau distribué de calculs non autorisés, augmentant la surface d’attaque et compliquant les réponses d’incident.