Contexte législatif et objectifs
Une coalition multipartite de pairs et de députés britanniques propose de rendre obligatoire l’installation d’un logiciel de détection de matériel d’abus sexuel sur enfants (CSAM) sur chaque smartphone et tablette vendus au Royaume‑Uni. Le texte, porté par le pair John Nash et la députée Jess Phillips, s’appuie sur la promesse gouvernementale de contraindre Apple et Google à bloquer la prise et le partage d’images nues d’enfants. L’objectif déclaré est d’empêcher la visualisation, la création ou le partage de CSAM, y compris les contenus générés par IA.
Architecture technique du logiciel de détection
Le dispositif envisagé repose sur une analyse en temps réel des fichiers image et vidéo stockés ou capturés. Selon les déclarations publiques, le logiciel utilise des modèles d’apprentissage profond entraînés à identifier des motifs visuels associés à l’exploitation sexuelle d’enfants. Dès qu’un fichier est reconnu comme suspect, le système applique un flou instantané et bloque l’accès. Pour les appareils plus anciens, une mise à jour logicielle obligatoire serait déployée, ce qui implique une compatibilité descendante avec les API de traitement d’image des versions Android et iOS antérieures.
Le papier présenté par des experts de l’Interpol, de l’IWF et d’instituts criminologiques décrit une chaîne de traitement : extraction de métadonnées, pré‑filtrage par réseau de neurones légers (≈10 Mo) exécuté sur le CPU ou le NPU, puis appel à un modèle plus lourd (≈200 Mo) si le score dépasse un seuil. Cette architecture vise à limiter l’impact sur la batterie et le temps de latence, tout en conservant une précision suffisante pour éviter les faux positifs majeurs.
Analyse des performances et des limites
Les données de l’Internet Watch Foundation (IWF) montrent une hausse de 7 % du retrait d’images CSAM en 2024, soit plus de 312 000 fichiers, et une explosion du nombre de vidéos générées par IA, passant de 13 à 3 440. Cette croissance justifie le recours à l’IA, mais elle expose aussi les limites des modèles actuels : la détection de contenus synthétiques nécessite des réseaux entraînés sur des jeux de données rares, ce qui augmente le risque de faux négatifs. De plus, le floutage « instantané » impose un traitement à la volée, susceptible de ralentir les appareils aux capacités matérielles modestes, notamment les modèles de plus de trois ans.
Le système doit également gérer les scénarios hors‑ligne, où aucune connexion cloud n’est disponible. Dans ce cas, le modèle embarqué doit contenir l’ensemble des signatures, ce qui augmente la taille du firmware et complique les mises à jour de sécurité. Enfin, l’obligation d’un logiciel tiers sur tous les appareils crée une surface d’attaque supplémentaire : si le composant est compromis, il pourrait être exploité pour injecter du code malveillant ou contourner d’autres protections.
Implications pour la confidentialité et la sécurité
Scanner localement les médias soulève des questions de vie privée. Bien que les concepteurs affirment que l’analyse reste « on‑device » et que les images ne sont jamais transmises, la présence d’un module capable d’accéder à chaque fichier crée un point de contrôle potentiellement exploitable par des autorités ou des acteurs malveillants. L’interaction avec le chiffrement de bout en bout des applications de messagerie reste incertaine : le logiciel doit soit être intégré au système d’exploitation, soit obtenir des autorisations élevées, ce qui pourrait affaiblir les garanties de chiffrement.
En résumé, la proposition britannique introduit une solution technique ambitieuse, appuyée sur des modèles d’IA capables de flouter ou bloquer le CSAM avant sa visualisation. La mise en œuvre devra concilier performances, mise à jour des appareils anciens, gestion des faux positifs et respect de la confidentialité, tout en évitant d’ajouter une nouvelle vulnérabilité au vaste écosystème mobile.
