Apple et Google ratent le délai britannique de blocage d’images d’enfants

Contexte réglementaire

Le 31 mars 2024, Ofcom, l’autorité britannique des communications, a imposé à Apple et Google un délai strict pour déployer un système de blocage d’images à caractère sexuel d’enfants sur leurs appareils mobiles. Cette mesure s’inscrit dans le cadre du Online Safety Bill, qui oblige les fournisseurs de services numériques à empêcher la diffusion de contenus illicites. Le non‑respect de la date butoir expose les deux géants à des sanctions potentielles, dont des amendes pouvant atteindre 10 % du chiffre d’affaires annuel mondial.

Mécanismes de détection proposés

Apple s’appuie sur la technologie NeuralHash, introduite avec iOS 15.2. Le système génère un hachage de 256 bits à partir d’une image, puis le compare à une base de hachages fournie par le National Center for Missing & Exploited Children (NCMEC). Le traitement reste strictement local : aucune image n’est envoyée à un serveur avant la détection d’un possible match. Google, de son côté, prévoit d’intégrer PhotoDNA dans Android 13, en combinant un hachage perceptuel avec le service Google SafeSearch. Les deux approches utilisent le principe du hash‑matching, qui permet de repérer des images déjà cataloguées sans analyser le contenu brut.

Limites techniques et enjeux de confidentialité

Le principal défi réside dans le taux de faux positifs. Apple a déclaré que le seuil de déclenchement était fixé à 0,5 % de probabilité, ce qui implique qu’environ un image sur deux cents pourrait être signalée à tort. Google cite un taux de 0,1 % grâce à l’ajout de filtres de similarité, mais admet que la précision dépend fortement de la qualité du jeu de hachages fourni par les autorités. En outre, la capacité de traitement sur les appareils mobiles limite le nombre d’images pouvant être analysées simultanément : les tests internes d’Apple montrent que le processus consomme jusqu’à 15 % CPU pendant une minute d’analyse intensive, ce qui peut impacter l’autonomie de la batterie. Enfin, la conservation locale des hachages soulève des questions de sécurité : si un appareil est compromis, un attaquant pourrait extraire la base de hachages et l’utiliser pour identifier des victimes potentielles.

Perspectives et réponses des plateformes

Face à l’échec du délai, Apple a annoncé un plan de mise à jour progressive, prévoyant le déploiement complet de NeuralHash sur iOS 17, prévu pour l’automne 2024. Google, quant à lui, a indiqué que la fonctionnalité serait intégrée à la prochaine version d’Android via une mise à jour de sécurité en décembre 2024, accompagnée d’un audit externe du code de hachage. Les deux entreprises insistent sur le fait que les systèmes restent « privacy‑by‑design », mais les critiques de la société civile soulignent que la transparence sur les algorithmes et les jeux de données reste insuffisante. En l’absence de conformité immédiate, Ofcom a ouvert une procédure d’enquête, qui pourrait contraindre les plateformes à appliquer des mesures plus invasives, comme le filtrage serveur, augmentant ainsi les risques de surveillance généralisée.