Contexte et objectifs
Le projet Adversarial Fashion présenté par IEEE Spectrum explore l’utilisation de motifs imprimés sur des vêtements pour créer des adversarial examples capables de tromper les algorithmes de reconnaissance faciale déployés dans les espaces publics. L’objectif déclaré est de rendre visible le panopticon numérique – la capacité des caméras à identifier chaque individu – en offrant aux porteurs un moyen de se soustraire à cette surveillance sans recourir à des dispositifs électroniques.
Principe technique des perturbations
Les motifs sont générés à l’aide de réseaux antagonistes génératifs (GAN) ou d’optimisations de gradient dirigées contre des modèles de classification d’images standards (ex. ResNet‑50, Inception‑V3). Le processus consiste à calculer, pour chaque pixel du motif, la dérivée de la fonction de perte du classificateur vis‑à‑vis d’une identité cible (souvent « unknown »). Le résultat est un motif visuellement abstrait, mais dont les valeurs de couleur sont ajustées de façon à dépasser le seuil de confiance du modèle lorsqu’il est capturé par une caméra à une distance typique de 2 m et sous un éclairage de 300 lux. Les études antérieures montrent que des perturbations de l’ordre de ε≈0.03 (sur une échelle de 0‑1) suffisent à réduire la précision de reconnaissance de plus de 80 %.
Implémentation sur le textile
Les motifs sont imprimés sur des tissus à haute résolution (300 dpi) afin de préserver la granularité des variations de couleur requises par l’attaque. Le design final intègre des formes géométriques répétées qui, lorsqu’elles sont vues sous différents angles, maintiennent la perturbation statistique nécessaire. Le choix du tissu (polyester‑cotton) minimise la distorsion due à l’étirement, garantissant que les valeurs de pixel restent proches de celles calculées lors de la phase de génération.
Impacts, limites et perspectives
Sur le plan sécuritaire, ces vêtements démontrent que la protection de la vie privée peut être obtenue sans matériel additionnel, simplement en exploitant les faiblesses des modèles de vision par ordinateur. Cependant, l’efficacité dépend fortement du modèle ciblé : les systèmes entraînés avec des données augmentées ou des défenses adversariales (ex. adversarial training, randomization) récupèrent partiellement leurs performances, réduisant le taux de succès à environ 30‑40 %. De plus, la visibilité du motif peut être perçue comme provocante, limitant son adoption dans des contextes professionnels. Enfin, la législation sur la modification intentionnelle de l’apparence visuelle pour contourner la surveillance reste floue, ce qui crée un risque juridique pour les utilisateurs.
