Contexte et motivations
Apple a modifié ses directives App Store afin d’interdire explicitement les applications dites « nudify », c’est‑à‑dire celles qui utilisent l’intelligence artificielle pour créer des images intimes de personnes sans leur accord. Cette décision fait suite à la polémique déclenchée par des utilisateurs de X qui ont exploité le modèle Grok pour produire des deepfakes sexuels non consentis, incluant des mineurs. Bien que la firme n’ait pas retiré X ou Grok du magasin, elle a indiqué aux sénateurs qu’elle avait menacé de supprimer Grok. Lors du WWDC de juin, des manifestants ont réclamé le retrait de ces technologies, et en juillet le procureur de la ville de San Francisco a exigé la suppression de 13 applications incriminées, ce que Apple a exécuté.
Nouvelles exigences techniques
Les nouvelles règles imposent aux développeurs une obligation proactive de prévention et de suppression des images sexuelles non consenties. Concrètement, chaque application doit intégrer des mécanismes de modération capables d’identifier et de bloquer la génération ou la diffusion de tels contenus. Apple précise que le non‑respect de ces garde‑fous, ou l’absence de correction après notification, expose l’application à une suppression du magasin. La politique clarifie également l’interdiction des applications « bait‑and‑switch » qui ajouteraient une fonction de nudification après validation initiale.
Implications pour les développeurs
Pour se conformer, les éditeurs devront déployer des filtres automatisés – par exemple des classificateurs d’images entraînés sur des jeux de données de contenus explicites – ou recourir à des services tiers de détection de deepfakes. Ils devront également mettre en place des processus de revue humaine afin de réduire les faux positifs, car les modèles d’IA peuvent confondre des images légitimes avec du contenu interdit. L’obligation de « prévention proactive » implique que les contrôles soient exécutés avant la mise à disposition de l’application, ce qui augmente la charge de développement et les coûts d’infrastructure.
Limites et perspectives
Apple ne détaille pas les critères techniques exacts ni les seuils de tolérance, ce qui laisse les développeurs dans l’incertitude quant à la suffisance des solutions de détection. L’absence de transparence sur les algorithmes de modération empêche d’évaluer l’efficacité réelle contre les deepfakes générés par des modèles de grande taille comme Grok. Par ailleurs, la mesure ne s’applique qu’aux applications distribuées via l’App Store ; les alternatives hors‑store restent hors de portée du contrôle d’Apple, créant un vecteur potentiel de contournement. Enfin, la capacité à bloquer les contenus « nudify » dépendra de l’évolution des techniques de génération d’images, qui progressent rapidement et peuvent échapper aux filtres actuels.
