Présentation du problème
La ville de San Francisco a ordonné à Apple et Google de supprimer des dizaines d'applications « nudify » de leurs magasins d'applications. Ces logiciels peuvent modifier numériquement des images pour déshabiller les personnes qui y figurent.
Contexte juridique
La loi californienne criminalise toute activité qui « facilite sciemment » ou « aide ou favorise de manière irresponsable » la création de pornographie profondément fausse non consensuelle. En 2025, la Californie a également adopté une loi permettant aux victimes d'engager des actions civiles contre les facilitateurs tiers d'un tel matériel.
Fonctionnement des applications nudify
Ces applications utilisent des outils d'intelligence artificielle pour créer des images intimes non consensuelles. Selon le projet Tech Transparency, ces applications ont été proposées dans les magasins d'applications d'Apple et de Google, malgré les avertissements répétés. Les lettres envoyées par le bureau de David Chiu, procureur de la ville de San Francisco, notent que les entreprises ont « été informées » de leur rôle dans le traitement de paiements pour des achats illégaux depuis près d'un an, mais ont continué à le faire.
Implications et limites
Les lettres de Chiu avertissent que Apple et Google pourraient faire face à des pénalités civiles pour violation de la loi et demandent aux entreprises de contacter la ville dans les 28 jours. Le problème de la pornographie profondément fausse a touché principalement les célébrités féminines, mais les applications nudify rendent possible la cible de toute personne ayant une photo publiquement disponible.
Les applications utilisent des algorithmes d'intelligence artificielle pour créer des images réalistes
