Présentation du problème
Le procureur général de San Francisco, David Chiu, a envoyé des lettres d'arrêt aux entreprises Apple et Google, leur demandant de supprimer 13 applications de nudification de leurs magasins d'applications. Ces applications utilisent l'intelligence artificielle pour créer des images explicites à partir de photos ordinaires de personnes réelles.
Fonctionnement des applications de nudification
Ces outils permettent aux utilisateurs mal intentionnés de supprimer les vêtements, de modifier les caractéristiques d'une personne, de la placer dans des positions sexualisées et de remplacer le visage des victimes par celui d'autres personnes sur des corps nus. Selon Chiu, ces applications violent les lois californiennes qui interdisent le soutien aux services qui créent de la pornographie profondément fausse.
Implications et limites
Chiu a déclaré que son bureau était « absolument horrifié » par la prévalence de ces technologies de nudification, qui victimisent principalement des femmes et des enfants à une échelle alarmante. Ces images sont utilisées pour intimider, humilier et menacer les femmes et les filles, ce qui peut avoir un impact dévastateur sur leur réputation, leur santé mentale et leur autonomie. Les entreprises Apple et Google ont probablement gagné des millions de dollars en frais en ignorant ces applications nuisibles au lieu de prendre des mesures plus fermes ou de développer de meilleures méthodes de détection pour éviter de profiter d'une nuisance publique.
Réactions des entreprises concernées
Un porte-parole de Google, Dan Jackson, a déclaré que les cinq applications signalées par Chiu avaient été suspendues de la boutique Google Play pour violation des politiques contre le contenu nuisible. Jackson a également déclaré que Google prend des mesures proactives pour détecter et supprimer les applications avec un contenu nuisible, et que des centaines d'applications violant les règles ont été suspendues.
