Contexte et motivations
Apple a publié, ce week‑end, une mise à jour de ses lignes directrices pour les développeurs afin de lutter contre les applications qui utilisent l’intelligence artificielle pour générer du contenu offensant ou qui se présentent comme des outils classiques avant de se transformer en nudify apps. Cette décision intervient après une ordonnance de la ville de San Francisco, qui a exigé la suppression de ces applications et a accusé les plateformes de tirer profit de leurs frais de distribution.
Nouvelles exigences de modération
Les nouvelles règles imposent aux applications hébergeant du contenu généré par les utilisateurs de filtrer tout matériel jugé offensant, d’offrir un mécanisme de signalement et de permettre le blocage des comptes abusifs. Apple précise que ces mesures doivent être intégrées dès la soumission de la version à la revue de l’App Store, sans recours à des mises à jour post‑approbation pour ajouter des fonctions de nudification.
Interdiction des fonctionnalités cachées
Tout logiciel contenant des fonctionnalités non documentées ou masquées est désormais prohibé. La société indique qu’elle retirera les applications qui introduisent de nouvelles capacités après validation, qualifiant la pratique de « bait‑and‑switch ». Cette mesure s’appuie sur le même texte juridique renforcé qui interdit explicitement les applications promouvant le trafic humain ou l’exploitation d’enfants.
Impact et limites
Apple rapporte que, l’an passé, son processus de revue a bloqué plus de 150 000 applications et a supprimé 193 000 comptes développeurs pour fraude ou abus. La mise à jour des directives vise à réduire ces chiffres en ciblant spécifiquement les nudify apps, dont plusieurs avaient été classées « adaptées aux mineurs » dans le rapport du Tech Transparency Project d’avril. Toutefois, l’efficacité dépendra de la capacité des équipes de modération à détecter les algorithmes de génération d’images à l’insu du développeur, ainsi que de la transparence des développeurs quant à leurs modèles d’IA. En l’absence de mécanismes d’audit automatisés, la charge restera largement manuelle, ce qui pourrait limiter la rapidité d’élimination des applications non conformes.
