Contexte et déclarations de Mosseri
Lors d’une interview sur le podcast Colin and Samir, Adam Mosseri, directeur d’Instagram, a affirmé que la "négativité autour de l’IA" allait non seulement persister mais s’intensifier au cours des prochaines années. Il a décrit une montée d’"anxiété, de frustration et de colère" parmi les créateurs, les ingénieurs et le grand public, en soulignant que ces réactions sont à la fois fondées et infondées. Mosseri a également rappelé que les inquiétudes ne se limitent pas aux jeunes ou aux artistes, mais touchent l’ensemble de la société.
Mécanismes de modération et étiquetage
Instagram a commencé à "crack down" sur les profils générés par IA dès août, après le lancement d’une étiquette obligatoire pour les comptes IA plus tôt dans l’année. Mosseri a précisé que la plateforme ne classe pas les contenus IA différemment des contenus non‑IA, mais a admis que la qualité du classement reste incertaine : "Il y a beaucoup de super contenu IA, mais aussi beaucoup de 'AI slop'." Il a ajouté que l’étiquetage vise à informer les utilisateurs sur la nature réelle ou synthétique du contenu, même si la suppression totale du contenu IA est jugée « impraticable ».
Analyse des enjeux et limites
Les déclarations de Mosseri mettent en évidence trois tensions majeures. Premièrement, la crainte de voir ses propres créations utilisées pour entraîner des modèles d’IA sans consentement, un problème juridique encore peu clarifié. Deuxièmement, la peur de la perte d’emploi, notamment chez les créateurs de contenu, les ingénieurs et les mathématiciens, qui redoutent d’être « laissés pour compte ». Troisièmement, la difficulté technique de distinguer automatiquement le contenu IA du contenu humain, comme le montre la persistance des deepfakes de célébrités malgré les mesures d’étiquetage. Sans un système de classement fiable, les utilisateurs risquent de perdre confiance dans la plateforme, ce qui pourrait accentuer la frustration déjà observée. Enfin, l’absence de données précises sur le volume de contenus IA et sur l’efficacité des étiquettes rend difficile l’évaluation de l’impact réel des politiques d’Instagram.
