Présentation du débat
Adam Mosseri, le chef d'Instagram, a récemment exprimé son point de vue sur l'intégration de l'IA dans les flux d'actualité. Selon lui, si les utilisateurs n'aiment pas le contenu généré par l'IA, ils ne devraient pas l'avoir dans leur flux. Mosseri a souligné qu'il ne pense pas que le contenu IA devrait être filtré, mais que les utilisateurs devraient être informés si le contenu est généré par l'IA ou non.
Fonctionnement de l'IA sur Instagram
Actuellement, Instagram, comme d'autres plateformes telles que TikTok, YouTube et Facebook, étiquette le contenu généré par l'IA, mais ne propose pas d'option pour le filtrer des flux. Mosseri a reconnu que la détection du contenu IA est « difficile » et que les capacités d'Instagram pourraient être limitées à mesure que les modèles d'IA s'améliorent.
Implications et limites
Mosseri a également mentionné que les utilisateurs devraient pouvoir demander si un contenu est généré par l'IA ou non, et que la plateforme devrait être en mesure de fournir une réponse. Cependant, il a noté que cela pourrait être plus pratique d'étiqueter le contenu non généré par l'IA, tel que les contenus capturés par appareil photo, plutôt que d'essayer de détecter tous les contenus IA. Cette approche soulève des questions sur la manière dont Instagram peut équilibrer la nécessité de protéger les utilisateurs contre les contenus préjudiciables avec la volonté de permettre l'expression créative et l'innovation.
Limites de la détection de l'IA
Le lancement de Meta's AI image generator, Muse Spark, qui permet aux utilisateurs d'intégrer d'autres utilisateurs dans leurs créations IA en les mentionnant, a soulevé des inquiétudes quant aux possibilités d'exploitation et d'abus. Haley McNamara, directrice exécutive du National Center on Sexual Exploitation, a souligné que cette fonctionnalité crée des opportunités « évidentes et prévisibles » pour l'exploitation, les abus sexuels, le harcèlement et la fraude d'identité. Cela met en évidence la nécessité pour Instagram de trouver un équilibre entre la créativité et la sécurité des utilisateurs.
