Présentation
Meta a supprimé une fonctionnalité controversée qui permettait aux utilisateurs de modifier des photos provenant de comptes publics Instagram à l'aide de l'IA. Cette fonctionnalité, qui avait été déployée plus tôt dans la semaine avec un ensemble d'autres outils IA, « n'a pas atteint son objectif » et n'est plus disponible, selon l'entreprise.
Contexte technique
Meta avait annoncé Muse Image, un nouveau générateur d'images IA développé par son unité IA dédiée, Meta Superintelligence Labs. La fonctionnalité en question permettait aux utilisateurs de générer des images en mentionnant des comptes publics Instagram qu'ils souhaitaient référencer. Cette fonctionnalité, qui n'avait pas été conçue pour avertir un utilisateur si ses photos étaient utilisées de cette manière, a suscité une vive réaction négative.
Fonctionnement et limites
La suppression de cette fonctionnalité intervient après que des utilisateurs et des agences de talents, dont la Creative Artists Agency (CAA), ont exprimé leurs inquiétudes quant à son utilisation potentielle. En effet, l'historique de l'IA sur les plateformes de médias sociaux montre que ces technologies ont souvent été utilisées de manière abusive, notamment pour générer des images de célébrités sans leur consentement.
Implications et limites
La décision de Meta de supprimer cette fonctionnalité souligne les défis auxquels les entreprises sont confrontées lorsqu'elles développent et déployent des technologies IA sur les plateformes de médias sociaux. Les entreprises doivent trouver un équilibre entre la fourniture d'outils créatifs et la protection des utilisateurs contre les abus potentiels. Dans ce cas, la fonctionnalité a été supprimée après que les utilisateurs et les agences de talents ont exprimé leurs inquiétudes, ce qui montre que les entreprises doivent être attentives aux commentaires des utilisateurs et prendre des mesures pour prévenir les abus.
