Influenceuse MAGA révélée comme un modèle d'IA

Introduction

Une influenceuse MAGA, connue sous le nom d'Emily Hart, a été démasquée comme étant un modèle d'IA créé par un jeune Indien de 22 ans, Sam, qui est en train de devenir chirurgien orthopédique. L'influenceuse avait accumulé des millions de followers avec des contenus patriotiques, mais il s'est avéré que c'était un stratagème pour gagner de l'argent en ligne.

Contexte Technique

Sam a utilisé l'IA de Google, Gemini, pour créer des images d'une jeune femme en bikini, spécifiquement conçues pour le public conservateur américain. Il a ensuite créé un compte Instagram pour Emily Hart, qui est devenue rapidement populaire avec des publications pro-chrétiennes, pro-Second Amendment, pro-vie et anti-immigration. Les contenus ont généré des millions de vues et des revenus importants pour Sam, qui a également créé un compte sur la plateforme Fanvue pour proposer des contenus plus explicites.

Analyse et Implications

L'utilisation de l'IA pour créer des profils fictifs est devenue plus believable, selon Valerie Wirtschafter, une experte en technologie émergente et démocratie. Les jeunes femmes conservatrices sont particulièrement attention-grabbing, car la plupart des femmes âgées de 18 à 29 ans sont plutôt libérales. Cependant, Sam a déclaré que les partisans de MAGA sont « super-dumbs » et qu'ils sont plus susceptibles de croire à ses contenus. L'affaire soulève des questions sur la sécurité et la fiabilité des réseaux sociaux, ainsi que sur les implications éthiques de l'utilisation de l'IA pour manipuler l'opinion publique.

Perspective

Il est important de surveiller l'évolution de l'IA et de ses applications, en particulier dans le contexte des réseaux sociaux et de la manipulation de l'opinion publique. Les plateformes doivent prendre des mesures pour détecter et prévenir les contenus générés par l'IA qui peuvent être utilisés pour manipuler les utilisateurs. De plus, il est essentiel de sensibiliser les utilisateurs aux risques potentiels de l'IA et de promouvoir une utilisation responsable de cette technologie.