présentation
L'influenceuse australienne Lily Jay a créé une fondation qui prétend fournir une aide humanitaire dans plusieurs pays, notamment en Ouganda, au Népal, à Gaza et au Soudan. Cependant, une enquête menée par ABC NEWS Verify a révélé que certaines des vidéos et des images partagées par la fondation sont générées par l'IA, ce qui remet en question la véracité des actions caritatives de la fondation.
contexte technique
Les vidéos et les images générées par l'IA sont devenues de plus en plus réalistes, ce qui rend difficile la distinction entre le réel et le faux. Dans le cas de la fondation de Lily Jay, certaines scènes sont clairement manipulées ou générées par l'IA, tandis que d'autres semblent être réelles. Par exemple, dans une vidéo censée montrer des enfants dans un orphelinat en Ouganda, la femme qui apparaît au début est une fabrication créée avec de l'intelligence artificielle, tout comme les enfants avec des sucettes et le banner de la fondation derrière elle.
implications et limites
La découverte de ces manipulations soulève des inquiétudes quant à la transparence et à la responsabilité de la fondation. Le fait que la fondation ne soit pas enregistrée en tant qu'organisme de charité et qu'elle ne fournisse pas de preuves de ses actions caritatives suscite des doutes sur l'utilisation des dons. De plus, l'utilisation de l'IA pour créer des contenus faux peut avoir des conséquences négatives sur la confiance du public dans les organisations caritatives légitimes. Comme l'a déclaré Tim Costello, ancien PDG de World Vision Australia, « les images d'enfants dans des orphelinats touchent le cœur des donateurs comme rien d'autre ».
analyse scientifique
La capacité de l'IA à générer des contenus réalistes soulève des questions sur la véracité des informations disponibles en ligne. Dans le cas de la fondation de Lily Jay, l'utilisation de l'IA pour créer des contenus faux a permis de créer une fausse image de la fondation et de ses actions caritatives. Cela met en évidence la nécessité d'une vérification rigoureuse des informations disponibles en ligne et la nécessité pour les organisations caritatives de être transparentes sur leurs actions et leurs financements. Le code utilisé pour générer ces contenus faux est souvent basé sur des algorithmes complexes qui peuvent être difficiles à détecter, comme le montre l'exemple suivant :
import numpy as np
from PIL import Image
# Générer une image avec des enfants et un banner
img = Image.new('RGB', (800, 600))
img.putdata([(255, 255, 255)] * (800 * 600))
d = ImageDraw.Draw(img)
d.text((10, 10), 'Lily Jay Foundation', fill=(0, 0, 0))
img.save('image.png')
