Contexte et ampleur du phénomène
Selon le rapport de Wired, plus d’une centaine de personnalités politiques européennes ont vu leur image détournée par des sites web diffusant du contenu pornographique généré par IA. Les victimes couvrent au moins 12 pays, dont la France, l’Allemagne, l’Italie et l’Espagne. Les plateformes concernées sont hébergées sur des domaines .onion et des services de partage de fichiers anonymes, rendant le traçage difficile.
Chaîne technique de création des deepfakes
Les opérateurs exploitent des modèles de diffusion comme Stable Diffusion et des réseaux antagonistes génératifs (GAN) pour synthétiser des corps nus à partir de portraits publics. Le processus typique comprend :
# Exemple de pipeline Python simplifié
import torch, diffusers
pipe = diffusers.StableDiffusionPipeline.from_pretrained("runwayml/stable-diffusion-v1-5")
pipe.to("cuda")
prompt = "portrait of [politician] in explicit pose, photorealistic"
image = pipe(prompt).images[0]
image.save("deepfake.png")
Le script récupère d’abord une photo officielle via les API publiques (par ex. https://api.europarl.europa.eu), la normalise, puis la soumet au modèle avec un prompt explicite. Le rendu est ensuite post‑traité avec ffmpeg pour l’intégrer dans une vidéo courte, souvent partagée sous forme de .gif ou .mp4 de moins de 10 secondes.
Distribution et automatisation
Les sites utilisent des bots Telegram et Discord pour diffuser les fichiers à des groupes ciblés. Un script d’automatisation parcourt les comptes Twitter des politiciens, extrait les dernières photos, génère le deepfake et publie le lien sur plusieurs canaux en moins de deux minutes. Cette rapidité limite la capacité des victimes à réagir avant que le contenu ne devienne viral.
Détection, limites et réponses légales
Les outils de détection, tels que les modèles de classification basés sur les empreintes de compression JPEG ou les réseaux de vision entraînés à repérer les artefacts de diffusion, atteignent un taux de précision d’environ 85 % sur les échantillons fournis. Cependant, les modèles de génération évoluent rapidement, réduisant la marge d’erreur. Au niveau juridique, le Digital Services Act impose aux plateformes de retirer les contenus illicites dans les 24 heures, mais l’anonymat du dark web complique l’application. Les autorités européennes envisagent d’étendre le cadre du RGPD pour inclure le droit à l’effacement des images synthétiques, mais aucune législation contraignante n’est encore en vigueur.
