Contexte et allégations

Mark Cuban, entrepreneur et investisseur, a déclaré que Meta (anciennement Facebook) autorise délibérément la diffusion d’annonces publicitaires utilisant des deepfakes alimentés par l’IA. Selon des documents internes présentés par le lanceur d’alerte, ces publicités auraient généré 16 milliards de dollars de revenus liés à la fraude en 2024. Les documents, obtenus par le biais d’une procédure de divulgation, indiquent que les équipes publicitaires de Meta étaient conscientes du caractère trompeur de ces contenus, mais les ont maintenus en ligne pour maximiser les revenus d’enchères.

Fonctionnement technique des deepfakes publicitaires

Les annonces incriminées reposent sur des modèles génératifs adversaires (GAN) et des réseaux de diffusion capables de synthétiser des vidéos réalistes en quelques secondes. Les créateurs de fraude alimentent le modèle avec des images de marques reconnues, puis superposent des voix synthétiques générées par des modèles de texte‑à‑parole (TTS). Le résultat est une vidéo où un porte‑parole apparent de la marque propose un produit ou un service frauduleux, incitant les utilisateurs à cliquer sur un lien d’affiliation. Cette chaîne de production automatisée permet de créer des milliers de variantes, chacune adaptée à un segment d’audience précis grâce aux outils de ciblage publicitaire de Meta.

Analyse de l’impact financier et des risques

Le chiffre de 16 milliards de dollars représente la part du revenu publicitaire attribuée à des campagnes identifiées comme frauduleuses dans les rapports internes. Cette somme dépasse le total des revenus publicitaires annuels de plusieurs plateformes concurrentes, soulignant l’ampleur du problème. Sur le plan de la sécurité, les deepfakes exploitent la confiance visuelle et auditive des utilisateurs, rendant les filtres traditionnels (détection d’URL malveillantes, analyse de texte) inefficaces. De plus, le modèle économique de Meta, basé sur le cost‑per‑click, incite à maximiser le nombre de clics, même si ceux‑ci proviennent de contenus trompeurs.

Réponses de Meta et limites des mesures actuelles

Meta affirme avoir renforcé ses politiques en interdisant les « contenus synthétiques trompeurs », mais les documents montrent que les équipes de modération n’ont pas appliqué ces règles de façon systématique. Les outils de détection automatisée, basés sur l’analyse de métadonnées vidéo, peinent à identifier les deepfakes générés par des modèles de diffusion récents, dont la résolution et la cohérence faciale sont supérieures aux algorithmes de détection existants. Sans une révision complète du pipeline de validation, la plateforme reste vulnérable à la réinjection de variantes légèrement modifiées, contournant les filtres.