Contexte et plainte initiale

Un utilisateur a signalé une publicité affichée dans l’application YouTube qui imite une alerte système iOS indiquant « iPhone Storage is Full ». L’annonce propose deux boutons « Yes »/« No » qui, en réalité, redirigent vers une page de téléchargement d’application. Après deux signalements, Google a répondu que la créative ne violait aucune de ses politiques, alors que plusieurs autres utilisateurs avaient reçu le même avis.

Analyse du modèle Gemini

Le modèle Gemini de Google a été interrogé sur la même créative. En moins de quelques secondes, il a produit le résultat suivant :

Classification: DISAPPROVED
Policy Violations:
1. Mimicking System Alerts / UI Elements (Misleading Ad Design)
2. Non-Functional / Deceptive UI Components
3. Deceptive Fear-Based Tactics & Unverified Claims
Required Action: Disapprove the ad creative immediately.

Chaque violation repose sur un élément concret : l’imitation d’une boîte de dialogue iOS, les boutons statiques qui ne fonctionnent pas comme des contrôles système, et le texte qui crée une urgence factice (« If you don’t free up space soon… »). Ces critères correspondent exactement aux règles de Google Ads qui interdisent les publicités mimant des alertes système, les composants interactifs non fonctionnels et les tactiques de peur non vérifiées.

Écart entre IA et modération humaine

Le contraste entre la décision automatisée de Gemini et l’approbation humaine révèle plusieurs points techniques. D’une part, le modèle exploite des embeddings de texte et d’image pour identifier des motifs visuels et sémantiques associés aux violations de politique. D’autre part, le processus de revue humaine repose sur des équipes réparties qui évaluent chaque créative selon un flux de travail manuel, susceptible de surcharge et d’erreurs humaines. Le fait que la même créative ait été approuvée deux fois indique une lacune dans le contrôle de qualité, possiblement due à un manque de critères de priorité ou à une formation insuffisante des examinateurs.

Implications et limites

Cette situation met en évidence le besoin d’intégrer davantage d’outils d’IA dans les pipelines de modération. L’efficacité de Gemini montre qu’un filtre automatisé peut détecter les violations en temps réel, réduisant le risque d’exposition des utilisateurs à des messages trompeurs. Cependant, la dépendance exclusive à l’IA comporte des risques : les modèles peuvent générer des faux positifs, et leur interprétation des politiques reste limitée aux règles explicitement codées. Une approche hybride, où l’IA pré‑filtre les créatives avant une validation humaine ciblée, pourrait améliorer la précision globale tout en conservant la capacité d’intervention humaine sur les cas ambigus.