Contexte juridique
Un tribunal du Texas a rendu un jugement selon lequel TikTok aurait présenté de façon trompeuse son dispositif de protection des mineurs. La décision s’appuie sur le Texas Deceptive Trade Practices Act, qui interdit les allégations mensongères susceptibles d’induire le consommateur en erreur. Le juge a conclu que les communications de TikTok sur la sécurité des enfants ne reflétaient pas la réalité du fonctionnement du service.
Fonctionnement du dispositif de sécurité enfant
Le dispositif évoqué regroupe plusieurs outils : le mode « Restricted », la fonction « Family Pairing » et le contrôle du temps d’écran. Ces outils reposent sur des filtres de contenu basés sur l’apprentissage automatique et sur la vérification d’âge au moment de la création du compte. La vérification d’âge se limite à une auto‑déclaration, sans recours à une authentification tierce (ex. passeport ou carte d’identité). Les filtres appliquent des listes de mots‑clés et des modèles de classification pour bloquer les vidéos jugées inappropriées.
Analyse technique et limites
Les filtres automatisés sont sensibles aux faux positifs et aux faux négatifs. Un modèle de classification entraîné sur des données publiques peut manquer de précision lorsqu’il doit identifier des contenus à risque pour les adolescents, notamment les vidéos à connotation sexuelle subtile ou les défis dangereux. De plus, l’absence de vérification d’âge robuste empêche le système de différencier un compte de 13 ans d’un compte de 30 ans, ce qui affaiblit la pertinence des restrictions appliquées. Le jugement souligne que TikTok a continué à promouvoir la fonction comme « fiable » alors que les métriques internes montraient des taux de détection insuffisants, ce qui constitue une forme de publicité mensongère.
Implications pour les plateformes
Le verdict impose à TikTok de revoir ses messages marketing et de fournir des preuves d’efficacité pour chaque fonctionnalité de sécurité. Sur le plan technique, les plateformes devront envisager des solutions d’authentification d’âge plus robustes (ex. vérification via documents officiels ou services tiers) et améliorer la transparence des performances des filtres (taux de précision, rappel, incidents signalés). Le cas pourrait également inciter les législateurs à renforcer les exigences de divulgation pour les outils de modération automatisée, afin d’éviter des allégations non étayées.
