Contexte juridique
Des dépôts de témoignages de salariés TikTok ont été rendus publics dans le cadre d’une procédure de multi‑district litigation lancée en 2022. Cette action regroupe plusieurs centaines de plaintes contre TikTok, Meta, Snap et Google, accusant les plateformes de connaître les risques pour les enfants et de ne pas les divulguer. Les transcriptions, obtenues par NPR, proviennent d’auditions fédérales déposées en mars et montrent que les employés ont signalé leurs inquiétudes directement aux dirigeants.
Alertes internes et mécanismes de sécurité
Reagen Maher, qui a occupé des postes seniors en sécurité et investigations de 2021 à 2024, a décrit dans son témoignage la présence de « transactional sexual content » sur la fonction Live. Il a indiqué que des mineurs se déshabillaient en échange de « gifts » convertibles en monnaie réelle, un phénomène déjà couvert par un article de Forbes en 2022. Maher a affirmé avoir transmis ces constats au PDG de l’époque, V Pappas, et avoir constaté une résistance interne à qualifier le problème de « grave ». Un échange interne montre qu’il a lutté pendant plusieurs mois pour que des projets correctifs soient lancés, tout en soulignant que les dirigeants étaient déjà informés.
Eric Han, ancien responsable de la sécurité, a quant à lui alerté en 2020 sur les « rabbit holes » algorithmiques. Son rapport interne décrit un « effet de contagion réel » lié à la promotion de contenus suicidaires, et insiste sur le caractère urgent de protéger les mineurs. Han a reproché à TikTok de ne pas avoir communiqué ces risques aux parents, malgré la disponibilité d’outils de contrôle parental au sein de l’application.
Analyse des lacunes et implications
Les faits révèlent trois points de défaillance structurelle. Premièrement, le système de modération semble dépendre de signalements réactifs plutôt que d’une détection proactive, ce qui laisse les contenus transactionnels persister jusqu’à ce qu’ils soient exposés par la presse. Deuxièmement, l’algorithme de recommandation, conçu pour maximiser le temps d’écran, amplifie les contenus à risque sans filtre d’âge efficace, créant les « rabbit holes » dénoncés par Han. Troisièmement, la gouvernance interne ne traduit pas les alertes en actions concrètes : les projets évoqués restent vagues et les dirigeants ne priorisent pas la communication aux parents, ce qui contrevient aux obligations légales de transparence sur les risques pour les enfants.
Sur le plan juridique, la documentation interne pourrait servir de preuve de connaissance préalable, renforçant les arguments des plaignants dans le cadre du litige collectif. Sur le plan technique, l’absence de mécanismes automatisés de filtrage des transactions monétisées et de contrôle de l’âge sur les flux Live constitue une faille exploitable, notamment parce que les « gifts » sont convertibles en argent réel, créant une incitation financière à la production de contenus à caractère sexuel. Enfin, la persistance de ces problèmes indique un désalignement entre les objectifs commerciaux (engagement et monétisation) et les exigences de sécurité des enfants, un déséquilibre qui pourrait pousser les régulateurs à imposer des standards plus stricts.
