Contexte juridique

Le procureur de l’État de New York a déposé une mise à jour d’une plainte déposée en 2024 contre TikTok, selon Reuters. La plainte allègue que la plateforme aurait présenté à des milliers d’utilisateurs, dont des mineurs, des versions « fantômes » de ses outils de bien‑être numérique. L’accusation repose sur le fait que certains comptes ont reçu une version non fonctionnelle d’une fonctionnalité baptisée Algo Refresh, censée réinitialiser l’algorithme de recommandation afin de réduire l’exposition à du contenu jugé nocif.

Fonctionnement de l’« Algo Refresh »

Selon les déclarations publiques de TikTok, l’Algo Refresh permet à l’utilisateur de déclencher un « reset » de son flux, ce qui devrait modifier les signaux d’apprentissage du système et diversifier les vidéos proposées. Dans le cadre de l’expérience décrite dans la plainte, TikTok aurait séparé les utilisateurs en deux groupes : un groupe de contrôle recevant la version pleinement opérationnelle, et un groupe expérimental recevant une version factice qui affichait l’interface d’activation sans appliquer de changement réel au modèle de recommandation. Les utilisateurs du groupe factice ont signalé que leurs flux n’avaient pas évolué, bien qu’ils aient cru activer la fonction.

Analyse des risques et limites

Cette pratique soulève plusieurs enjeux. D’un point de vue technique, la mise en place d’un groupe placebo implique que le code serveur ignore la requête d’actualisation pour une portion d’utilisateurs, tout en conservant l’apparence d’une action réussie côté client. Cette dissociation entre interface et logique serveur crée un risque de perte de confiance, car les indicateurs de succès (par ex. réponses HTTP 200) ne reflètent pas l’effet attendu. Sur le plan juridique, la plainte invoque une possible tromperie des consommateurs, notamment parce que la fonctionnalité était présentée comme un « reset permanent », alors qu’elle n’était que temporaire et, pour certains, inexistante. Un responsable produit de la division Digital Well‑Being aurait exprimé des réserves internes, soulignant que « un groupe placebo contredit la transparence de l’algorithme », ce qui indique une prise de conscience des implications éthiques au sein de l’entreprise.

Le porte‑parole de TikTok, Nathaniel Brown, a rappelé que les tests de nouvelles fonctionnalités sont courants dans l’industrie et servent à valider l’expérience en conditions réelles. Cependant, l’absence de transparence quant à la nature du test, combinée à l’absence d’information claire aux utilisateurs, limite la légitimité de ce type d’expérimentation. Sans données chiffrées sur le nombre exact d’utilisateurs affectés ou sur les métriques de changement de flux, l’évaluation de l’impact réel reste partielle. La plainte de New York pourrait inciter d’autres juridictions à examiner les pratiques de test A/B dans le domaine du bien‑être numérique, en particulier lorsqu’elles touchent des publics vulnérables comme les adolescents.