Contexte juridique
Le 8 octobre 2026, le procureur de l'État de New York a déposé une plainte contre TikTok, alléguant que la plateforme aurait présenté une fonction de sécurité appelée « Algo Refresh » comme opérationnelle alors qu’elle était factice pour des milliers d’utilisateurs mineurs. La plainte s’inscrit dans un ensemble de plus de vingt‑deux actions judiciaires engagées par des États américains, toutes accusant TikTok de favoriser une utilisation addictive et de tromper les usagers sur les mesures de protection.
Mécanisme de la fonction « Algo Refresh »
« Algo Refresh » est censé permettre à l’utilisateur de réinitialiser le flux de recommandations afin d’éliminer les contenus jugés indésirables ou potentiellement dangereux. Techniquement, la fonction nécessite deux composants : une interface utilisateur qui active le rafraîchissement et un backend qui recalibre les scores de pertinence de l’algorithme de recommandation. Selon le dossier, les participants à l’expérience voyaient le bouton activé, mais le backend ne recevait aucun signal de mise à jour, de sorte que le flux restait inchangé.
Analyse technique du placebo
Le recours à un placebo implique que le code client envoie une requête de type POST /algo_refresh qui est interceptée ou ignorée par le serveur. Cette architecture crée une dissociation entre l’état affiché (feature activée) et l’état effectif (aucune modification du modèle). Le fait que les utilisateurs non inclus dans l’expérience aient observé un changement de flux confirme que le pipeline de recalcul était fonctionnel, mais que les participants à l’expérience n’ont reçu aucune mise à jour des poids de modèle. Cette pratique soulève des questions de conformité aux exigences de transparence imposées par la Federal Trade Commission et les lois de protection de la vie privée des enfants (COPPA).
Implications et limites
Sur le plan de la sécurité, la mise en place d’une fonction factice ne modifie pas directement le risque d’exposition à du contenu nocif, mais elle affaiblit la confiance des utilisateurs et complique l’évaluation des métriques d’engagement. Le même article cite un autre test, rapporté par Bloomberg, qui aurait privé 15 millions d’utilisateurs américains d’une fonction de sécurité, incluant un adolescent décédé par suicide. L’absence de données précises sur la portée exacte de chaque expérience limite la capacité des chercheurs à quantifier l’impact réel sur les comportements des jeunes. En l’état, la plainte de New York repose sur des preuves documentées de l’incohérence entre l’interface et le traitement serveur, ce qui constitue un point d’appui juridique solide mais laisse ouverte la question de l’étendue des dommages collatéraux.
