Présentation
Lors d’une audition publique du Sénat américain, plusieurs législateurs ont dénoncé la capacité de Roblox à prévenir les contacts entre adultes prédateurs et utilisateurs mineurs. Le témoignage a mis en avant le fait que la plateforme, qui compte des centaines de millions d’utilisateurs actifs, reste un espace où des comportements d’exploitation sexuelle sont signalés. Les sénateurs ont souligné que les mécanismes de modération existants ne suffisent pas à identifier et bloquer les prédateurs en temps réel.
Contexte technique
Roblox repose sur un modèle de création de jeux où les utilisateurs peuvent interagir via le chat texte, la voix et des systèmes de messagerie interne. La plateforme utilise des filtres automatisés pour bloquer les contenus explicites, mais le processus repose largement sur des listes de mots-clés et des algorithmes de détection de texte. Les critiques ont indiqué que ces filtres peinent à détecter les tentatives de contournement, notamment les messages codés ou les conversations privées qui échappent aux contrôles publics.
Réponses de Roblox
En réponse aux accusations, Roblox a rappelé l’existence d’une équipe de sécurité dédiée, d’un système de signalement intégré et d’un programme de vérification d’âge basé sur l’identification de documents. La société a également mentionné le déploiement de modèles d’apprentissage automatique visant à analyser les modèles de conversation à risque. Toutefois, les sénateurs ont demandé des preuves concrètes d’efficacité, notamment des taux de détection et des délais d’intervention, qui n’ont pas été fournis lors de l’audience.
Implications légales et limites
Le débat a soulevé la question de la responsabilité juridique des plateformes de jeu en ligne face aux abus sexuels. Les législateurs ont évoqué la possibilité d’une législation plus stricte, comparable à la loi américaine « Protecting Children Online », qui obligerait les services à mettre en place des contrôles d’accès plus rigoureux et à publier des rapports de transparence détaillés. En l’absence de données chiffrées publiques, l’évaluation de l’impact réel des mesures de Roblox reste incertaine, ce qui limite la capacité des autorités à mesurer les progrès réalisés.