Introduction
Instagram a annoncé son intention de restreindre le contenu pour les comptes d'adolescents en fonction des classifications de films 13+ dans plusieurs pays, dont l'Australie, le Canada, le Royaume-Uni et les États-Unis. Cette mesure vise à réduire la visibilité de contenus présentant des thèmes violents, de la nudité sexuelle et une consommation de drogues.
Contexte Technique
La plateforme utilise des mécanismes de machine learning pour identifier et restreindre les contenus inappropriés. Les nouvelles directives prévoient de cacher ou de ne pas recommander les publications contenant un langage fort, des cascades à risque et des posts affichant des accessoires liés à la marijuana. Un nouveau paramètre appelé « Contenu limité » a également été introduit, avec des filtres de contenu plus stricts pour empêcher les adolescents de voir, de laisser ou de recevoir des commentaires sous les publications.
Analyse et Implications
Cette décision intervient après que Meta ait été tenu responsable de nuire aux adolescents par les tribunaux du Nouveau-Mexique et de Los Angeles. L'entreprise a été critiquée pour avoir donné la priorité à la croissance du produit plutôt qu'à la santé mentale des adolescents. Les nouvelles restrictions de contenu pour les adolescents à l'échelle internationale pourraient être une mesure préventive pour éviter de nouvelles critiques et poursuites judiciaires.
Perspective
Il est important de surveiller les prochaines étapes de Meta en matière de protection des adolescents et de limiter les contenus inappropriés. La société doit continuer à améliorer ses mécanismes de détection et de restriction de contenu pour minimiser les risques pour les utilisateurs les plus jeunes. Les API et les technologies de cloud pourraient également jouer un rôle clé dans la mise en œuvre de ces mesures de sécurité.
