Introduction
Facebook et Instagram utilisent désormais l'analyse de la structure osseuse par IA pour identifier les photos d'enfants. Cette technologie vise à détecter et à supprimer les utilisateurs de moins de 13 ans de leurs plateformes.
Contexte Technique
Le système d'IA de Meta, la société mère de Facebook et Instagram, scanne les photos et les vidéos publiées sur ses plateformes pour détecter des « thèmes généraux et des indices visuels », notamment la taille et la structure osseuse. Cette technologie est utilisée pour identifier les utilisateurs mineurs sans recourir à la reconnaissance faciale.
Meta précise que cette technologie ne permet pas la reconnaissance faciale et ne permet pas d'identifier une personne spécifique sur une image. Le système analyse également les publications, les commentaires, les biographies et les légendes pour rechercher des « indices contextuels » qui pourraient indiquer que l'utilisateur est mineur.
Analyse et Implications
L'annonce de Meta intervient après une décision de justice qui a condamné la société à payer 375 millions de dollars pour avoir violé la loi de l'État du Nouveau-Mexique en ne protégeant pas suffisamment les enfants contre les prédateurs en ligne. Cette technologie pourrait avoir des implications importantes pour la sécurité en ligne des mineurs et pour la responsabilité des entreprises de réseaux sociaux.
Perspective
Meta prévoit de déployer cette technologie dans d'autres pays et de l'étendre à d'autres fonctionnalités, telles que la création de comptes pour les adolescents. La société continue de plaider en faveur de la vérification de l'âge au niveau des magasins d'applications et des systèmes d'exploitation, une approche qui gagne du terrain au Congrès et dans certains États.
