Présentation de l'outil
TikTok a commencé à tester un outil facultatif qui scanne les ressemblances créées par l'IA et permet aux créateurs de les signaler à l'entreprise. Cet outil est initialement testé avec certains créateurs américains, selon Zachary Kizer, porte-parole de TikTok US.
Fonctionnement de l'outil
Pour utiliser cet outil, les créateurs doivent d'abord vérifier leur identité avec la société Jumio, en effectuant une analyse de selfie en temps réel et une vérification d'identité. Cependant, selon Kizer, « TikTok ne conserve pas les documents d'identité, et les informations faciales ne sont utilisées que pour la correspondance de ressemblance et pour aider à identifier les utilisations potentiellement non autorisées de la ressemblance d'un créateur ».
Implications et limites
Une fois la vérification effectuée, le système de TikTok scanne le contenu généré par l'IA qui utilise potentiellement la ressemblance d'un créateur. Ensuite, le créateur peut examiner ce que TikTok a trouvé et signaler les publications et les comptes non autorisés. Cette fonctionnalité est similaire à celle que YouTube a récemment rendue disponible pour tous les utilisateurs adultes.
Contexte technique
La détection de ressemblance basée sur l'IA est un domaine en constante évolution, avec des entreprises comme YouTube et TikTok qui travaillent sur des outils pour lutter contre les deepfakes non autorisés. L'utilisation de la vérification d'identité et de l'analyse de selfie en temps réel pour valider l'identité des créateurs est une étape cruciale dans ce processus, car elle permet de garantir que seuls les créateurs réels peuvent signaler les utilisations non autorisées de leur ressemblance.
