Introduction

YouTube annonce l'expansion de sa technologie de détection de deepfakes basée sur l'intelligence artificielle (IA) pour les personnalités publiques, notamment les politiciens, les fonctionnaires gouvernementaux et les journalistes. Cette technologie vise à identifier et à supprimer les contenus générés par IA qui pourraient être utilisés pour manipuler l'opinion publique.

Contexte Technique

La technologie de détection de deepfakes de YouTube repose sur un système de reconnaissance de visages simulés créés à l'aide d'outils d'IA. Ce système est similaire au système de détection de contenu protégé par copyright (Content ID) existant, qui détecte les matériaux protégés par copyright dans les vidéos téléchargées par les utilisateurs. Les utilisateurs éligibles au programme pilote devront d'abord prouver leur identité en téléchargeant une selfie et une pièce d'identité gouvernementale pour accéder à l'outil.

Analyse et Implications

L'expansion de cette technologie vise à équilibrer la liberté d'expression des utilisateurs avec les risques associés à la technologie d'IA qui peut générer des contenus convaincants et trompeurs. YouTube évalue chaque demande de suppression en fonction de ses directives de politique de confidentialité pour déterminer si le contenu est une parodie ou une critique politique, qui sont des formes protégées de liberté d'expression. La société soutient également la loi NO FAKES Act à Washington, qui réglementerait l'utilisation de l'IA pour créer des reproductions non autorisées de la voix et de l'apparence visuelle d'un individu.

Perspective

YouTube prévoit d'étendre cette technologie à d'autres domaines, notamment la détection de voix parlées reconnaissables et d'autres propriétés intellectuelles comme les personnages populaires. L'objectif est de rendre cette technologie largement disponible avec le temps, tout en étant prudent dans son utilisation pour protéger la liberté d'expression. Les vidéos générées par IA seront étiquetées en conséquence, mais la position de ces étiquettes peut varier en fonction du contenu.