Présentation de SynthID
Google a annoncé que ses outils ont été utilisés pour créer plus de 100 milliards d'images et de vidéos IA en quelques années. Pour lutter contre la désinformation, Google a développé SynthID, une technologie de marquage d'eau invisible qui peut être utilisée pour étiqueter les contenus générés par IA.
Fonctionnement de SynthID
SynthID est encodé dans les pixels d'une image ou d'une vidéo, ou dans la forme d'onde d'un clip audio. Cette technologie est conçue pour résister aux édits et aux compressions, et Google affirme qu'elle peut survivre même aux mèmes les plus dégradés. Les chercheurs de Google DeepMind ont travaillé pour rendre SynthID une méthode durable pour étiqueter les contenus IA.
Limites de SynthID
Même si SynthID est robuste, elle ne résout pas le problème de la désinformation liée à l'IA. Les métadonnées comme le schéma C2PA (Coalition for Content Provenance and Authenticity) peuvent être facilement supprimées en éditant et en sauvegardant une image ou en prenant une capture d'écran. Les watermarks comme SynthID peuvent être détectés, mais il est difficile de garantir qu'ils ne seront pas supprimés ou modifiés.
Implications et limites
La capacité de SynthID à résister aux édits et aux compressions est un pas en avant, mais il est important de noter que la lutte contre la désinformation liée à l'IA est un défi complexe. Les entreprises comme OpenAI, Runway et Nvidia commencent à utiliser SynthID, mais il est essentiel de continuer à développer et à améliorer les technologies de détection et de prévention de la désinformation.
