Introduction
Un développeur de logiciels affirme avoir piraté le système SynthID de Google DeepMind, permettant de supprimer les filigranes IA des images générées ou de les insérer manuellement dans d'autres œuvres. Cependant, Google conteste cette affirmation.
Contexte Technique
Le système SynthID est un système de filigranage quasi invisible qui identifie le contenu généré par les outils IA de Google, en intégrant des informations dans les pixels des images au moment de leur création. Il a été conçu pour être difficile à supprimer sans dégrader la qualité de l'image.
Le développeur, qui se fait appeler Aloshdenny, a publié son travail sur GitHub et a documenté son processus, affirmant que cela ne nécessitait que 200 images générées par Gemini, un traitement de signal et « beaucoup de temps libre ».
Analyse et Implications
Le processus utilisé pour pirater les mécanismes sous-jacents du filigranage de Google est techniquement complexe pour les non-développeurs. Le développeur a découvert que le système était « réellement bien conçu » et n'a pas pu supprimer complètement le filigrane SynthID lors des tests, se contentant de confondre les décodeurs SynthID qui tentent de lire les images filigranées.
Google affirme que le système SynthID est robuste et efficace pour l'identification du contenu généré par IA, et que les allégations d'Aloshdenny sont incorrectes.
Perspective
Il est important de surveiller les développements futurs dans le domaine du filigranage IA, car les systèmes comme SynthID pourraient avoir des implications significatives pour la sécurité et la propriété intellectuelle. Cependant, pour l'instant, il ne semble pas que le système SynthID ait été piraté de manière significative.
