Introduction

L'avènement des générateurs d'images par IA a rendu de plus en plus difficile la distinction entre les images authentiques et celles créées par ordinateur. OpenAI a annoncé deux nouvelles mesures pour lutter contre ce problème.

Contexte Technique

La société a adopté une norme ouverte appelée C2PA, qui ajoute un signal clair dans les métadonnées indiquant qu'une image a été générée par IA. OpenAI s'associe également à Google pour inclure une marque d'eau invisible appelée SynthID, qui sera plus difficile à détecter, mais également plus difficile à effacer si des acteurs malveillants tentent de dissimuler leurs traces.

La norme C2PA a été adoptée par une gamme de produits Google, mais son adoption reste incohérente dans l'industrie. La marque d'eau SynthID est conçue pour persister même lorsque les acteurs malveillants tentent de la supprimer, que ce soit par des captures d'écran, des redimensionnements ou des manipulations numériques.

Analyse et Implications

Les deux systèmes sont conçus pour se compléter mutuellement, chacun remédiant aux faiblesses de l'autre. La marque d'eau peut être plus durable lors de transformations telles que les captures d'écran, tandis que les métadonnées peuvent fournir plus d'informations qu'une marque d'eau seule. Ensemble, ils rendent la provenance plus résistante que ne le ferait chaque couche seule.

OpenAI prévoit également de lancer un outil de vérification public qui vérifiera les deux signaux, permettant aux utilisateurs de tester facilement si une image a été générée à l'aide de l'IA. Initialement, l'outil ne s'appliquera qu'aux images générées par les produits OpenAI, mais l'entreprise espère l'étendre à d'autres outils à l'avenir.

Perspective

Il est important de surveiller l'évolution de ces technologies et leur impact sur la société. Les limites de ces systèmes, telles que la possibilité de manipulation des métadonnées et la résistance de la marque d'eau, doivent être prises en compte. Les prochaines étapes consisteront à améliorer la sécurité et la fiabilité de ces systèmes pour garantir une utilisation responsable de l'IA dans la génération d'images.