présentation

La communauté de fanfiction est actuellement en conflit avec l'utilisation de l'IA pour générer des œuvres. Les lecteurs et les écrivains tentent de développer des méthodes pour détecter si les œuvres de fanfiction ont été générées à l'aide de l'IA. Une solution récente, appelée Claude detector, a été proposée pour identifier les artefacts de code laissés par le bot Anthropic’s Claude.

fonctionnement

Le Claude detector fonctionne en analysant le code HTML des œuvres de fanfiction publiées sur Archive of Our Own (AO3). Lorsqu'un utilisateur visite une page contenant le code injecté par Claude, le fond de la page devient rouge. Cette méthode semble fiable, car les tests ont montré que le code est présent lorsque le texte est copié directement à partir de Claude et absent lorsque le texte est édité dans un autre logiciel avant d'être publié sur AO3.

font-claude-response-body

Cependant, cette méthode n'est pas sans limites. Elle ne peut détecter que les œuvres qui ont été copiées directement à partir de Claude et ne peut pas identifier les œuvres qui ont été éditées ou modifiées avant d'être publiées.

implications et limites

La détection de l'IA dans les œuvres de fanfiction est un problème complexe. Les méthodes actuelles sont limitées et peuvent conduire à des faux positifs ou à des faux négatifs. La communauté de fanfiction doit trouver un équilibre entre la prévention de l'utilisation de l'IA et la protection des écrivains qui utilisent ces outils de manière créative et transparente. La solution la plus efficace pour distinguer les œuvres générées par l'IA est peut-être l'utilisation de tags de transparence, tels que le tag « Created Using Generative AI » sur AO3.

analyse scientifique

Les entreprises d'IA ont tout intérêt à résoudre le problème de la détection de l'IA, car les modèles actuels sont entraînés sur du texte issu de sources indiscriminées et pourraient dégrader la qualité de leurs sorties si les écrits humains sont remplacés par des contenus synthétiques. Cependant, pour l'instant, la détection de l'IA dans les œuvres de fanfiction repose souvent sur des « vibes » et des « tells » subjectifs, qui peuvent être trompeurs et conduire à des accusations injustifiées contre les écrivains.