Contexte juridique et déclarations internes
Des documents judiciaires déposés par le New York Times révèlent que OpenAI et Microsoft ont identifié, dès 2023, un phénomène qualifié de « doom loop » – une dynamique où leurs modèles de langage large (LLM) affaiblissent simultanément la performance des modèles et la viabilité économique du web. Le rapport interne de Microsoft, cité dans le dossier de 92 pages, décrit ce mécanisme comme une menace pour la « chaîne d’approvisionnement de contenu » des éditeurs. Les mêmes sources citent des propos de Brent Hecht, directeur de la science appliquée chez Microsoft, qualifiant le prélèvement de données du « plus grand vol de travail de l’histoire humaine » et dénonçant une « moquerie totale du fair use ».
Mécanismes de collecte et d’entraînement des LLM
Les LLM de OpenAI, dont GPT‑4, sont entraînés sur des corpus massifs obtenus par scraping automatisé de pages publiques, y compris des articles paywalled. Un représentant d’OpenAI a admis ne pas disposer de processus automatisés pour détecter ou exclure le contenu protégé par un paywall. L’entraînement repose sur la mémorisation de séquences de texte ; les ingénieurs ont reconnu que GPT‑4 « a mémorisé une tonne de données et sera donc incroyablement doué pour régurgiter du texte ». Cette capacité de mémorisation explique les extraits littéraux reproduits dans les réponses du modèle, comme les longs passages cités provenant du Times, du Mercury News ou du Eurogamer.
Analyse des impacts sur le web
Le « doom loop » se manifeste par deux effets conjoints. D’une part, les réponses générées par les chatbots détournent le trafic des sites d’origine, réduisant les revenus publicitaires et les abonnements. D’autre part, la disponibilité de réponses quasi‑identiques dans les LLM diminue la valeur ajoutée du contenu original, ce qui décourage les éditeurs d’investir dans la création de nouvelles œuvres. Le document interne de Microsoft souligne que « presque personne n’a prévu que le contenu créé serait utilisé de cette façon, ni rémunéré pour cela », ce qui crée un déséquilibre économique entre les fournisseurs de contenu et les plateformes d’IA.
Limites et perspectives
Les révélations sont limitées aux déclarations internes et aux exemples de régurgitation ; aucune donnée quantitative n’est fournie sur la perte de trafic ou le volume exact de texte copié. De plus, les réponses officielles de Microsoft et d’OpenAI se limitent à qualifier ces propos d’opinions individuelles, sans engagement juridique. Pour atténuer le « doom loop », les acteurs pourraient implémenter des filtres de détection de texte protégé, instaurer des licences de données structurées ou adopter des modèles de rémunération basés sur l’usage du contenu. En l’absence de telles mesures, la tension entre l’entraînement des LLM et la viabilité économique du web risque de s’accentuer.
