Contexte de la controverse

En juin 2024, OpenAI a annoncé une série de dix résultats mathématiques, dont un portant sur les groupes non‑sofiques, une classe d’objets infinis qui ne peuvent pas être approchés par des structures finies. Le résultat a été présenté comme une avancée, mais des mathématiciens ont rapidement relevé que les travaux de Andreas Thom et de Gábor Kun, publiés en 2022, étaient fortement cités dans la démonstration. Parallèlement, OpenAI a affirmé que son modèle avait résolu le problème de Navier‑Stokes, un autre problème du Millénaire, en s’appuyant uniquement sur des publications publiques.

Détails des accusations de Thom

Andreas Thom, qui a étudié les groupes non‑sofiques, a publié sur Mastodon une série de messages indiquant que ses échanges avec le chatbot ChatGPT, ainsi que ceux de ses collègues, auraient pu être intégrés aux données d’entraînement d’OpenAI avant l’annonce. Il a envoyé des courriels à Sébastien Bubeck et à Mark Sellke, demandant si ces conversations figuraient dans le corpus d’apprentissage ou étaient accessibles au processus de raisonnement du modèle. La réponse d’OpenAI s’est limitée à la non‑accessibilité directe des conversations, sans fournir de preuve quant à leur inclusion éventuelle dans les jeux de données massifs.

Thom souligne que les techniques utilisées par le modèle correspondent à des approches « non évidentes » et « non prometteuses » au moment de leurs développements, ce qui, selon lui, indique une connaissance préalable du contenu de ses recherches. Il a également rappelé le cas du professeur Tristan Buckmaster de NYU, qui a exprimé des doutes similaires après que le modèle Codex aurait bénéficié de ses travaux sur le problème du Millénaire.

Réponses d’OpenAI et limites techniques

Dans un communiqué, OpenAI a déclaré ne pas avoir consulté de données utilisateur spécifiques pour résoudre le problème des groupes non‑sofiques, affirmant que « aucune donnée utilisateur identifiée n’a été utilisée ». L’entreprise a toutefois ajouté que « des données dé‑identifiées pourraient avoir contribué à l’amélioration du modèle », sans préciser le poids de ces contributions. Cette nuance technique repose sur le fait que les pipelines d’entraînement de grands modèles de langage agrègent des téraoctets de texte provenant de sources publiques et privées, puis appliquent des filtres de désidentification qui suppriment les métadonnées mais conservent le contenu sémantique.

Thom considère que la désidentification ne supprime pas l’idée mathématique sous‑jacente, ce qui rend la défense d’OpenAI insuffisante du point de vue de la propriété intellectuelle. Il note également que les chercheurs externes ne disposent d’aucun moyen de vérifier la composition exacte du corpus d’entraînement, car les logs de sélection de données restent confidentiels.

Implications pour la recherche en IA

Si les allégations de Thom s’avèrent fondées, le modèle pourrait avoir bénéficié d’informations non publiées, créant un avantage compétitif non déclaré. Cette situation soulève des questions sur la transparence des processus de collecte de données, la responsabilité éthique des fournisseurs d’IA et la protection des contributions académiques. Les mathématiciens craignent que la perception d’une appropriation tacite de leurs travaux incite à restreindre le partage ouvert, ce qui ralentirait l’avancement collectif du domaine. En pratique, les institutions de recherche pourraient exiger des audits de conformité des jeux de données, tandis que les législateurs envisagent d’étendre les cadres de protection des données à la recherche scientifique.