Contexte et allégations
Le mathématicien Andreas Thom a publié sur Mastodon une série de captures d'écran montrant des échanges avec Gábor Kun portant sur la conjecture de soficité de Gromov. Cette conjecture fait partie des dix problèmes que OpenAI a présentés comme résolus par son modèle de recherche, baptisé Astra. Thom affirme que les discussions, non diffusées publiquement, auraient été utilisées comme données d’entraînement, ce qui impliquerait que le modèle a reproduit une preuve inédite.
Mécanismes d'entraînement et risques de contamination
Les grands modèles de langage sont habituellement entraînés sur des corpus massifs collectés à partir d’Internet. L’inclusion de conversations privées nécessite soit une fuite de données, soit un processus de collecte ciblée. Si Astra a été exposé à des messages contenant des fragments de démonstration, le modèle aurait pu internaliser des symboles, des lemmas et des stratégies de preuve spécifiques à la soficité. Cette forme de « contamination » rend difficile la distinction entre génération originale et régurgitation d’informations non publiques.
Techniquement, le modèle apprend des corrélations de token à token. Une preuve mathématique structurée, même partielle, fournit un schéma de séquence qui peut être mémorisé si la fréquence d’apparition dépasse le seuil de généralisation. Ainsi, une phrase telle que « la conjecture de soficité de Gromov implique que… » pourrait être reproduite avec une précision élevée, surtout si le texte a été présenté dans un format LaTeX ou similaire, qui conserve la syntaxe exacte.
Analyse des impacts scientifiques et juridiques
Sur le plan scientifique, la capacité d’un modèle à restituer une preuve non publiée menace la confiance dans les publications automatisées. Les revues et les conférences devront vérifier l’originalité des résultats produits par l’IA, en recourant à des outils de détection de similarité textuelle et à la comparaison avec les dépôts de prépublications. Sur le plan juridique, l’utilisation non autorisée de travaux protégés par le droit d’auteur ou par des accords de confidentialité expose OpenAI à des poursuites pour violation de propriété intellectuelle.
Les accusations de Thom s’ajoutent à celles de Levent Alpöge et Tristan Buckmaster, qui ont déjà signalé des cas similaires. Si ces incidents se confirment, ils illustrent un problème systémique : les modèles de grande taille peuvent absorber des connaissances confidentielles sans mécanisme de traçabilité. Une solution technique consisterait à implémenter des filtres de provenance de données et à consigner les sources d’entraînement dans un registre immuable, afin de garantir la transparence lors de la génération de résultats scientifiques.
