Contexte philosophique
Jessica Hullman rappelle la citation de Bill Thurston selon laquelle le succès en mathématiques se mesure à la clarté apportée aux chercheurs. Cette idée alimente le débat actuel sur l’intelligence artificielle : la communauté scientifique oscille entre la production de résultats vérifiables et la préservation d’une compréhension humaine. L’essai situe ce débat dans l’héritage du « value‑free ideal » né pendant la Guerre froide, qui a limité l’évaluation scientifique aux seuls critères épistémiques, en excluant les dimensions éthiques ou sociales.
Exemples illustrant la tension
Le texte cite le scénario de Terry Tao où un traitement contre le cancer, certifié correct par une IA et validé en phase 3, serait proposé sans que personne ne comprenne son mécanisme. Cette hypothèse met en évidence le risque d’une exploitation de failles méthodologiques par l’IA. Un autre exemple provient de Tom Dietterich, qui signale la prolifération d’articles arXiv rédigés par des auteurs incapables d’expliquer leurs propres revendications, ce qui rend la responsabilité difficile à établir.
Conséquences pour la validation scientifique
Lorsque la priorité se porte uniquement sur la vérification, la chaîne de responsabilité s’affaiblit. En l’absence d’explication, aucune communauté ne peut intervenir pour corriger ou reproduire un résultat défaillant. Hullman souligne que la confiance dans le système, plutôt que dans les individus, a été encouragée depuis le XIXᵉ siècle afin de sécuriser le financement public. Cette orientation renforce l’idée que la vérité peut être séparée de la compréhension, mais elle crée un vide lorsqu’une anomalie apparaît dans le processus de validation.
Perspectives et limites
L’auteur conclut que la croyance selon laquelle la science est naturellement alignée avec les capacités de l’IA repose sur une lecture trop littérale du modèle scientifique. Elle invite à réintégrer les valeurs humaines – jugement, responsabilité, contextualisation – dans les flux de travail automatisés. Sans ces repères, la simple certification d’un résultat ne garantit pas son intégration durable dans le corpus scientifique. Le texte ne fournit pas de données chiffrées sur l’incidence de ces problèmes, ce qui limite l’évaluation empirique du phénomène, mais il offre une analyse structurée des enjeux conceptuels.
