Contexte philosophique
L’essai de Cory Doctorow, intitulé « The Claude Delusion », souligne que les humains projettent naturellement une intention sur toute création perceptible, qu’il s’agisse d’un tableau, d’un texte ou d’une conversation. Cette propension, décrite comme « reflexive intention‑seeking mind », est présentée comme la source du malaise face aux productions d’intelligence artificielle, perçues comme dépourvues de volonté propre.
Mécanismes des modèles de langage
Doctorow rappelle que les systèmes qualifiés d’« AI » sont, à ce jour, des « theory‑free statistical inference systems ». Concrètement, les grands modèles de langage (LLM) fonctionnent par prédiction de token suivant, basée sur la fréquence conjointe de mots dans d’immenses corpus textuels. Aucun mécanisme de représentation de désirs ou de buts n’est intégré ; le modèle ne fait que optimiser une fonction de perte de probabilité, sans aucune couche de modélisation de l’intention.
Hallucinations et absence d'intention
Le texte cite Mark Fisher pour définir l’étrangeté comme la présence d’un « something » où il ne devrait pas y en avoir. Dans le cas des LLM, les « hallucinations » – réponses factuellement erronées ou inventées – résultent directement du processus statistique : le modèle sélectionne la séquence la plus probable selon son entraînement, même si aucune donnée réelle ne la justifie. L’absence d’intention signifie que le système ne possède aucun critère de véracité externe, ce qui explique pourquoi il peut « extruder » des phrases convaincantes mais vides de sens intentionnel.
Implications et limites
Doctorow argue que l’impossibilité d’attribuer une intention à l’IA rend difficile la régulation de ses sorties. Sans objectif interne, le modèle ne peut être corrigé par des mécanismes de feedback intentionnel, mais uniquement par des ajustements externes (fine‑tuning, filtres). Cette contrainte technique alimente le débat sociétal : les utilisateurs continuent d’appliquer des heuristiques humaines d’interprétation, alors que le système reste purement mathématique. Le texte souligne également le manque de transparence quant aux données d’entraînement et aux critères de sélection, limitant toute évaluation précise de la fiabilité des réponses.
