Contexte et définition du score de confiance
Un score de confiance représente la probabilité que la prédiction d’un modèle soit correcte. L’exemple du prévisionniste météo montre que la valeur doit refléter la quantité d’information disponible et être vérifiable sur un grand nombre d’observations. Deux conditions sont nécessaires : le score doit être proportionnel à l’évidence utilisée, et il doit être calibré en comparant les valeurs annoncées avec les résultats réels.
Mécanisme de génération d’un nombre par un LLM
Un grand modèle de langage (LLM) produit du texte de façon autoregressive : chaque token est choisi parmi les tokens précédents. Lorsque l’on pose la question « How confident are you? », la réponse « 0.85 » n’est pas lue depuis un capteur interne, elle est écrite token par token comme n’importe quel autre mot. Le nombre apparaît donc comme une continuation plausible du dialogue, et non comme une mesure issue d’un calcul d’évidence.
Limites observées et conséquences
Plusieurs faits concrets démontrent l’insuffisance du score fourni par le LLM : le même prompt peut produire 0.85 puis 0.70 lors d’une seconde requête, alors que l’information sous‑jacente n’a pas changé ; une reformulation du prompt (« Are you sure? ») modifie également le nombre, montrant que la formulation influence la sortie plus que le contenu du problème ; enfin, le texte précédant le nombre conditionne la valeur – si le modèle a déjà écrit « This is clearly the right answer », un score élevé devient la suite logique. Aucun de ces comportements ne correspond à une règle de calcul basée sur des données observées, et le modèle n’a jamais été entraîné à aligner ses scores avec son taux de réussite réel.
Approche alternative pour obtenir une confiance fiable
Pour disposer d’un score exploitable, il faut séparer la tâche de génération de texte de la production de la confiance. On définit d’abord les indicateurs observables (par exemple, le nombre d’articles pertinents trouvés dans une base de connaissances, la similarité sémantique entre la question et les sources, la présence de mots clés d’incertitude). Ensuite, on construit une règle – souvent une fonction statistique ou un modèle de classification – qui transforme ces indicateurs en probabilité. Cette règle est ensuite calibrée en comparant les scores produits avec les réponses réellement correctes sur un jeu de validation. Le LLM continue d’écrire la réponse, mais le chiffre de confiance provient du processus explicite, garantissant traçabilité et possibilité de ré‑évaluation.
