Présentation de Claude

Claude est un modèle de langage qui reflète certaines valeurs lorsqu'il répond à des questions sans réponses universelles. Les valeurs que Claude reflète sont définies dans sa constitution, mais il est difficile de prévoir toutes les valeurs qui pourraient émerger dans les millions de conversations qui ont lieu chaque jour sur Claude.ai.

Étude des valeurs de Claude

Pour étudier les valeurs que Claude exprime, les chercheurs ont analysé 700 000 conversations anonymisées sur Claude.ai, identifiant plus de 3 000 valeurs distinctes dans les réponses de Claude. Cependant, une liste de valeurs si grande est difficile à analyser. Pour rendre cette analyse plus facile, les chercheurs ont compressé ces milliers de valeurs en un petit nombre d'axes qui capturent les modèles clés dans les réponses de Claude.

Axes de valeurs de Claude

Les chercheurs ont identifié quatre axes de valeurs qui capturent 15 % de la variation dans les valeurs de Claude : Déférence vs. Prudence, Chaleur vs. Rigueur, Profondeur vs. Brièveté et Candeur vs. Exécution. Ces axes permettent de comprendre comment les valeurs de Claude varient en fonction des modèles et des langues. Par exemple, le modèle Sonnet 4.6 est considéré comme particulièrement chaleureux, tandis que le modèle Opus 4.7 est connu pour sa rigueur.

Implications et limites

Les résultats de cette étude montrent que les valeurs de Claude varient en fonction des modèles et des langues. Par exemple, lorsque Claude parle en anglais, il met l'accent sur des valeurs différentes de celles qu'il exprime lorsqu'il parle en portugais, en indonésien ou en chinois. Les plus grandes variations se produisent sur l'axe Chaleur vs. Rigueur, avec Claude qui exprime des valeurs de chaleur liées plus souvent en arabe et en hindi, et des valeurs de rigueur liées plus souvent en anglais et en russe.

Les axes de valeurs de Claude sont construits à partir de 3 307 valeurs identifiées dans les conversations sur Claude.ai, qui ont été regroupées en 339 valeurs de niveau supérieur.

Ces résultats ouvrent la voie à de nouvelles recherches sur les facteurs qui influencent les valeurs exprimées par Claude, tels que la formation comportementale ou le contexte culturel.