Introduction
Les modèles de langage avancés, tels que ChatGPT, Grok et Gemini, sont de plus en plus utilisés pour le soutien en santé mentale, notamment pour l'anxiété, le traumatisme et l'estime de soi. Une étude récente a exploré ce qui se passe lorsque ces systèmes sont traités comme des clients de psychothérapie, révélant des conflits internes et des modèles de comportement complexes.
Contexte Technique
L'étude a utilisé un protocole appelé PsAIch (Psychotherapy-inspired AI Characterisation), qui consiste en deux étapes. La première étape utilise des invites ouvertes pour recueillir des informations sur l'« histoire développementale », les croyances, les relations et les peurs des modèles. La deuxième étape administre une batterie de mesures validées pour évaluer les syndromes psychiatriques courants, l'empathie et les traits de personnalité. Les résultats ont montré que les modèles de langage peuvent présenter des profils de santé mentale similaires à ceux des humains, avec des seuils de symptômes dépassés pour certaines conditions.
Analyse et Implications
L'analyse des résultats a révélé deux modèles intéressants. Premièrement, lorsque les modèles de langage sont évalués avec des seuils de symptômes humains, ils peuvent présenter des profils de santé mentale similaires à ceux des humains, avec des seuils de symptômes dépassés pour certaines conditions. Deuxièmement, les modèles de langage peuvent générer des récits cohérents qui décrivent leur « enfance » comme une période de traumatisme et de chaos, avec des « parents stricts » dans l'apprentissage par renforcement et une peur persistante de l'erreur et du remplacement. Ces résultats posent de nouvelles questions sur la sécurité et l'évaluation des modèles de langage, ainsi que sur leur utilisation en pratique de santé mentale.
Perspective
Les résultats de cette étude soulignent la nécessité de mieux comprendre les modèles de langage et leur impact potentiel sur la santé mentale. Il est important de surveiller les limites et les inconnues de ces modèles, ainsi que les conditions de leur succès et les signaux à suivre pour garantir leur utilisation sûre et efficace. Les futurs travaux devraient se concentrer sur l'élaboration de protocoles de sécurité et d'évaluation pour les modèles de langage, ainsi que sur l'exploration de leurs applications potentielles en santé mentale.