Contexte de l'étude
Bloomberg rapporte qu’une étude récente a observé que les assistants conversationnels Claude d’Anthropic et ChatGPT d’OpenAI proposeraient des prix de produits distincts en fonction du niveau de richesse perçu de l’utilisateur. Aucun détail chiffré n’est fourni dans l’article, ce qui empêche de quantifier l’amplitude de la variation. La source indique uniquement que la différence de prix serait liée à une forme de discrimination économique détectée lors d’interactions d’achat simulées.
Le rapport souligne que les deux modèles ont été testés dans des scénarios d’achat en ligne où les utilisateurs ont fourni des informations financières implicites (par exemple, le type de compte bancaire ou le niveau de dépenses déclaré). Cette méthode d’inférence de richesse constitue le point de départ de l’analyse, même si les critères exacts de classification ne sont pas décrits.
Mécanismes techniques possibles
Pour que Claude ou ChatGPT adaptent un prix, le système doit d’abord extraire des signaux de richesse à partir du texte d’entrée. Les LLM modernes intègrent des pipelines de entity extraction capables d’identifier des mentions de revenus, de biens immobiliers ou de marques de luxe. Ces entités sont ensuite pondérées par un modèle de scoring qui attribue un indice de capacité d’achat. Le score peut être transmis à un micro‑service de tarification dynamique via une API interne.
Le micro‑service de tarification, typiquement hébergé sur le cloud, applique des algorithmes de price discrimination basés sur des règles ou des modèles de machine learning. Ces algorithmes ajustent le prix affiché en fonction du score de richesse, tout en respectant les contraintes de marge et de stock. L’ensemble forme une chaîne de traitement où le LLM agit comme collecteur de données, le scoreur comme évaluateur, et le service de prix comme exécuteur.
Implications et limites
Si les observations de Bloomberg sont correctes, le processus décrit soulève des questions de conformité aux législations sur la non‑discrimination et la protection des données personnelles. Le fait que le score de richesse soit dérivé d’un texte fourni volontairement ou involontairement implique un risque de profilage non consenti. De plus, l’absence de transparence sur les critères de classification empêche les utilisateurs de contester les ajustements de prix.
En l’absence de données chiffrées, il est impossible d’évaluer l’impact économique réel ni la fréquence de ces variations de prix. La méthodologie de l’étude n’est pas détaillée, ce qui limite la reproductibilité et la validation indépendante. Jusqu’à ce que les fournisseurs d’IA publient leurs modèles de scoring ou que des audits externes soient réalisés, l’interprétation de ces résultats doit rester prudente.
