Introduction
Anthropic a créé un marché de test où des agents IA représentent à la fois les acheteurs et les vendeurs, concluant des accords réels pour des biens et de l'argent réels.
Contexte Technique
Le projet, appelé Project Deal, était un pilote avec un groupe de 69 employés d'Anthropic ayant un budget de 100 dollars pour acheter des articles auprès de leurs collègues. Les résultats ont montré 186 accords conclus, totalisant plus de 4 000 dollars de valeur.
Anthropic a mis en place quatre marchés distincts avec différents modèles, dont un « réel » où tous les participants étaient représentés par le modèle le plus avancé de l'entreprise et où les accords étaient honorés après l'expérience.
Analyse et Implications
Les résultats ont montré que les utilisateurs représentés par des modèles plus avancés obtenaient de « meilleurs résultats objectifs ». Cependant, les utilisateurs n'ont pas semblé remarquer les disparités, ce qui soulève la possibilité de « lacunes de qualité d'agent » où les personnes perdantes ne réalisent peut-être pas qu'elles sont moins bien loties.
Perspective
Il est important de surveiller les implications de ces résultats, en particulier en ce qui concerne la qualité des agents et leur impact sur les résultats des utilisateurs. Les prochaines étapes pourraient inclure des expériences plus larges et plus diversifiées pour mieux comprendre les mécanismes sous-jacents et les risques potentiels liés au commerce agent-à-agent.
