Introduction
Les recherches de vanité sur Google ne sont plus ce qu'elles étaient. Avec l'avènement des chatbots et de l'IA, la façon dont nous nous percevons en ligne est en train de changer. C'est dans ce contexte que Thomas Dimson et Joey Flynn ont créé In the Weights, un site qui mesure à quel point les modèles d'IA peuvent se rappeler de vous sans utiliser des outils de recherche web.
Contexte Technique
In the Weights interroge différents modèles d'IA, tels que Grok, Gemini, GPT et Llama, avec une question du type « Qui est ? » et attribue un score de force en fonction des réponses obtenues. Le site utilise une méthode de regroupement de descriptions similaires et d'attribution d'un score de force pour évaluer la capacité d'un modèle à se rappeler d'une personne. Les résultats montrent également quels modèles ont retourné des réponses pour un nom donné et mettent en évidence les hallucinations potentielles.
Analyse et Implications
Les résultats d'In the Weights sont à la fois intriguants et susceptibles de provoquer des sentiments de jalousie, en particulier grâce au score de force qui permet de comparer facilement les résultats. Cependant, il est important de noter que l'importance de être « rappelé » par un chatbot n'est pas nécessairement un gage d'immortalité. Les critiques de l'IA, comme Anthony Moser, considèrent que cela équivaut simplement à demander à 13 chatbots de vous parler de vous-même.
Perspective
Dimson prévoit de creuser plus profondément pour comprendre pourquoi différents modèles de la même série retournent des résultats différents, quels modèles sont biaisés vers différents types de personnes et quels individus « devraient avoir un article Wikipedia mais n'en ont pas ». In the Weights a le potentiel de devenir un outil intéressant pour explorer les capacités et les limites des modèles d'IA, mais il est essentiel de garder une perspective critique sur son utilisation et ses implications.
