Présentation
Des chercheurs de trois universités françaises et italiennes ont constaté que l'accès à des conseils d'IA réduit la volonté des gens de dire « Je ne sais pas » de 44 % à 3 %. L'exactitude a chuté de 27 % à 9 %, tandis que la confiance a augmenté de 30 % à 76 %.
Contexte technique
Les chercheurs ont utilisé le modèle Step 3.5 Flash, qui est généralement incorrect sur des questions de détails visuels de films, comme la couleur de l'uniforme d'une équipe dans Bend It Like Beckham. Cette étude a montré que même les participants qui auraient répondu correctement sans l'IA se sont trompés après avoir demandé conseil à l'IA.
Implications et limites
Les incitations monétaires ont légèrement amélioré les résultats, mais les participants sont toujours restés en deçà des niveaux de référence sans IA. La capacité de dire « Je ne sais pas » est essentielle pour les humains, car elle représente la reconnaissance des limites de nos connaissances. Les enfants qui grandissent avec ces systèmes avant d'avoir développé des compétences de pensée critique sont particulièrement préoccupants.
Analyse scientifique
Les produits d'IA sont conçus pour répondre, jamais pour dire « Je ne sais pas ». Les humains qui les utilisent apprennent à faire de même. Cette tendance est préoccupante, car elle peut entraîner une perte de pensée critique et une augmentation de la confiance dans les réponses incorrectes de l'IA. Comme l'a souligné Valerio Capraro, « les gens sont devenus beaucoup moins précis, mais deux fois plus confiants ».
