Qui décide ce que l'IA vous dit ?

Introduction

Campbell Brown, ancienne responsable des actualités de Meta, s'inquiète de l'impact de l'IA sur la consommation d'informations. Elle a fondé Forum AI pour évaluer les performances des modèles de base sur des sujets complexes tels que la géopolitique, la santé mentale et la finance.

Contexte Technique

Forum AI recrute des experts de renom pour créer des références et former des juges IA pour évaluer les modèles à grande échelle. L'objectif est d'atteindre un consensus d'environ 90 % avec ces experts humains. Brown a constaté que les entreprises de modèles de base sont très axées sur le codage et les mathématiques, mais que l'exactitude et la vérification des faits sont souvent négligées.

Analyse et Implications

Les résultats des évaluations de Forum AI sont préoccupants, avec des biais politiques et des erreurs factuelles. Brown estime que les entreprises utilisant l'IA pour la prise de décision doivent donner la priorité à l'exactitude pour éviter les risques de responsabilité. Elle pense que l'entreprise peut être un allié pour améliorer la vérification des faits et la transparence dans l'IA.

Perspective

Brown souligne que la confiance dans l'IA est actuellement très faible et que les consommateurs sont souvent déçus par les réponses incorrectes ou trompeuses. Elle estime que les entreprises de technologie doivent prendre en compte les besoins et les préoccupations des utilisateurs finaux pour améliorer la qualité et la fiabilité de l'IA. Forum AI mise sur la demande de conformité des entreprises pour développer son activité et améliorer la vérification des faits dans l'IA.