Avocat sanctionné 5 000 $ pour témoins fictifs générés par IA

Contexte judiciaire

Le Supreme Court du Nouveau‑Mexique a infligé à l’avocat Stephen Aarons une amende de 5 000 $ et l’a déclaré en contempt pour avoir soumis, dans un appel de condamnation pour meurtre, un mémoire contenant des témoignages entièrement inventés par ChatGPT. La cour a souligné que l’avocat n’avait pas vérifié les faits ni les références juridiques générés par l’outil, violant ainsi les obligations de diligence professionnelle.

Lors de l’audience d’août, la juge C. Shannon Bacon a interrogé Aarons sur sa méconnaissance des risques liés à l’IA, rappelant que les « hallucinations d’IA » font quotidiennement la une des médias. Le mémoire mentionnait des témoins inexistants ainsi que des descriptions erronées de l’habillement et de l’apparence du tireur, des éléments qui auraient pu influencer la décision d’appel.

Mécanismes de génération et hallucinations d’IA

Les grands modèles de langage comme ChatGPT fonctionnent par prédiction statistique de mots suivant un contexte donné. Cette architecture, dépourvue de base de données factuelle permanente, produit parfois des « hallucinations » : des affirmations plausibles mais non fondées. Dans le cas présent, le modèle a généré des citations de témoins et des descriptions visuelles sans aucune source vérifiable, illustrant la propension du système à « remplir les lacunes » lorsqu’il ne trouve pas d’information fiable.

Le processus de génération ne comprend pas de mécanisme de validation interne. Ainsi, sans une étape de fact‑checking humaine ou d’intégration de bases de données juridiques structurées, le texte produit reste vulnérable aux erreurs. Cette faiblesse technique explique pourquoi plusieurs cabinets ont déjà été sanctionnés pour des citations juridiques fictives, comme les avocats de Mike Lindell ou les deux cabinets mentionnés par Reuters l’an passé.

Analyse des risques et réponses professionnelles

Le risque principal réside dans la substitution de la recherche juridique traditionnelle par une sortie de modèle non vérifiée. Une mauvaise citation ou un témoin imaginaire peut entraîner la perte d’un appel, la mise en cause de la crédibilité de l’avocat et, comme ici, des sanctions disciplinaires. Les juridictions commencent à établir des standards de conformité : chaque affirmation issue d’une IA doit être tracée à une source primaire et validée par un professionnel avant dépôt.

Pour atténuer ces risques, les cabinets adoptent des workflows hybrides où l’IA assiste dans la rédaction initiale, tandis que des outils de vérification automatisés (ex. : Westlaw, LexisNexis) croisent les références. La formation continue des avocats sur les limites des LLM et la mise en place de politiques internes de « vérification obligatoire » sont désormais considérées comme des bonnes pratiques indispensables pour éviter de répéter le cas d’Aarons.