Introduction
Les médecins surchargés de travail utilisent de plus en plus des greffiers médicaux IA pour résumer automatiquement les conversations avec les patients, les diagnostics et les décisions de soins dans des notes structurées pour les dossiers de santé. Cependant, une récente vérification de l’auditeur général de l’Ontario a révélé que les greffiers médicaux IA recommandés par le gouvernement provincial génèrent régulièrement des informations incorrectes, incomplètes et fictives qui pourraient « potentiellement entraîner des plans de traitement inadéquats ou nocifs qui pourraient avoir un impact sur les résultats de santé des patients ».
Contexte Technique
L’auditeur général de l’Ontario a examiné les tests de transcription de deux conversations simulées entre patients et médecins effectuées auprès de 20 fournisseurs de greffiers médicaux IA approuvés et préqualifiés par le gouvernement provincial pour être achetés par les fournisseurs de soins de santé. Les 20 fournisseurs ont présenté des problèmes d’exactitude ou de complétude dans au moins l’un de ces tests simples, dont neuf qui ont inventé des informations sur les patients, 12 qui ont enregistré des informations incorrectes et 17 qui ont omis des détails clés sur les problèmes de santé mentale discutés.
Analyse et Implications
Le rapport de l’auditeur général souligne de nombreux exemples inquiétants d’erreurs dans ces résumés qui pourraient avoir un impact direct et négatif sur les soins ultérieurs d’un patient. Cela inclut des situations où un greffier médical IA a inventé des références fictives pour des tests sanguins ou une thérapie, a transcrit incorrectement les noms de médicaments sur ordonnance et/ou a omis des « détails clés » des problèmes de santé mentale discutés lors des conversations simulées. Ces erreurs pourraient potentiellement entraîner des plans de traitement inadéquats ou nocifs pour les patients.
Perspective
Il est essentiel de surveiller de près les performances des greffiers médicaux IA et de garantir que les fournisseurs de soins de santé sont conscients des limites et des risques potentiels associés à l’utilisation de ces technologies. Les prochaines étapes devraient inclure des tests plus approfondis et des évaluations pour améliorer l’exactitude et la fiabilité des greffiers médicaux IA, ainsi que la mise en place de protocoles pour détecter et corriger les erreurs potentielles.
