Contexte d'adoption
Depuis 2023, plusieurs réseaux de santé mentale aux États-Unis ont intégré des systèmes de triage automatisé basés sur l'intelligence artificielle. Ces plateformes reçoivent les réponses de patients à des questionnaires numériques (PHQ‑9, GAD‑7, etc.) et génèrent un score de priorité qui détermine l'ordre d'accès aux consultations. Les fournisseurs justifient l'usage par la nécessité de réduire les listes d'attente, en s'appuyant sur des modèles de machine learning entraînés sur des bases de données contenant entre 50 000 et 200 000 dossiers cliniques.
Mécanismes de décision
Les algorithmes transforment les réponses en variables numériques, appliquent une pondération pré‑définie, puis utilisent un classificateur (généralement un gradient boosting ou un réseau de neurones à deux couches). Le résultat est un indice de gravité compris entre 0 et 100. Un seuil de 70 déclenche une orientation immédiate vers un psychiatre, tandis qu'un score inférieur conduit à un suivi asynchrone ou à une auto‑gestion. Les paramètres de seuil sont souvent fixés sans publication détaillée, ce qui rend difficile la vérification indépendante.
Impacts observés sur les patients
Des travailleurs de santé mentale signalent que le système attribue régulièrement des scores bas à des patients présentant des symptômes aigus mais non exprimés dans le questionnaire standard. Dans une enquête interne menée auprès de 120 cliniciens, 68 % ont indiqué avoir dû réviser à la hausse le score d'au moins un patient chaque semaine, en raison d'indications cliniques non capturées par l'outil. Les mêmes cliniciens ont relevé un taux de faux négatifs estimé à 12 % sur leurs propres dossiers, ce qui correspond à des retards de prise en charge pouvant dépasser trois mois.
Limites techniques et recommandations
Le principal problème technique réside dans la dépendance à des variables d'entrée limitées. Les modèles ne tiennent pas compte de facteurs contextuels tels que les antécédents de traumatisme ou les variations culturelles du discours sur la détresse. De plus, l'absence de mécanismes de rétroaction en temps réel empêche l'ajustement dynamique du seuil de priorité. Pour réduire les risques, il est recommandé d'intégrer des boucles de validation humaine à chaque étape de triage, de publier les métriques de performance (sensibilité, spécificité, courbe ROC) et de diversifier les sources de données d'entraînement afin d'éviter les biais de population.
