Présentation du problème
La chaîne de pharmacies Kinney Drugs au Vermont a récemment mis en place un outil d'intelligence artificielle (IA) pour gérer les ordonnances et améliorer l'efficacité. Cependant, les clients rapportent des problèmes tels que des retards, des informations incorrectes et des préoccupations en matière de confidentialité.
Contexte technique
L'outil d'IA, nommé Burt, a été développé par la société Synerio et est censé faciliter la communication entre les clients et la pharmacie. Cependant, les clients signalent que l'outil est souvent incohérent et demande des renouvellements de médicaments incorrects. De plus, les clients n'ont pas toujours conscience qu'ils ont accepté d'utiliser l'outil, car il leur est présenté comme une option par défaut lorsqu'ils fournissent leur numéro de téléphone à la pharmacie.
Fonctionnement de l'outil d'IA
L'outil d'IA utilise les enregistrements pharmaceutiques des clients pour identifier les médicaments dont ils ont besoin et les contacter pour les renouvellements. Cependant, les clients rapportent que l'outil est souvent incapable de localiser leurs comptes, ordonne des doses incorrectes et omet de les notifier lorsque les renouvellements sont prêts. Les clients doivent appeler la pharmacie pour résoudre ces problèmes, ce qui peut entraîner des retards et des frustrations.
Implications et limites
Les problèmes liés à l'outil d'IA de Kinney Drugs soulignent les risques de l'utilisation de l'IA dans les systèmes de santé. Les clients sont préoccupés par la confidentialité de leurs informations de santé et la possibilité que l'outil d'IA commette des erreurs. Les avocats estiment que la réglementation de l'IA dans les systèmes de santé est en retard, ce qui laisse les consommateurs sans protection adéquate. La mise en place de l'outil d'IA par Kinney Drugs a également entraîné des retards et des complications pour les clients, ce qui peut avoir des conséquences négatives sur leur santé.
