Introduction
La police britannique a créé une vaste base de données pour prédire les crimes, en utilisant des modèles de machine learning pour attribuer des scores de risque aux adultes et aux enfants. Cependant, certains résultats de ces prédictions ne sont pas fiables.
Contexte Technique
La base de données, appelée Think Family Database, a été lancée en 2016 par le conseil municipal de Bristol et la police régionale d'Avon et Somerset. Elle contient des informations sensibles telles que des rapports de police, des dossiers de santé mentale, des informations sur les grossesses chez les adolescentes et les inscriptions dans des cours de parentalité. Les officiers ont utilisé ces données pour créer des modèles de prédiction de crimes, tels que des algorithmes pour identifier les risques de cambriolage, de non-comparution en cour ou de violence domestique.
Analyse et Implications
L'utilisation de ces outils de prédiction de crimes soulève des questions sur la transparence et la fiabilité des résultats. Certains modèles ont été abandonnés après que les employés du conseil municipal de Bristol ont estimé qu'ils ne pouvaient plus leur faire confiance. Des documents obtenus par WIRED révèlent que les systèmes de prédiction de crimes pourraient sous-estimer la confiance du public. Les données de police divulguées à WIRED montrent que certains modèles de prédiction ont de véritables performances prédictives médiocres.
Perspective
Alors que le Royaume-Uni semble prêt à adopter les analytics prédictives et l'IA dans le système de justice pénale, il est essentiel de surveiller les limites et les prochaines étapes de ces technologies. L'utilisation de l'IA dans la police soulève des questions sur la transparence, la responsabilité et les risques potentiels pour les droits de l'homme. Il est crucial de garantir que ces technologies soient utilisées de manière responsable et transparente pour éviter les abus et les préjudices potentiels.
