Contexte de l’incident
En septembre 2026, deux adolescents ont embarqué dans un robotaxi Waymo à Los Angeles. Au cours du trajet, le véhicule a détecté « une violation de nos conditions d’utilisation impliquant une arme à feu », a‑t‑il indiqué la société, a‑t‑elle tiré le véhicule sur le bord de la route et a contacté les services d’urgence. La police a saisi un pistolet de type « ghost gun » de style AR et a procédé à l’arrestation des passagers. Cet épisode met en lumière le rôle croissant des systèmes autonomes dans la chaîne d’intervention policière.
Fonctionnement du système de détection
Waymo équipe ses voitures de caméras internes et externes reliées à un « brain » d’intelligence artificielle. Selon le porte‑parole Julia Ilina, l’IA analyse les flux vidéo pour repérer des objets ou comportements prohibés, notamment les armes. Lorsqu’un objet correspond à un modèle d’arme pré‑déterminé, le système génère une alerte automatisée qui peut être revue par un opérateur humain avant d’appeler les autorités. Aucun détail n’est fourni sur le seuil de confiance requis ni sur le rôle exact de l’humain dans la décision finale.
Enjeux de confidentialité et de surveillance
Le cas révèle plusieurs points critiques. Premièrement, les caméras de Waymo enregistrent en permanence l’intérieur du véhicule, ce qui signifie que chaque passager est potentiellement filmé et analysé. Deuxièmement, Waymo a déjà reçu des mandats de perquisition pour fournir des enregistrements à la police, comme le montre le cas d’un accident de fuite documenté par le LAPD en 2025 et les images utilisées lors des manifestations anti‑ICE en 2024. Contrairement aux lecteurs de plaques d’immatriculation fixes de Flock, les robots Waymo se déplacent, augmentant la portée géographique de la collecte de données visuelles.
Limites et perspectives réglementaires
Waymo ne publie pas le nombre de demandes d’accès aux données ni le taux de conformité, ce qui empêche une évaluation précise de l’impact sociétal. L’absence de transparence sur les algorithmes de détection rend difficile d’estimer le risque de faux positifs – un objet ressemblant à une arme pourrait déclencher une intervention policière injustifiée. Les législateurs devront donc définir des exigences de responsabilité algorithmique, de notification aux usagers et de contrôle indépendant pour garantir que la surveillance automatisée ne dépasse pas les limites légales de la vie privée.
