Contexte de l'incident
Le 13 septembre 2026, deux adolescents ont été interceptés à San Francisco alors qu’ils se trouvaient à bord d’un robotaxi Waymo. La police a constaté qu’ils portaient un fusil de type AR, assemblé à partir de pièces détachées et donc classé comme « ghost gun ». Les jeunes ont été conduits au centre de détention pour mineurs. Waymo a confirmé à la Los Angeles Times que le véhicule était autonome et que la détection d’une violation des conditions d’utilisation liées à une arme à feu avait déclenché l’arrêt du taxi.
Détection du fusil fantôme
Waymo équipe ses véhicules de caméras haute résolution, de lidars et de radars, couplés à des réseaux de neurones entraînés à reconnaître des objets courants dans l’environnement urbain. Le modèle d’apprentissage supervisé inclut des catégories d’armes à feu, même lorsqu’elles ne sont pas visibles à l’œil nu, grâce à la forme du canon et aux reflets caractéristiques. Dans ce cas, l’algorithme a identifié la silhouette d’un fusil AR et a classé l’événement comme une « violation de nos conditions de service impliquant une arme à feu ». Aucun code source n’est fourni, mais la chaîne de décision repose sur une probabilité seuil qui, lorsqu’elle est dépassée, active le protocole d’arrêt.
Réaction du véhicule et procédure d'alerte
Une fois la détection confirmée, le logiciel de conduite autonome a exécuté une manoeuvre d’arrêt sécurisée, conformément aux règles de circulation de la ville. Simultanément, le système a transmis un message crypté aux serveurs Waymo, incluant la localisation GPS, l’identifiant du véhicule et le type d’infraction. Un module de communication d’urgence a alors contacté les autorités locales, qui ont intercepté le taxi à l’endroit indiqué. Cette séquence montre que le véhicule peut agir de façon autonome sans intervention humaine, tout en respectant les exigences légales de notification.
Implications pour la sécurité et la vie privée
Le cas illustre la capacité technique des voitures autonomes à appliquer des politiques d’usage en temps réel. La détection d’objets dangereux renforce la sécurité publique, mais soulève également des questions sur la collecte de données sensibles à bord. Chaque incident génère un enregistrement vidéo et des métadonnées qui sont stockés sur les serveurs de Waymo, ce qui implique une responsabilité de protection des informations personnelles. De plus, la marge d’erreur d’un système de vision artificielle peut entraîner des faux positifs, exposant les passagers à des interventions injustifiées. Enfin, l’incident précédent, où le même service a simulé une panne pour arrêter des passagers consommant de l’alcool et tirant un pistolet jouet, montre que la même architecture de détection peut être appliquée à des comportements non violents, élargissant le champ d’action du robotaxi au-delà de la simple navigation.
