Présentation

L’article de WIRED décrit comment des modèles de langage génératif, notamment ChatGPT et Google Bard, sont sollicités par des randonneurs pour obtenir des indications d’itinéraire. Plusieurs témoignages montrent que les réponses fournies sont souvent imprécises, voire dangereuses, lorsqu’elles sont appliquées en milieu montagneux sans vérification cartographique.

Fonctionnement des chatbots de navigation

Ces assistants virtuels reposent sur des réseaux de neurones de type transformeur, entraînés sur d’immenses corpus textuels publics. L’entraînement ne comprend pas de données géospatiales structurées (cartes topographiques, bases de sentiers). Ainsi, lorsqu’on interroge le modèle sur un sentier, il génère une réponse en s’appuyant sur des corrélations linguistiques plutôt que sur une validation géographique. L’article souligne que le modèle ne possède aucun accès en temps réel aux API de cartographie comme OpenStreetMap ou aux services de localisation GPS, ce qui explique l’absence de prise en compte des conditions locales (fermeture de sentier, météo).

Analyse des limites techniques

Le texte met en avant trois faiblesses majeures : premièrement, l’absence de mise à jour dynamique des données topographiques, ce qui conduit à des suggestions basées sur des chemins qui peuvent être hors service depuis plusieurs années. Deuxièmement, le modèle ne possède pas de mécanisme de vérification de cohérence spatiale ; il ne calcule pas de distances ni d’élévations, ce qui rend les estimations de temps de marche et de difficulté peu fiables. Troisièmement, la génération de texte se fait sans contrainte de sécurité : aucune règle n’interdit la proposition d’itinéraires traversant des zones à risque (avalanches, falaises). L’article cite explicitement que les développeurs de ces IA n’ont pas intégré de filtres géographiques, contrairement aux systèmes de navigation dédiés qui utilisent des algorithmes de routage (A* ou Dijkstra) couplés à des bases de données de relief.

Conséquences et recommandations

Les témoignages rapportés illustrent des scénarios où des randonneurs ont suivi des instructions erronées, se retrouvant perdus plusieurs kilomètres de leur point de départ, voire exposés à des conditions météorologiques extrêmes. L’article recommande de ne jamais substituer un chatbot à une carte officielle ou à une application GPS certifiée. Il suggère également que les fournisseurs d’IA intègrent des modules de validation géospatiale, par exemple en appelant des services de géocodage en temps réel avant de formuler une réponse. Enfin, il incite les utilisateurs à vérifier chaque instruction avec des sources locales, notamment les offices de tourisme et les guides de sentiers, afin de réduire le risque d’accident lié à une confiance excessive dans les réponses générées par IA.