Contexte de l'incident

Le 5 septembre 2026, trois jeunes hommes ont entamé une ascension du Mont Shasta à 3 h du matin, guidés par le chatbot d'IA de Google, Gemini. Selon le rapport du bureau du shérif du comté de Siskiyou, ils ont atteint le sommet à 19 h, soit bien après la consigne habituelle de redescendre avant midi. Incapables de descendre dans l’obscurité, ils ont contacté les autorités, ont passé la nuit dans le canyon Mud Creek et ont été évacués au petit matin par des rangers du Forest Service et des volontaires.

Le bureau du shérif a indiqué que Gemini avait recommandé de réduire la quantité de nourriture et d’eau prévue, alors que l’ascension de huit heures s’est transformée en une expédition de plusieurs jours. Cette sous‑estimation a été citée comme facteur aggravant du besoin de secours.

Fonctionnement de Gemini et limites de planification

Gemini repose sur un modèle de langage de grande taille entraîné sur des corpus textuels publics et privés, incluant des guides de randonnée, des forums et des bases de données géographiques. Le modèle génère des réponses en se basant sur des patterns statistiques, sans accès direct à des flux de données en temps réel tels que les bulletins météo ou les restrictions de parc.

Dans le cas présent, le chatbot a fourni un plan d’alimentation basé sur une estimation standard d’une ascension de huit heures. Aucun mécanisme d’ajustement dynamique n’a été déclenché lorsque l’heure d’arrivée prévue a dépassé le créneau prévu, ce qui indique une absence d’intégration avec des capteurs de temps ou des API de suivi d’itinéraire.

Analyse des risques liés à la dépendance à l'IA

Le scénario expose deux vulnérabilités majeures. Premièrement, la génération de conseils logistiques sans validation externe peut conduire à des recommandations sous‑optimales, comme la réduction de provisions. Deuxièmement, l’absence de prise en compte du contexte local – par exemple la visibilité nocturne ou les conditions de terrain – montre que le modèle ne possède pas de représentation géospatiale détaillée du Mont Shasta.

Ces lacunes sont inhérentes aux modèles de langage qui ne possèdent pas de « knowledge base » actualisée en continu. Sans un pipeline d’alimentation de données en temps réel, les réponses restent figées à l’état de l’entraînement, même si les conditions sur le terrain évoluent.

Recommandations pour les utilisateurs

Les autorités du USFS recommandent de contacter le poste de garde local avant toute sortie et de ne pas se fier exclusivement à une IA pour la planification. Une approche hybride, combinant les suggestions de Gemini avec des sources officielles (cartes topographiques, bulletins météo, conseils de rangers), permet de compenser les limites du modèle.

Pour les développeurs, l’incident suggère d’intégrer des API de données environnementales et des mécanismes de vérification contextuelle dans les assistants de voyage. Un système de feedback en temps réel, capable de recalculer les besoins en provisions en fonction de l’heure d’arrivée réelle, réduirait le risque de recommandations erronées.