Contexte et enjeux

Lors du TechCrunch Disrupt 2026, les dirigeants de Shield AI, Waabi et General Motors ont exposé leurs stratégies pour déployer des systèmes d’IA où l’échec n’est pas tolérable. Le panel, intitulé « Building AI Systems When Failure Is Not an Option », a rassemblé plus de 10 000 fondateurs et 250 speakers, soulignant l’importance croissante de la fiabilité dans les drones, les véhicules autonomes et les robots industriels.

Approches techniques de Shield AI

Shield AI mise sur Hivemind, une plateforme d’autonomie mission‑critical déclarée « platform‑agnostic ». En février 2026, Hivemind a été retenu comme fournisseur d’autonomie pour le programme Collaborative Combat Aircraft de l’US Air Force, démontrant son intégration dans un prototype de drone de combat. Cette sélection implique que le logiciel doit gérer la perception, le contrôle et la planification en temps réel tout en respectant les exigences de certification militaire. Le même mois, Shield AI a levé 1,5 milliard $ en série G, portant sa valorisation post‑money à 12,7 milliard $. Ces fonds sont destinés à renforcer les capacités de simulation et de vérification formelle, deux piliers indispensables pour garantir que chaque décision de vol soit prévisible et vérifiable.

Méthodes de validation chez Waabi

Waabi, fondée par Raquel Urtasun, a levé 1 milliard $ en janvier 2026 et a signé un partenariat avec Uber visant à déployer plus de 25 000 robotaxis équipés du Waabi Driver. Le cœur de la démarche de validation repose sur le simulateur Waabi World, qui génère des scénarios de trafic virtuels pour stress‑test les algorithmes de conduite. Chaque itération du simulateur produit des métriques de taux de collision, de conformité aux règles de circulation et de robustesse face à des capteurs dégradés. Urtasun souligne que les camions autonomes de Waabi ne seront mis en service que lorsque ces indicateurs atteindront les seuils de sécurité définis par les régulateurs, ce qui implique une boucle continue de simulation‑réalité‑simulation.

Stratégie d’intégration humaine chez General Motors

Mikell Taylor, directrice de la stratégie robotique chez General Motors, apporte plus de deux décennies d’expérience, notamment la création du robot mobile autonome Proteus chez Amazon Robotics. Son approche combine fiabilité industrielle et expérience utilisateur. Les robots GM sont conçus pour opérer aux côtés d’opérateurs humains, ce qui impose des exigences de sécurité fonctionnelle (ISO 10218) et de communication temps réel (ROS 2, DDS). Taylor insiste sur le fait que la confiance des travailleurs dépend d’interfaces intuitives et de mécanismes de « stop‑on‑demand », testés dès les phases de prototypage. Cette orientation vers l’interaction humaine vise à réduire les risques de défaillance en intégrant des boucles de rétroaction humaine dès le déploiement.