Présentation
Laplace Intelligence, startup d'Ann Arbor fondée par Howie Sun et le scientifique Henry Liu, propose une plateforme de red‑team automatisé pour les systèmes d'IA physique. L’entreprise s’appuie sur une recherche académique publiée en 2023 dans Nature et a rapidement trouvé des clients dans le secteur de la conduite autonome (Isuzu, Bot Auto) ainsi que chez Nvidia et T‑Mobile.
Architecture de la simulation
Au cœur du produit se trouve une version post‑entraînée de Nvidia Cosmos, un moteur de simulation de mondes virtuels. Le simulateur intègre des données réelles – images Google Street View, cartes topographiques et flux de trafic en temps réel fournis par TomTom – pour reconstruire des environnements à l’échelle, comme une autoroute de l’Arizona ou un passage piéton parisien. Cette approche garantit que chaque scène reflète fidèlement les contraintes physiques et les règles de circulation du monde réel.
Les acteurs virtuels (véhicules, piétons, robots) sont également modélisés avec des comportements dynamiques. Lors d’une démonstration, l'agent de test a dévié brusquement dans la voie opposée ; le véhicule simulé a réagi en s'éloignant, illustrant une interaction bidirectionnelle où chaque entité « voit » et répond aux actions des autres.
Méthodologie de red‑team automatisé
Laplace déploie des agents d'IA qui explorent continuellement la simulation à la recherche de points de défaillance. Ces agents génèrent automatiquement des scénarios de bord – situations rares et dangereuses – en s’appuyant sur des sources externes telles que les actualités ou les rapports de police. Ainsi, ils peuvent créer, par exemple, une collision potentielle à un carrefour très fréquenté ou un obstacle imprévu sur une route de montagne, sans intervention humaine directe.
Les prompts en langage naturel permettent aux développeurs de modifier instantanément le contexte (ajout de trafic l’après‑midi, conditions météorologiques) et d’observer comment l'IA du système testé réagit. Cette capacité à itérer rapidement accélère la découverte de vulnérabilités que les méthodes traditionnelles – basées sur des enregistrements vidéo ou sur la créativité humaine – ne couvrent pas toujours.
Impacts, limites et perspectives
En automatisant la génération de cas limites, Laplace promet de réduire le temps de validation avant le déploiement sur route ou en entrepôt. Les premiers contrats montrent déjà un modèle économique basé sur des projets ponctuels, avec l’objectif de passer à des revenus récurrents. Cependant, la fiabilité du simulateur dépend de la qualité des données d’entrée : des cartes inexactes ou des flux de trafic incomplets peuvent introduire des biais. De plus, la capacité des agents à reproduire des comportements humains complexes reste limitée par les algorithmes d'apprentissage utilisés.
Enfin, la plateforme ouvre la voie à une forme de certification « simulation‑first » pour les régulateurs et les assureurs, qui pourraient s’appuyer sur les rapports d'evidence générés par Laplace pour évaluer la sécurité des systèmes d'IA physique avant leur mise en service.
