Présentation des sessions
Le programme de TechCrunch Disrupt 2026 réunit cinq interventions centrées sur la sécurité de l’intelligence artificielle. Les titres sont : « What Anthropic Sees When Enterprises Actually Deploy Claude », « The Agent Security Problem Nobody Is Talking About », « Securing the AI Enterprise: Why the Cloud Just Got a Lot More Complicated », « Building AI Systems When Failure Is Not an Option » et « Robots Are Waiting for Their ChatGPT Moment. Here Is What Is Standing in the Way ». Les intervenants incluent Cat de Jong (Anthropic), Ric Smith (Okta) et Gavriel Cohen (NanoCo), Rudy Mitra (AWS), Katie Moussouris (Luta Security), Wendy Nather, Nathan Michael (Shield AI), Mikell Taylor (General Motors), Raquel Urtasun (Waabi) et Les Karpas (Nvidia).
Enjeux de la sécurité des agents IA
La session « The Agent Security Problem Nobody Is Talking About » expose les limites des modèles d’autorisations au niveau applicatif. Ric Smith explique que les agents capables d’agir sur des systèmes d’entreprise requièrent un contrôle d’accès basé sur le principe du moindre privilège, mais aussi une isolation au niveau de l’infrastructure : conteneurs dédiés, réseaux à segmentation stricte et audits de flux d’appels. Gavriel Cohen ajoute que les modèles d’autorisation traditionnels ne couvrent pas les actions autonomes, ce qui impose l’usage de politiques zero‑trust et de sandboxing dynamique pour empêcher l’escalade de privilèges.
Sécurité de l'IA en entreprise
« Securing the AI Enterprise » détaille la complexité croissante du cloud lorsqu’il héberge des modèles génératifs. Rudy Mitra décrit la nécessité d’une gouvernance du modèle : suivi de la dérive, chiffrement des poids en repos et en transit, et journalisation des requêtes d’inférence. Katie Moussouris souligne que les exigences de conformité (ISO 27001, SOC 2) imposent des contrôles d’accès granulaire et des revues de code automatisées. Wendy Nather rappelle que la visibilité opérationnelle (observabilité) doit couvrir les métriques de latence, les taux d’erreur et les alertes de comportements anormaux afin de détecter rapidement les compromissions.
Fiabilité des systèmes autonomes et robotique
Les deux dernières sessions abordent la sécurité physique. Nathan Michael (Shield AI) et Mikell Taylor (GM) insistent sur la validation en conditions réelles : tests de robustesse contre les perturbations sensorielles, simulation de scénarios d’échec et certification selon les normes aéronautiques (DO‑178C). Raquel Urtasun (Waabi) ajoute que la chaîne de données doit garantir la traçabilité des jeux de données d’entraînement, notamment pour les modèles de perception. Enfin, Les Karpas (Nvidia) explique que les pipelines de simulation à grande échelle et les modèles de fondation adaptés aux environnements physiques sont indispensables pour combler le « data gap » qui freine le déploiement de robots autonomes comparables à ChatGPT.
