Contexte et enjeux
Le 15 octobre 2026, Orkes a présenté Shift ’26, un événement dédié aux systèmes d’agents IA en production. Les intervenants de Netflix, LinkedIn, Bumble et les fondateurs d’Orkes ont détaillé les exigences d’une exécution durable, la gestion des échecs distribués et les approbations humaines. Le point de départ de la discussion est le volume déclaré : plus d’un milliard d’exécutions par jour sur la plateforme Conductor, utilisée par Netflix, Tesla et LinkedIn. Ce chiffre impose des contraintes d’évolutivité et de résilience que les architectures monolithiques classiques peinent à satisfaire.
Architecture de Conductor pour les agents IA
Conductor repose sur un modèle de workflow as code où chaque étape d’un agent IA est décrite sous forme de tâche JSON. Le moteur orchestre les tâches via un graphe orienté acyclique, permettant la parallélisation et la reprise sélective. Les agents sont encapsulés dans des conteneurs Docker, chaque conteneur étant lancé par un worker dédié. Cette isolation minimise les interférences entre agents et facilite le scaling horizontal : le nombre de workers augmente proportionnellement aux requêtes, ce qui explique la capacité à dépasser le milliard d’exécutions quotidiennes.
Mécanismes de fiabilité et d’approbation humaine
Pour garantir la durabilité, Conductor implémente trois leviers. D’abord, un système de retries exponentiels qui relance automatiquement les tâches échouées jusqu’à un seuil configurable. Ensuite, un journal de persistance basé sur Cassandra assure la récupération d’état après une panne réseau ou un redémarrage de worker. Enfin, le flux inclut des points d’approbation humaine : avant de déclencher une action critique (par ex. modification de configuration cloud), le workflow suspend l’exécution et attend la validation d’un opérateur via une interface web. Cette approche réduit le risque d’erreurs automatiques tout en conservant l’automatisation à grande échelle.
Limites et perspectives
Malgré ces avancées, la transparence sur les métriques de latence et les coûts d’infrastructure reste limitée. Les organisateurs n’ont pas fourni de données précises sur le temps moyen de traitement d’une tâche ni sur la consommation CPU/GPU des workers, ce qui complique l’évaluation du rendement énergétique. De plus, la dépendance à un stockage NoSQL introduit une latence supplémentaire lors de la reconstruction d’états complexes. Les prochains développements devront donc se concentrer sur l’optimisation du stockage d’état et sur l’exposition d’indicateurs de performance afin de permettre aux équipes DevOps de calibrer précisément leurs pipelines d’agents IA.
