Contexte et objectifs
AWS a rendu disponible Amazon CloudWatch Omni la semaine dernière. Le service se veut une évolution de CloudWatch, orientée application et fonctionnant hors de la console de gestion AWS. Il repose sur OpenTelemetry et intègre une couche d’intelligence artificielle afin de répondre à la question qui échappe aux métriques classiques : « Pourquoi l’agent a‑t‑il agi ainsi ? ». Selon une prévision d’IDC, plus d’un milliard d’agents seront déployés d’ici 2029, ce qui rend impossible une revue manuelle de chaque comportement nondéterministe.
Mécanismes d’évaluation et architecture
Le cœur d’Omni est son moteur d’évaluation. Il capture chaque trace d’exécution et propose 17 évaluateurs intégrés mesurant la cohérence, l’utilité, la fidélité et la pertinence du routage, entre autres critères. Les équipes peuvent comparer différentes versions de prompts dans un « playground », créer des jeux de données à partir du trafic de production et détecter automatiquement les régressions. Les évaluateurs fonctionnent en continu sur le trafic en direct, de sorte qu’une dérive de qualité apparaît dans le même tableau de bord qu’une hausse de latence CPU.
Sur le plan technique, Omni unifie les traces d’agents, la télémétrie d’application et les signaux d’infrastructure dans le même magasin de données CloudWatch. Cette couche de données partagée permet de suivre, par exemple, un mauvais résultat d’outil retourné par un agent, de le relier à une erreur d’API due à une capacité saturée, puis d’identifier une connexion de base de données épuisée. L’AWS DevOps Agent, activé par défaut, corrèle ces signaux et conserve l’historique complet de l’enquête.
Adoption et expérience utilisateur
Sony, premier client public, utilise Omni pour superviser « des centaines » de charges de travail agentiques en production. La plateforme permet de passer d’une trace unique à l’évaluation, à l’analyse IA ou à la création de jeux de données en un clic, éliminant ainsi le goulot d’étranglement côté business. Les développeurs bénéficient d’une extension native pour Visual Studio Code, Cursor et Kiro, affichant les traces en temps réel sans compte AWS. Les opérateurs disposent d’une interface web autonome avec authentification unique via Okta ou Microsoft Entra ID.
Limites et perspectives
Omni s’appuie sur OpenInference et l’AWS Distro for OpenTelemetry, ce qui rend les données exportables vers d’autres clouds, mais la couche d’intelligence, les évaluateurs et l’historique restent hébergés sur AWS. Les entreprises fortement investies dans des solutions concurrentes (Datadog, Dynatrace, New Relic, Grafana Labs, Splunk) devront peser le risque de verrouillage. Le service supporte déjà les SDK LangChain, LangGraph, CrewAI, OpenAI Agents, Strands, Vercel AI et les évaluateurs tiers comme DeepEval, et intègre automatiquement les agents Amazon Bedrock AgentCore. Une ingestion Azure est disponible aujourd’hui, avec une prise en charge multicloud annoncée pour le futur. En résumé, CloudWatch Omni propose une réponse technique à la problématique de la « qualité » des agents IA, mais son adoption dépendra de la capacité des organisations à accepter la centralisation de l’intelligence sur la plateforme AWS.
