Présentation
Speakeasy Development Inc. a introduit un service de gestion des coûts liés à l'intelligence artificielle (IA) appelé AI Cost Control. Ce service vise à fournir une vue consolidée des dépenses liées aux agents IA et aux outils associés dans les entreprises.
Fonctionnement
Le service AI Cost Control collecte les données d'utilisation des outils tels que Claude Code d'Anthropic PBC, Cursor d'Anysphere Inc., Claude Cowork et Codex d'OpenAI LLC. Il enregistre les jetons consommés, les modèles utilisés, l'activité de cache et les coûts estimés des interactions individuelles, puis agrège ces informations par employé, équipe, outil et type de compte.
Le service fait partie de l'AI Control Plane de Speakeasy, qui se situe entre les employés et les outils IA qu'ils utilisent. Speakeasy affirme que ce service répond à un problème de gestion financière croissant dans les entreprises qui adoptent de multiples services IA, chacun avec ses propres mesures d'utilisation, pratiques de facturation et interfaces administratives.
Architecture et sécurité
Speakeasy déploie un agent logiciel sur les appareils de travail des employés pour collecter les données de télémétrie des sessions IA. Il associe l'activité à l'identité de travail de l'employé, même lorsque le service IA est accédé via un compte personnel. L'entreprise affirme qu'elle ne se connecte pas aux comptes personnels des employés et ne collecte pas les activités effectuées sur leurs appareils personnels.
Les données collectées suivent les conventions sémantiques OpenTelemetry pour l'IA générative, qui fournissent un format commun pour les informations telles que les comptes de jetons, les modèles, les coûts et les métadonnées des appels d'outils. Speakeasy normalise ces enregistrements pour produire une vue cohérente entre les fournisseurs.
Implications et limites
Le service AI Cost Control fournit actuellement des estimations de coûts par transaction, une consolidation entre les agents et des décompositions par facteurs tels que l'employé, l'équipe, le modèle, la session et la source. Les clients peuvent examiner les sessions individuelles pour identifier les outils, les compétences et les serveurs de protocole de contexte de modèle responsables de la consommation.
Speakeasy prévoit d'ajouter des budgets exécutoires pour les équipes et les employés individuels, ainsi que la catégorisation automatique des dépenses par tâches telles que la révision de code, la recherche et la gestion des tickets. Cependant, le système ne capture pas actuellement les travaux effectués sur des appareils personnels non gérés ou les fonctionnalités IA intégrées aux applications de logiciel en tant que service.
