Introduction
Cisco Systems Inc. a annoncé l'acquisition de la startup Galileo Technologies Inc., spécialisée dans l'observabilité native IA, afin de renforcer la confiance et la fiabilité des agents IA. Cette acquisition vise à améliorer les capacités de surveillance de la plateforme Splunk.
Contexte Technique
Galileo propose des outils pour observer et évaluer les modèles IA, permettant aux entreprises de surveiller les systèmes multi-agents en temps réel et d'appliquer des garde-fous pour assurer l'exactitude de leur travail. La plateforme de Galileo sera intégrée à la plateforme d'observabilité Splunk de Cisco, permettant ainsi une meilleure surveillance des agents IA et une sécurité accrue dans le cycle de développement des agents.
La plateforme de Galileo offre une solution complète pour les équipes de développement, leur permettant d'instrumenter chaque étape du développement des agents avec une rigueur de niveau entreprise. Cela permet des insights plus profonds, depuis les premières étapes d'optimisation des invites et de sélection de modèles, jusqu'à la surveillance et à l'application de garde-fous en production.
Analyse et Implications
L'acquisition de Galileo par Cisco vise à renforcer la position de l'entreprise en tant que couche de sécurité pour les agents IA. Les agents IA peuvent comporter de manière imprévisible, entraînant des sorties inattendues, inexactes, de mauvaise qualité et parfois même nuisibles. Il est donc essentiel de disposer d'une visibilité sur l'ensemble de la pile IA pour évaluer les problèmes tels que les hallucinations et les biais, ainsi que les métriques de sécurité pour détecter et atténuer les risques métier.
Cisco a déjà collaboré avec Galileo dans le passé, notamment dans le cadre du consortium AGNTCY, qui vise à créer des spécifications et des références pour une architecture open-source de construction d'agents IA fiables. L'acquisition de Galileo permettra à Cisco de renforcer ses capacités de surveillance et de sécurité pour les agents IA.
Perspective
Il est important de surveiller les prochaines étapes de l'intégration de la plateforme de Galileo à la plateforme Splunk de Cisco, ainsi que les implications de cette acquisition sur le marché de l'IA et de la sécurité. Les limites de l'analyse incluent le manque d'informations sur le prix de l'acquisition et les plans de Cisco pour les clients existants de Galileo après la finalisation de la transaction.
