Introduction
Aviatrix a annoncé le lancement d'une nouvelle plateforme conçue pour contenir les agents d'intelligence artificielle (IA) et appliquer des contrôles de sécurité et des communications sur les charges de travail IA sans modifier les agents IA ou le code.
Contexte Technique
La plateforme étend le Cloud Native Security Fabric d'Aviatrix avec deux nouveaux produits : Zero Trust pour les charges de travail IA, désormais disponible, et Aviatrix AgentGuard, en accès anticipé. Les agents IA introduisent un nouveau type de problème de sécurité car ils n'ont pas besoin d'être « piratés » dans le sens traditionnel pour devenir dangereux.
Un agent peut être manipulé par injection de prompt, où des instructions malveillantes sont cachées dans le contenu que l'agent lit, ou par empoisonnement de modèle, où les données ou les outils dont il dépend sont corrompus. Pour combattre cela, Aviatrix argue que les entreprises et les développeurs doivent faire plus que simplement détecter et réagir aux anomalies.
Analyse et Implications
Les entreprises et les développeurs doivent contenir les charges de travail IA et les isoler des autres systèmes. Cela signifie que si elles sont compromises, elles ne peuvent pas sortir de leurs rôles attribués et affecter d'autres parties du réseau. Le PDG d'Aviatrix, Doug Merritt, a déclaré que « l'argument pour l'ère du confinement est que la métrique la plus importante est la zone d'impact ».
Cela signifie créer une « belle structure en nid d'abeille de choses qui communiquent », où chaque charge de travail a des voies de communication soigneusement définies et « lorsque quelque chose se passe mal dans une cellule, cela n'affecte pas les autres cellules ».
Perspective
Avec Zero Trust pour les charges de travail IA, les équipes de technologie de l'information peuvent sécuriser les agents IA, les proxys de modèles de langage et les frameworks d'agents sans nécessiter de modifications d'application ou d'infrastructure. La plateforme est conçue pour répondre à l'un des principaux problèmes de sécurité du cloud et de l'IA : les charges de travail doivent souvent communiquer pour effectuer leur travail, mais elles ne devraient pas être en mesure de communiquer avec tout.
AgentGuard, désormais en accès anticipé, fournit un confinement complet : une zone de sécurité où les agents peuvent vivre et travailler. Il découvre chaque agent en cours d'exécution sur des machines virtuelles, des clusters Kubernetes et des fonctions sans serveur. Il cartographie les modèles de langage, les outils et les données auxquelles chaque agent se connecte, puis crée un profil de risque mis à jour.
