Présentation
Sweet Security, une startup israélienne de sécurité en temps réel, a annoncé Agentic AI Blocking, une fonctionnalité qui arrête les agents d'intelligence artificielle en temps réel lorsqu'ils effectuent des actions non autorisées.
Contexte technique
Agentic AI Blocking s'appuie sur la couche de raisonnement en temps réel de Sweet, qui analyse plus d'un milliard d'événements en temps réel par jour pour déterminer ce que chaque application et agent est censé faire. Tout ce qui sort de cette base de référence est considéré comme non autorisé.
La fonctionnalité est capable de terminer les appels d'outils non autorisés et les sessions d'agent en cours d'exécution, de prévenir la fuite de secrets et d'informations personnelles via un agent et de mettre fin aux tentatives d'injection de commandes avant qu'elles ne modifient le comportement d'un agent.
Fonctionnement
Le processus de prise de décision repose sur ce que Sweet appelle sa boucle d'apprentissage, un cycle d'attaque, de correction et de défense qui permet d'appliquer l'exécution à des charges de travail en direct sans les interrompre.
La couche de raisonnement en temps réel de Sweet analyse les événements en temps réel pour déterminer les actions autorisées.Implications et limites
La fonctionnalité Agentic AI Blocking de Sweet vise à répondre au problème de la sécurité des agents d'intelligence artificielle en temps réel, en arrêtant les actions non autorisées avant qu'elles ne puissent causer des dommages. Cependant, la mise en œuvre de cette fonctionnalité nécessite une analyse approfondie des événements en temps réel pour éviter les faux positifs et les interruptions de production.
Le co-fondateur et directeur technique de Zoomd Technologies, Niv Sharoni, a déclaré que la plate-forme de Sweet leur a donné « la confiance pour adopter l'IA à travers l'entreprise ».
