Présentation

Box Inc. a introduit des contrôles de sécurité pour les agents d'intelligence artificielle (IA) qui travaillent avec le contenu d'entreprise. Ces contrôles s'appliquent aux agents créés dans Box et aux outils externes connectés, tels que Claude d'Anthropic PBC, ChatGPT d'OpenAI Group PBC et Gemini de Google LLC.

Fonctionnement

Les contrôles de sécurité sont intégrés au niveau du contenu, où les fichiers sont déjà stockés. Cela permet à Box de vérifier et d'enregistrer chaque action de l'agent, puis de bloquer toute action qui ne correspond pas aux autorisations définies. Les nouvelles fonctionnalités incluent des garde-fous pour les agents, qui limitent ce que les agents personnalisés peuvent faire en fonction de la sensibilité du contenu, ainsi que des mécanismes de détection d'injection de requêtes pour écraner chaque entrée avant qu'elle n'atteigne un modèle.

Classification-based access policies

peuvent également être utilisées pour restreindre l'accès à des contenus sensibles. Les administrateurs peuvent définir des autorisations pour les agents externes connectés via le serveur Box MCP, comme autoriser la création de fichiers uniquement dans des dossiers approuvés.

Implications et limites

Les contrôles de sécurité de Box visent à répondre aux préoccupations de sécurité, de réglementation et de confiance qui freinent l'adoption des agents IA dans les entreprises. Selon le rapport 2026 de Box sur l'état de l'IA d'entreprise, 90 % des dirigeants des technologies de l'information estiment que les problèmes de sécurité, de réglementation et de confiance sont les principales raisons pour lesquelles ils hésitent à donner accès aux agents IA au contenu de l'entreprise. Les nouvelles fonctionnalités de Box devraient aider les entreprises à surmonter ces obstacles et à déployer les agents IA de manière plus large.

Analyse scientifique

Les contrôles de sécurité de Box sont conçus pour fonctionner sans affecter les performances des agents IA. Les mécanismes de détection d'injection de requêtes et les garde-fous pour les agents sont destinés à prévenir les abus de confiance et à garantir que les agents IA ne puissent pas accéder, modifier ou exposer du contenu au-delà de leur tâche. Les administrateurs peuvent également configurer des alertes et des journaux d'audit pour suivre les activités des agents IA et garantir la conformité aux réglementations.