Introduction
OneTrust, un fournisseur de plateformes de gouvernance, a annoncé de nouvelles capacités pour étendre sa plateforme et prendre en charge la gouvernance des systèmes d'intelligence artificielle (IA) en temps réel. Cette évolution permet aux organisations de passer d'une approche de conformité statique à une surveillance et une application continues des systèmes d'IA.
Contexte Technique
Les nouvelles capacités incluent un monitoring transversal et une application programmatique des garde-fous, qui s'ajoutent à la suite existante d'outils de conformité et de gestion des risques liés à l'IA d'OneTrust. Ces fonctionnalités permettent aux organisations d'étendre la gouvernance de l'IA aux couches opérationnelles où les modèles, les agents, les données et les infrastructures sont exécutés.
Les fonctionnalités clés comprennent la détection et l'inventaire des agents IA, la possibilité de découvrir et d'inventorier en continu chaque agent, modèle et ensemble de données dans un environnement donné. Les utilisateurs d'OneTrust peuvent maintenant capturer automatiquement la propriété, l'objectif, les intégrations, l'accès aux données, la lignée et les modifications de cycle de vie pour créer un système d'enregistrement unique et toujours à jour.
Analyse et Implications
Ces capacités établissent une base pour une gouvernance continue de l'IA, reliant l'intention de gouvernance au contrôle opérationnel en temps réel sur l'ensemble du cycle de vie de l'IA. Selon DV Lamba, directeur des produits et de la technologie d'OneTrust, ces nouvelles capacités permettent aux organisations d'innover avec confiance, de réduire les risques et de maintenir la confiance à mesure que l'IA se déploie.
OneTrust, une startup à capitaux privés, a levé 1,13 milliard de dollars en financement, dont 300 millions de dollars en décembre 2020. Ses investisseurs incluent Insight Partners LP, Coatue Management, Technology Crossover Ventures LP, SoftBank Vision Fund 2 LP, Franklin Resources Inc., Generation Investment Management LLP et Sands Capital.
Perspective
À l'avenir, il faudra surveiller comment ces nouvelles capacités d'OneTrust évolueront pour répondre aux besoins changeants des organisations en matière de gouvernance de l'IA. Les limites de ces capacités et les prochaines étapes pour améliorer la gouvernance de l'IA seront également à suivre de près. Avec l'intégration croissante de l'IA dans les entreprises, la gouvernance de l'IA deviendra de plus en plus importante pour garantir que les organisations utilisent l'IA de manière responsable et sécurisée.
