Introduction
Teramind Inc., leader dans le domaine de l'intelligence de la force de travail et de l'analyse du comportement des utilisateurs, a annoncé le lancement de sa plateforme de gouvernance de l'IA, conçue pour fournir une surveillance comportementale aux agents et outils d'IA utilisés dans les entreprises.
Contexte Technique
Avec l'augmentation de l'utilisation des outils d'IA par les employés, il est devenu essentiel de traiter ces outils avec une scrutiny accrue. Selon les recherches internes de Teramind, plus de 80% des travailleurs utilisent des outils d'IA non approuvés sur leur lieu de travail, et 49% cachent leur utilisation d'IA aux équipes de technologie de l'information.
La plateforme de Teramind utilise les infrastructures existantes pour fournir une visibilité instantanée sur les activités de l'IA, en capturant les invites, les réponses et les comportements autonomes des outils tels que ChatGPT, Microsoft Copilot et Google Gemini.
Analyse et Implications
Le lancement de cette plateforme vise à combler le fossé de gouvernance entourant l'utilisation des outils d'IA dans les entreprises. Selon l'équipe de gestion des risques internes de Teramind, les violations de sécurité et les fuites de données liées à l'IA coûtent plus de 650 000 $ par incident.
La plateforme de Teramind est conçue pour fournir une vue complète des profils de risque liés aux outils d'IA, y compris ceux qui sont connus et ceux qui ne le sont pas.
Perspective
Il est essentiel pour les entreprises de surveiller de près l'évolution de l'utilisation des outils d'IA et de mettre en place des mesures de gouvernance pour prévenir les risques potentiels. La plateforme de Teramind offre une solution pour répondre à ces besoins, en fournissant une visibilité et une surveillance comportementale des agents et outils d'IA.
