Introduction
Les entreprises qui mettent en place des systèmes d'IA sont confrontées à des défis de gouvernance. ZeroDrift, un nouveau service de conformité IA, a annoncé avoir levé 10 millions de dollars pour protéger les modèles d'IA contre les erreurs.
Contexte Technique
ZeroDrift utilise une approche dualiste, avec un modèle pour gérer les requêtes entrantes et un autre pour empêcher le premier de causer des problèmes. Le système de ZeroDrift est déclenché par des programmes conventionnels qui appliquent des normes de conformité comme SOC 2 ou RGPD, et le modèle de langage est utilisé pour réécrire les messages non conformes.
Le système de ZeroDrift présente plusieurs avantages architecturaux par rapport aux modèles qu'il corrige, notamment une latence plus faible et une fiabilité plus élevée. Le PDG de ZeroDrift, Kumesh Aroomoogan, souligne que le système peut identifier de manière déterministe les zones réglementées et les violations, puis utiliser des modèles de langage pour réécrire les messages non conformes.
Analyse et Implications
Le marché potentiel de ZeroDrift est important, notamment pour les chatbots IA, qui sont déjà déployés auprès des consommateurs et peuvent avoir des conséquences graves en cas de réponses erronées. Cependant, le marché est encore relativement petit et devra grandir à mesure que l'IA se généralise.
La levée de fonds de ZeroDrift est un indicateur de la demande croissante pour de tels produits. Le PDG de ZeroDrift a souligné que la levée de fonds a été réalisée en un temps record, grâce à l'aide d'Andressen Horowitz pour structurer le tour de table.
Perspective
Il est important de surveiller l'évolution de ZeroDrift et de son système de conformité IA, notamment en termes de limites et de prochaines étapes. La croissance de l'IA et la demande pour des produits de conformité devraient continuer à augmenter, et ZeroDrift est bien positionné pour répondre à ces besoins.
