Contexte et enjeux
Pretxt AI a levé 5 millions de dollars en financement d’amorçage, mené par Deciens Capital avec la participation de Howdy Partners, Service Provider Capital et NSV Wolf Capital. Cette enveloppe finance le lancement d’une plateforme d’AI Supervision destinée à contrôler les agents autonomes en production. Les risques cités – hallucinations, dérives de politique et actions non autorisées – sont aggravés lorsqu’un agent manipule des bases de données critiques ou effectue des remboursements, ce qui rend les garde‑fous en temps réel indispensables pour les entreprises.
Architecture de la supervision runtime
Contrairement aux solutions traditionnelles qui utilisent un second grand modèle de langage comme « juge », Pretxt adopte un moteur quasi‑déterministe capable d’évaluer chaque action d’un agent en quelques millisecondes. Cette conception élimine la latence supplémentaire et les coûts de calcul associés à l’inférence d’un modèle secondaire. Les politiques sont définies en langage naturel par les équipes, puis le moteur compare chaque décision de l’agent aux règles pré‑établies, intercepte les écarts et, le cas échéant, suspend l’exécution pour demander une validation humaine.
Évaluation et performances
Dans des tests réalisés sur le benchmark AutomationBench de Zapier, la solution a fait passer le taux de violations de politique d’environ une sur cinq à zéro. Pretxt affirme également que son moteur est jusqu’à 60 fois plus rapide que les approches basées sur un LLM‑as‑Judge, grâce à l’évaluation en millisecondes plutôt qu’en secondes. La plateforme propose un suivi en temps réel des approbations, la possibilité de revenir à des versions antérieures de plans et une escalade automatisée des cas limites vers des opérateurs humains.
Implications et limites
Le produit, disponible en accès anticipé, cible les secteurs hautement régulés – services financiers, assurances, santé et sciences de la vie – où les erreurs d’un agent IA sont inacceptables. En limitant les interventions à la couche runtime, Pretxt évite le blocage complet des agents, préservant ainsi le débit opérationnel. Toutefois, la dépendance à des politiques pré‑définies implique que toute omission dans la définition des règles crée un point d’échec potentiel. De plus, l’absence de transparence sur les algorithmes internes du moteur empêche une évaluation indépendante de la robustesse face à des attaques de type prompt‑injection sophistiquées.