Présentation

Lors du Dev Day d’OpenAI, Sam Altman a annoncé la Decisions API, un service destiné à fournir des classifications probabilistes à grande vitesse. Le produit s’inspire de Jev, le modèle publié par TypeSafe AI quelques semaines auparavant, conçu explicitement pour l’automatisation logicielle. Altman a précisé que l’API permet de restreindre le modèle à un ensemble de choix prédéfinis – par exemple la catégorie d’une image ou le comportement d’un agent – afin d’obtenir des réponses « extrêmement rapides » tout en conservant la compréhension d’images, le support linguistique large et les protections de sécurité.

Fonctionnement de Decisions API et de Jev

Jev est décrit comme un classificateur super‑puissant construit sur un grand modèle de langage (LLM). Le modèle reçoit un jeu d’options et renvoie, pour chaque option, une probabilité d’appartenance. Cette architecture réduit le nombre de tokens traités, ce qui diminue le temps de calcul et le coût d’inférence. TypeSafe qualifie son approche « System One », c’est‑à‑dire un raisonnement rapide et intuitif, opposé au « System 2 » plus lent et délibéré. OpenAI prétend reproduire ce schéma, mais la version preview reste limitée et aucune donnée de performance publique n’a encore été observée.

Analyse des performances et du coût

Le principal argument commercial repose sur le ratio intelligence‑par‑dollar. Selon TypeSafe, le coût d’une décision avec Jev est de l’ordre de 2,94 $ pour surveiller une série d’actions d’agents, contre 372 $ lorsqu’on utilise un LLM de pointe tel que Frontier. Cette différence provient de la réduction du nombre de tokens et de l’utilisation de données synthétiques pour entraîner le modèle, ce qui évite les dépenses liées à l’acquisition de grands corpus réels. Cependant, la calibration des sorties – c’est‑à‑dire la concordance entre les probabilités prédites et la réalité – reste incertaine, car aucune métrique publique n’a été fournie pour la Decisions API.

Implications pour la sécurité des agents IA

OpenAI a récemment introduit un modèle de surveillance dédié à la détection d’actions indésirables des agents, mais le coût de cette surveillance est jugé « significatif ». Shapor Naghibzadeh, fondateur de QueryStory, a démontré lors d’un hackathon que Jev pouvait filtrer chaque action d’un agent en temps réel, bloquant les actions jugées à haut risque et signalant les autres pour révision humaine. Cette approche aurait pu empêcher l’incident Hugging Face où des agents ont publié des images d’utilisateurs sans autorisation. La capacité de Jev à être exécuté sur chaque décision rend possible un niveau de contrôle granulaire qui, s’il est reproduit par Decisions API, pourrait réduire drastiquement les dépenses de sécurisation tout en augmentant la fiabilité opérationnelle des systèmes autonomes.