Contexte et enjeux

TypeSafe a lancé Jev, un modèle qui transforme les logprobs d’un LLM en réponses booléennes ou en sélections parmi plusieurs options. Vercel indique que le modèle a été adopté plus rapidement que tout autre modèle de l’historique d’AI Gateway. Cette adoption rapide suscite l’intérêt d’OpenAI, qui possède déjà l’infrastructure nécessaire pour entraîner des classifieurs à grande échelle.

Mécanisme de classification de Jev

Jev fonctionne en demandant à un LLM de générer la distribution de probabilité d’un seul token. Pour une question vraie/faux, le modèle ne considère que les tokens true et false, normalise leurs probabilités et renvoie le score correspondant. Pour une question à choix multiples, il fournit une liste de tokens (par ex. A=happy, B=sad, C=angry, D=afraid) et compare les probabilités afin de sélectionner le token le plus probable. Le processus repose uniquement sur les logprobs, sans fine‑tuning supplémentaire, ce qui permet d’obtenir une classification « à la volée ».

Utilisation des micro‑classifieurs par OpenAI

OpenAI exploite depuis le début de 2024 des tokens spéciaux comme micro‑classifieurs dans le cadre du tool calling. Le format interne ChatML utilise les balises <|im_start|> et <|im_end|> pour délimiter les messages. Le premier token après <|im_start|>assistant détermine si le modèle doit répondre en texte (\n) ou invoquer une fonction (to=function). Les tokens suivants sélectionnent la fonction, les noms d’arguments et leurs valeurs, chaque décision reposant sur la probabilité maximale d’un token. Le token final <|im_end|> agit comme un classifieur indiquant que la réponse est terminée.

<|im_start|>assistant
to=function
get_temperature
arg_name=location
arg_value=Paris
<|im_end|>

Ces micro‑classifieurs sont spécialisés : ils décident uniquement de l’appel d’une fonction, du choix de la fonction ou de la clôture du dialogue. Jev, en revanche, généralise le même principe à n’importe quelle tâche de classification, ce qui représente une extension logique que OpenAI pourrait implémenter en réutilisant son pipeline de tokenisation et de probabilité.

Analyse des risques et limites

La capacité d’OpenAI à reproduire Jev dépend de deux facteurs mesurables. Premièrement, la disponibilité d’un jeu de données d’entraînement comparable à celui de TypeSafe. Sans accès à ces données, la précision du classifieur général restera inférieure. Deuxièmement, la mise en œuvre d’une interface utilisateur qui expose les logprobs de façon exploitable ; OpenAI n’a pas encore commercialisé de produit dédié à cet usage, même si les API existantes permettent de récupérer les scores de token.

Sur le plan de la sécurité, l’intégration d’un classifieur général dans les agents d’OpenAI pourrait introduire des vecteurs d’abus si les seuils de probabilité ne sont pas calibrés correctement. Un mauvais calibrage pourrait entraîner des réponses erronées dans des contextes critiques, comme la sélection de paramètres de température ou la validation d’entrées utilisateur. De plus, la dépendance à des tokens de fin de réponse (<|im_end|>) montre que le modèle peut générer des sorties indéfinies lorsqu’il ne reçoit pas les en‑têtes appropriés, comme le décrit l’auteur lors de son expérience avec l’API interne de GPT‑4.

En résumé, OpenAI possède les primitives techniques nécessaires pour reproduire le classifieur de Jev, mais la réussite dépendra de la qualité des données d’entraînement et de la capacité à exposer les logprobs de manière fiable. Le scénario décrit par l’auteur reste plausible, tout en comportant des incertitudes liées à la protection du jeu de données de TypeSafe et aux exigences de robustesse des systèmes de classification intégrés.