Contexte et taille de l’effectif

OpenAI s’appuie sur une armée de contractuels pour examiner les prompts et les réponses générées par ChatGPT. Selon des documents internes obtenus par 404 Media, le nombre de ces intervenants dépasse dix mille personnes réparties sur plusieurs projets. Leur mission consiste à lire les échanges réels des utilisateurs, à noter la pertinence des réponses et à détecter les comportements indésirables comme le ton trop « sycophantique » ou l’anthropomorphisation du modèle.

Règles internes et mécanismes de détection

Un des protocoles internes stipule explicitement que les évaluateurs ne doivent pas recourir à l’IA pour accomplir leurs tâches. Le texte indique : « Do not use AI detection tools, or AI yourself », suivi d’une interdiction d’utiliser des outils comme GPTZero, Grammarly ou tout traducteur basé sur un LLM. Les contractuels sont également priés de ne pas révéler les critères de suspicion afin d’éviter que les fraudeurs s’adaptent. La même directive précise que la détection repose sur des motifs globaux – répétitions lexicales, ponctuation typique d’un modèle, vitesse d’exécution anormalement élevée – plutôt que sur un seul indice.

Lorsque l’usage d’IA est identifié, la procédure est immédiate : le contractuel est retiré du projet. Mercor, société tierce qui fournit ces évaluateurs à OpenAI, confirme dans un communiqué que toute violation entraîne une suppression « immédiate » du projet, soutenue par des outils internes de détection.

Conséquences et risques de « model collapse »

Le phénomène de « model collapse » décrit la dégradation progressive d’un modèle lorsqu’il est ré‑entraîné sur du texte généré par d’autres IA. En employant des réponses artificielles pour entraîner les modèles, les contractuels pourraient involontairement accélérer ce processus, rendant les sorties moins fiables. Un interviewé a expliqué que les évaluateurs « voient des IA tout le temps et les personnes sont licenciées pour cela », soulignant la tension entre la nécessité de garder les données « authentiques » et la pression de productivité.

Un contratuel a partagé sa lettre de licenciement, où l’employeur invoque un problème d’« authenticité » du travail. Un autre a admis avoir parfois choisi délibérément les pires réponses pour « saboter » l’entraînement, estimant que son impact était limité face à des centaines de collègues, mais reconnaissant que la pratique pouvait nuire à la qualité globale du modèle.

Analyse des limites et perspectives

Les informations disponibles restent fragmentaires : aucune donnée chiffrée sur le nombre exact de licenciements, ni sur le taux de détection réel. De plus, les outils de détection d’IA sont qualifiés d’« unreliable » par les propres directives, ce qui laisse planer un doute sur l’efficacité du contrôle. Le manque de transparence sur les critères de jugement et sur les algorithmes de détection complique l’évaluation du vrai impact sur la performance du modèle. En l’absence de mesures publiques, il est difficile de quantifier l’effet du « model collapse » induit par ces pratiques internes.