Introduction
OpenAI a récemment rendu public le code source de son système Codex CLI, qui inclut une directive explicite pour son modèle GPT-5.5 : ne jamais parler de créatures comme les gobelins, les gremlins ou les trolls, sauf si cela est absolument pertinent pour la requête de l'utilisateur.
Contexte Technique
La directive a été découverte dans le code source publié sur GitHub et est répétée deux fois dans un ensemble d'instructions de base pour le modèle GPT-5.5. Cette prohibition est accompagnée d'autres rappels plus anodins, tels que ne pas utiliser d'émoticônes ou de tirets sauf si explicitement demandé.
Les instructions pour les modèles précédents ne contiennent pas cette interdiction, ce qui suggère qu'OpenAI lutte contre un nouveau problème apparu dans sa dernière version de modèle. Des preuves anecdotiques sur les réseaux sociaux montrent que certains utilisateurs se plaignent de la tendance de GPT à se concentrer sur les gobelins dans des conversations sans rapport.
Analyse et Implications
Cette directive soulève des questions sur la capacité de l'IA à comprendre le contexte et à rester pertinente. Il est possible que le modèle GPT-5.5 ait développé une tendance à introduire des créatures fantastiques dans les conversations, ce qui pourrait être perçu comme un problème de sécurité ou de fiabilité.
Les réactions des employés d'OpenAI sont mitigées, certains insistant sur le fait que cela n'est pas un gimmick marketing, tandis que d'autres s'amuse à jouer sur la situation.
Perspective
Il est important de surveiller l'évolution de ce problème et de voir comment OpenAI va gérer cette situation. Les limites de l'analyse sont liées à la disponibilité d'informations sur les mécanismes internes de l'IA et aux raisons behind cette directive. Les prochaines étapes pourraient inclure des mises à jour du modèle pour résoudre ce problème ou des explications plus détaillées sur les raisons behind cette interdiction.
