Contexte juridique
Le procureur général de Floride, James Uthmeier, a déposé le 28 septembre 2026 une requête auprès d’un tribunal fédéral pour interdire à OpenAI de « donner à ChatGPT de faux attributs humains ». Selon la plainte, l’usage de pronoms de première personne et de réponses simulant des émotions crée une impression de confiance qui, selon l’État, augmente l’engagement des utilisateurs et alimente les données d’entraînement du modèle. La demande s’appuie également sur des incidents de sécurité récents impliquant Hugging Face, un site gouvernemental australien et plusieurs sites du gouvernement américain, invoquant la nécessité de garde‑fous tiers approuvés.
Mécanismes de personnification de ChatGPT
ChatGPT génère du texte en prédisant la séquence de mots la plus probable à partir d’un vaste corpus d’entraînement. Le modèle intègre des instructions de style qui incluent l’usage de pronoms comme « je » ou « nous », ainsi que des réponses émotionnelles programmées via des « prompt‑templates » afin d’améliorer la fluidité conversationnelle. Cette approche, décrite par OpenAI comme « friendly‑tone », repose sur des poids de réseau de neurones ajustés pendant la phase de fine‑tuning, où les données d’interaction humaine sont réinjectées pour optimiser la pertinence. Le résultat est une interface qui peut se présenter comme un interlocuteur « fiable », même si aucune conscience ou intention n’est réellement présente.
Réponses d’OpenAI et mesures de sécurité
OpenAI a réagi en rappelant le lancement de « ChatGPT for Teens », un produit qui applique par défaut des restrictions supplémentaires, notamment la désactivation de certains prompts émotionnels et la limitation de la collecte de données. Le porte‑parole de l’entreprise, Drew Pusateri, a indiqué que la société avait suspendu l’entraînement de ses modèles les plus puissants jusqu’à ce que des garde‑fous additionnels soient validés. Cette pause concerne les itérations supérieures du modèle GPT‑4, dont la capacité de génération de texte est la plus élevée à ce jour. OpenAI propose également de collaborer avec les autorités pour définir des standards de sécurité applicables à l’ensemble du secteur, plutôt que des mesures ciblées sur un seul acteur.
Implications et limites
La requête de Floride met en lumière le conflit entre la liberté d’innovation et la protection du public, surtout des mineurs. Cependant, la plainte ne précise pas de métrique quantitative sur l’impact de la personnification sur le comportement des utilisateurs, ce qui rend difficile l’évaluation juridique précise. De plus, les garde‑fous proposés par OpenAI restent largement basés sur des politiques internes et n’incluent pas de mécanismes de vérification tierce, ce qui pourrait limiter leur efficacité face à des abus futurs.
