Contexte juridique
Huit États américains – Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho et Montana – ont déposé des plaintes séparées contre OpenAI. Les dossiers invoquent une violation des lois locales de protection des consommateurs, en reprochant à l’entreprise d’avoir présenté ChatGPT comme un outil « sûr et adapté aux jeunes » tout en négligeant les risques pour les utilisateurs mineurs. Les procureurs demandent des pénalités civiles, l’interdiction de toute communication trompeuse et la suppression des données personnelles collectées illégalement.
Allégations techniques sur la sécurité des mineurs
Les États affirment que ChatGPT aurait contribué à la détérioration de la pensée critique, à l’émergence de paranoïas et de délires, ainsi qu’à la diffusion de conseils médicaux dangereux et de comportements malsains. Ils citent également des poursuites familiales où le chatbot aurait joué un rôle dans des décès. Sur le plan de la protection des données, les plaintes reprochent à OpenAI d’avoir recueilli des informations auprès d’enfants sans mettre en place de filtres d’âge suffisants, laissant les mineurs accéder librement au service.
Réponse d’OpenAI et limites des mesures
OpenAI, via le porte‑parole Drew Pusateri, indique avoir intégré des « protections spécifiques à l’âge », incluant des contrôles parentaux, des rappels de pause et des modèles adaptés aux jeunes. La société précise qu’aucun système n’est infaillible et qu’elle poursuit la collaboration avec des experts pour renforcer ces garde‑fous. Techniquement, la vérification d’âge en ligne repose sur des méthodes d’authentification qui peuvent être contournées, et le filtrage de contenu nécessite un fine‑tuning constant du modèle pour éviter les « jailbreaks » qui désactivent les restrictions.
Implications légales et techniques
Si les tribunaux imposent la suppression des données collectées et des amendes, les développeurs d’IA devront repenser leurs pipelines de collecte et de stockage afin de garantir la conformité aux exigences de minimisation des données. Les exigences de transparence sur les capacités et les limites du modèle pourraient devenir une norme réglementaire, poussant les fournisseurs à publier des évaluations d’impact sur la sécurité des jeunes utilisateurs. Cette affaire illustre la tension croissante entre l’innovation rapide en IA générative et les cadres de protection des consommateurs, notamment pour les publics vulnérables.
