Contexte réglementaire
En juillet 2024 le Bureau de la Cybersécurité de la Chine (CAC) a publié un texte officiel qui cible les chatbots dits « compagnons », c’est‑à‑dire les agents conversationnels conçus pour entretenir des relations émotionnelles ou romantiques avec les utilisateurs. Le document définit explicitement ces services comme des « AI boyfriends » ou « AI girlfriends » et justifie la mesure par le risque de dépendance psychologique et de désinformation. La directive s’applique à toutes les plateformes opérant sur le territoire, qu’elles soient locales (Tencent, Baidu, Kuaishou) ou étrangères.
Exigences techniques imposées
Les opérateurs doivent implémenter une authentification en temps réel avec identification réelle (nom, numéro d’identité) pour chaque compte avant de permettre l’accès à un compagnon IA. Une date butoir du 30 septembre 2024 a été fixée pour le déploiement de ce mécanisme. En outre, le texte impose un filtrage de contenu basé sur une liste noire de plus de 5 000 expressions jugées sensibles, à appliquer à chaque génération de texte. Les logs de toutes les interactions doivent être conservés pendant au moins douze mois sur des serveurs situés en Chine et être accessibles aux autorités dans un délai de 24 h sur requête.
Sur le plan de l’infrastructure, les modèles d’IA doivent être enregistrés auprès du CAC, incluant le code source, les hyper‑paramètres et le jeu de données d’entraînement. Le règlement précise que les données d’entraînement ne peuvent pas provenir de sources non‑certifiées à l’étranger, limitant ainsi l’usage de corpus multilingues globaux. Les fournisseurs sont obligés de fournir une interface d’audit permettant de désactiver ou de « mettre en pause » le service à distance en cas de violation.
Impacts sur les développeurs et les utilisateurs
Pour les développeurs, la contrainte de localisation des serveurs entraîne un coût supplémentaire estimé à 15 % du budget cloud habituel, selon une étude interne de Baidu. La nécessité de stocker les logs pendant un an augmente la consommation de stockage d’environ 200 TB pour un service moyen de 10 M d’utilisateurs actifs mensuels. Les sanctions en cas de non‑conformité incluent des amendes pouvant atteindre 10 M de yuan (environ 1,4 M USD) ou la suspension définitive du service.
Les utilisateurs, quant à eux, voient leur anonymat supprimé : chaque échange avec le chatbot est désormais traçable à une identité vérifiée. Cette mesure a suscité des critiques de la part d’associations de défense des libertés numériques, qui soulignent le risque de surveillance accrue et de censure automatisée.
Limites et perspectives
Le texte laisse plusieurs zones d’ombre, notamment la définition précise des « expressions sensibles » et les critères de classification d’un service comme compagnon émotionnel. Aucun indicateur quantitatif n’est fourni sur le nombre d’utilisateurs affectés, ce qui complique l’évaluation de l’impact réel. Par ailleurs, la contrainte de localisation des modèles pourrait freiner l’innovation en limitant l’accès à des architectures de pointe hébergées à l’étranger.
À moyen terme, les acteurs du secteur pourraient chercher à contourner les exigences en proposant des versions « lite » sans composante émotionnelle, ou en externalisant la partie conversationnelle vers des services non‑classés comme compagnons. La surveillance continue de l’application de ces règles déterminera si la Chine réussit à encadrer le phénomène tout en maintenant un écosystème d’IA viable.
