Introduction
La Corée du Sud a récemment mis en place une nouvelle réglementation obligeant les communautés en ligne et les propriétaires de forums à scanner toutes les images et les vidéos téléchargées par les utilisateurs à l'aide d'outils de censure basés sur l'IA.
Contexte Technique
Cette réglementation, issue de la loi sur les entreprises de télécommunication (전기통신사업법), exige que les propriétaires de sites Web mettent en œuvre des solutions matérielles et logicielles pour exécuter ces modèles d'IA. Cependant, le gouvernement ne fournit pas le matériel nécessaire, ce qui oblige les petits entrepreneurs et les forums à acheter des GPU Nvidia de niveau datacenter, ce qui représente une pression financière importante.
Les sites Web doivent mettre en œuvre ces fonctionnalités matérielles et logicielles à partir du 1er juillet, ce qui laisse peu de temps pour se conformer à la nouvelle réglementation. Les exigences matérielles pour les modèles d'IA sont spécifiées par le gouvernement coréen, et les propriétaires de sites Web doivent s'assurer que leur infrastructure peut supporter les exigences de traitement de ces modèles.
Analyse et Implications
Cette réglementation soulève des préoccupations quant à la censure et à la liberté d'expression en ligne. Les modèles d'IA utilisés pour la censure peuvent être trop sensibles, bloquant non seulement le contenu illégal mais également des images et des vidéos innocentes. De plus, la définition de ce qui constitue du contenu illégal peut être floue, ce qui pourrait entraîner des abus de censure.
La loi elle-même vise à lutter contre les contenus illégaux tels que les vidéos pornographiques filmées sans consentement et les matériaux de CSAM (Contenu sexuellement explicite mettant en scène des mineurs). Cependant, dans la pratique, les modèles d'IA peuvent être configurés pour censurer un large éventail de contenus, y compris des œuvres créatives comme des dessins et des romans qui pourraient être considérés comme du CSAM s'ils contiennent des mineurs.
Perspective
Il est essentiel de surveiller l'impact de cette réglementation sur les communautés en ligne et les libertés d'expression en Corée du Sud. Les conséquences potentielles de cette censure généralisée pourraient être importantes, allant de la limitation de la liberté d'expression à la création d'un environnement de peur parmi les utilisateurs de l'Internet. Il faudra également observer comment les propriétaires de sites Web et les utilisateurs réagiront à ces nouvelles exigences et si des solutions alternatives ou des contournements émergeront pour contourner la censure.
