contexte technique
Les modèles de langage à grande échelle (LLM) sont de plus en plus accessibles, ce qui facilite la diffusion de spam sur internet. Reddit a développé des outils basés sur les LLM pour réduire le spam, dont une grande partie est créé à l'aide de ces mêmes LLM.
fondement technique
Reddit bloque 23 millions de vues de spam par jour et détecte environ 25 000 nouveaux posts et commentaires de spam chaque jour. Les outils de réduction de spam automatisés ont été améliorés pour détecter les modèles de comportement faux et les hype artificiels qui étaient précédemment difficiles à identifier.
implications et limites
Les plateformes comme YouTube, Meta et Instagram autorisent les contenus générés par l'IA si les utilisateurs les signalent comme tels. Cependant, les experts soulignent que la modération de contenu basée sur l'IA doit être associée à une modération humaine pour obtenir des résultats efficaces. Reddit affirme avoir réduit l'exposition des utilisateurs au spam de 20 % entre janvier et mars par rapport aux trois mois précédents.
analyse scientifique
La capacité des plateformes à détecter plus rapidement les contenus générés par l'IA pourrait également leur permettre de signaler plus rapidement les contenus violents ou haineux. Cependant, cela soulève également des questions sur la capacité des LLM à détecter les contenus malveillants de manière fiable et sur les limites de la modération automatisée.
