Présentation du problème
LinkedIn, la plateforme de réseautage professionnel de Microsoft, a décidé de lutter contre les contenus de mauvaise qualité générés par l'intelligence artificielle (IA), également appelés « AI slop ». Cette décision intervient après que la plateforme ait précédemment encouragé l'utilisation de l'IA pour améliorer les publications.
Mécanismes de lutte contre l'IA
Pour combattre ce phénomène, LinkedIn a ajouté un nouveau bouton « ressemble à de l'AI slop » qui permet aux utilisateurs de signaler les publications qui semblent être générées par l'IA. Ce bouton est disponible dans le menu ellipsis de toutes les publications LinkedIn et sera prochainement ajouté aux commentaires. Selon Hari Srinivasan, directeur principal des produits de LinkedIn, ce bouton aidera non seulement à signaler les publications suspectes mais également à entraîner les modèles d'IA de la plateforme pour améliorer la qualité du contenu.
Implications et limites
La lutte contre les contenus générés par l'IA est un défi important pour les plateformes en ligne. Les utilisateurs sont de plus en plus mécontents de la présence de ces contenus inauthentiques et générés par ordinateur. La décision de LinkedIn de remplacer le bouton « améliorer votre publication » qui utilisait l'IA pour modifier les écrits des utilisateurs par une option de relecture par l'IA est un pas dans la bonne direction. Cependant, il est important de noter que la lutte contre l'IA nécessite une approche continue et des investissements dans les défenses automatisées et les classifyeurs pour identifier et éliminer les contenus de mauvaise qualité.
Contexte technique
Les contenus générés par l'IA sont un problème croissant, et il est difficile de trouver quelqu'un qui n'a pas rencontré ce type de contenu sur les plateformes telles que Facebook, Reddit, Quora, Instagram, TikTok, etc. Selon une étude de 2024, plus de la moitié des publications longues sur LinkedIn étaient probablement des publications de leadership de pensée faux et d'autres contenus de mauvaise qualité. La situation a probablement empiré depuis, comme l'a indiqué Hari Srinivasan dans son billet de blog. « L'AI slop est une priorité absolue pour nous tous », a-t-il écrit. « Nous nous soucions vraiment de cela. Les gens viennent sur LinkedIn pour se connecter avec de vraies personnes et partager leurs véritables perspectives, idées et expertises ».
Les classifyeurs et les défenses automatisées utilisent l'IA pour bloquer des centaines de milliers de commentaires automatisés chaque jour.Enfin, LinkedIn va commencer à signaler aux utilisateurs lorsqu'ils utilisent trop l'IA et que leur contenu semble « inauthentique ». Cela vise à encourager les utilisateurs à améliorer leur écriture dans les cas où ils utilisent simplement l'IA pour améliorer ce qu'ils ont écrit, plutôt que de cibler les utilisateurs qui publient uniquement des contenus entièrement générés par l'IA.
