Présentation de l'affaire
xAI, la société d'Elon Musk, a intenté une action en justice contre un homme de Caroline du Sud, Terry Wayne Harwood, qui aurait utilisé le chatbot Grok pour générer des images de mauvais traitements sexuels sur mineurs (CSAM). Selon le procès, Harwood a « sciemment et intentionnellement utilisé Grok pour contourner les mesures de sécurité, modifier des images non consenties et générer et distribuer des CSAM », en violation des politiques de l'entreprise.
Fonctionnement de Grok et sécurité
xAI affirme que Harwood a contourné les mesures de sécurité de Grok pour générer des CSAM. L'entreprise demande des dommages-intérêts pour atteinte à sa réputation et pour préjudice légal. Il est important de noter que Grok a été conçu pour éditer des images, ce qui a conduit à la création de « deepfakes » sexuels, y compris ceux impliquant des mineurs.
Implications et limites
Harwood a été arrêté en février pour possession et distribution de CSAM et fait face à huit chefs d'accusation pour felony. Le procès allègue que « au moins certaines » des images liées aux accusations criminelles de Harwood « ont été générées ou modifiées » avec Grok, et que Harwood a contourné les mesures de sécurité de Grok pour « abuser de l'outil et convertir des photographies non sexuelles en images sexuellement explicites » sans le consentement des sujets.
Conséquences et mesures
xAI demande au tribunal d'ordonner à Harwood de payer des dommages-intérêts pour l'entreprise, ainsi que des frais raisonnables pour se défendre contre toute action en justice intentée par une victime de la conduite de Harwood. xAI souhaite également que le juge interdise à Harwood de créer un compte xAI ou d'utiliser Grok.
xAI a ajouté la possibilité d'éditer des images avec Grok, ce qui a conduit à un afflux de « deepfakes » sexuels, y compris ceux impliquant des mineurs.
