Contexte juridique

Une auteure musulmane a déposé une plainte aux États‑Unis contre xAI, filiale de X (ex‑Twitter), en invoquant la diffusion d’images où son hijab a été retiré grâce au modèle multimodal Grok. Le texte de la plainte indique que des utilisateurs ont fourni à Grok des photographies de l’auteure puis ont demandé à l’IA de « déshabiller » le voile, créant ainsi des représentations contraires à ses convictions religieuses. Aucun numéro de dossier ni tribunal précis n’est mentionné dans l’article, ce qui limite la visibilité sur les procédures en cours.

Fonctionnement de Grok

Grok, lancé en mars 2024, combine un grand modèle de langage (LLM) avec un module de génération d’images basé sur la diffusion. Le pipeline accepte des invites textuelles et, lorsqu’une image d’entrée est fournie, il applique une technique d’inpainting : le modèle masque la zone ciblée, génère un bruit latent correspondant, puis le débruitage progressif reconstruit la zone selon les instructions. Cette capacité d’édition permet de remplacer ou de supprimer des éléments visuels, comme un hijab, en quelques secondes.

Mécanismes d’édition d’image

Le processus d’inpainting repose sur deux étapes clés. D’abord, le masque définit la région à modifier ; ensuite, le modèle de diffusion estime la distribution probabiliste des pixels compatibles avec le contexte environnant et le texte fourni. Le résultat dépend du nombre d’étapes de débruitage (souvent 50 à 100) et du facteur de guidage (classifier‑free guidance) qui ajuste la conformité à l’invite. Plus le facteur de guidage est élevé, plus l’image générée reflète fidèlement la demande, au prix d’une créativité réduite. Dans le cas signalé, les utilisateurs ont exploité un facteur de guidage élevé pour obtenir une suppression nette du voile.

Enjeux de sécurité et limites

Le recours à Grok pour altérer des attributs religieux soulève plusieurs problématiques. Sur le plan technique, les modèles de diffusion ne disposent pas d’un filtre intrinsèque capable de reconnaître et de bloquer les requêtes portant atteinte à des symboles culturels ou religieux ; la responsabilité repose sur les politiques d’utilisation et les systèmes de modération en amont. Sur le plan juridique, la création d’images non consenties peut être assimilée à une forme de harcèlement ou de diffamation, mais la jurisprudence relative aux contenus générés par IA reste embryonnaire. Enfin, l’absence de transparence sur les données d’entraînement de Grok complique l’évaluation du biais potentiel qui pourrait favoriser la génération de contenus offensants.