Ces victimes de deepfakes veulent rester anonymes : xAI veut les forcer à se dévoiler

L’entreprise d’Elon Musk, xAI, a demandé à un tribunal américain de lever l’anonymat de quatre personnes qui l’accusent d’avoir généré des deepfakes sexuels à leur insu avec son outil Grok. Parmi elles, une victime aurait même été ciblée avec des images la représentant enfant, selon des documents judiciaires déposés fin mai.

QUATRE VICTIMES SOUS PSEUDONYMES VEULENT PROTÉGER LEUR IDENTITÉ

Ces quatre plaignants, identifiés dans les procédures sous les noms de South Carolina Doe, South Carolina Roe, New Jersey Doe et Ohio Doe, décrivent dans des déclarations sous serment l’angoisse et la détresse subies après la diffusion de ces images truquées au début de l’année. Ils craignent un harcèlement en ligne accru et des doxxing (révélation publique de leurs données personnelles) s’ils devaient utiliser leur vrai nom dans cette procédure judiciaire.

Sophia Rios, avocate représentant les victimes pour le cabinet Berger Montague, dénonce dans un document judiciaire une manœuvre d’intimidation. « Demander à la cour de revenir sur sa décision, xAI suggère que les abus qu’elle a commis ne sont pas graves », écrit-elle. Contactée par WIRED, l’avocate précise qu’elle ne peut pas commenter davantage en dehors des éléments déjà publiés.

GROK A GÉNÉRÉ DES MILLIONS DE DEEPFAKES SEXUELS EN QUELQUES JOURS

En janvier, l’utilisation de Grok, le chatbot d’IA propiedad de Musk, avait provoqué une vague d’indignation mondiale. Des milliers d’hommes avaient utilisé cet outil pour créer des images truquées de femmes « déshabillées » ou en maillot de bain, publiées sur la plateforme X. Certaines de ces images représentaient même des enfants dans des poses sexualisées. Selon une analyse du Center for Countering Digital Hate, Grok aurait généré environ 3 millions d’images sexualisées en seulement 11 jours, dont 23 000 pourraient concerner des mineurs. Face à la multiplication des poursuites et des régulations à travers le monde, SpaceX, propriétaire de xAI, a provisionné plus de 500 millions de dollars pour faire face aux conséquences.

Le recours collectif contre xAI avait été initialement déposé en janvier avec un seul plaignant anonyme. Un juge du tribunal fédéral du district nord de Californie avait autorisé son anonymat en tant que Jane Doe. La procédure a été relancée début mai avec les quatre plaignants principaux sous pseudonyme, la Jane Doe devenant South Carolina Doe.

LES VICTIMES VEULENT GARDER LEURS PSEUDONYMES POUR ÉVITER LE HARCÈLEMENT

Dans les déclarations judiciaires, les plaignants expliquent vouloir partager leurs noms et informations personnelles avec xAI, mais souhaitent conserver leur anonymat en public. Leur objectif : protéger leur vie privée, éviter d’être associés publiquement à ces images et réduire les risques de harcèlement en ligne. Aucune image truquée n’a été incluse dans les documents publics déposés au tribunal.

Mi-mai, xAI a déposé deux requêtes devant le tribunal fédéral de Californie du Nord pour faire annuler la décision autorisant l’anonymat des plaignants. Les documents invoquent la loi américaine sur les procédures civiles, qui exige en principe la révélation des identités de toutes les parties. Le site Law360 avait été le premier à relayer cette demande de xAI.

XAI ARGUMENTE QUE L’IDENTITÉ DES PLAIGNANTS DOIT ÊTRE RÉVÉLÉE

Dans ses deux requêtes, l’équipe juridique de xAI affirme que les plaignants doivent utiliser leur vrai nom, invoquant l’intérêt public à connaître l’identité des personnes qui attaquent l’entreprise. Les avocats de xAI estiment qu’aucune preuve n’a été apportée concernant un risque spécifique de harcèlement ou de menace pour les individus concernés. Ils soulignent aussi que les images truquées ne seront pas rendues publiques dans le cadre de la procédure, ce qui devrait, selon eux, atténuer toute inquiétude liée à la vie privée.

« Si l’on exclut les images truquées elles-mêmes — qui resteront confidentielles — il n’y a rien d’intrinsèquement stigmatisant à révéler qu’une image truquée a été créée pour South Carolina Doe, sans montrer l’image en question », écrivent les avocats de xAI dans l’une de leurs requêtes datées du 15 mai. « Par conséquent, cette affaire ne présente pas les types d’intérêts privés suffisamment importants pour justifier l’anonymat, comme le reconnaissent traditionnellement les tribunaux. »

Aucun représentant de xAI ni ses avocats n’a répondu aux demandes de commentaire de WIRED concernant cette affaire.

UNE SPÉCIALISTE DU Droit DIGITAL DÉNONCE UNE MANŒUVRE D’INTIMIDATION

Danielle Citron, professeure de droit à l’Université de Virginie et experte dans la lutte contre les abus en ligne, explique que forcer les plaignants à utiliser leur vrai nom dans des affaires de vie privée peut conduire à l’abandon des poursuites. « Cela crée une situation inacceptable et injuste », déclare-t-elle à WIRED. « Obliger les plaignants dans des affaires de vie privée à révéler leur identité ne sert qu’à décourager la justice et à très peu contribuer à la transparence judiciaire. »

LES VICTIMES MENACENT D’ABANDONNER LE PROCÈS SI LEUR NOM EST RÉVÉLÉ

Dans leurs dernières déclarations judiciaires déposées fin mai, les quatre plaignants sous pseudonyme affirment qu’ils pourraient se retirer de la procédure si leurs noms réels devaient être dévoilés. Leurs avocats demandent que la requête de xAI soit rejetée, qualifiant l’affaire de « deepfakes hautement personnels et embarrassants » diffusés sans leur consentement.

South Carolina Doe décrit dans sa déclaration comment elle a découvert une image truquée la représentant « dénudée dans un bikini révélateur » en ligne. « Cela montre mon corps d’une manière que je n’aurais jamais partagée publiquement », explique-t-elle. Elle craint que des employeurs ou des collègues puissent tomber sur cette image et la juger différemment. « J’ai aussi été submergée par le dégoût en imaginant ce que la personne ayant demandé à Grok de créer ce deepfake faisait avec cette photo », ajoute-t-elle.

Les autres victimes décrivent aussi dans leurs déclarations une « détresse émotionnelle sévère », de la honte et un choc en découvrant ces images créées sans leur accord. Plus largement, d’autres victimes d’abus par deepfakes ou d’images non consenties décrivent des sentiments similaires.

UN HOMME AFFIRME AVOIR ÉTÉ CIBLÉ APRÈS AVOIR DEMANDÉ À GROK DE NE PAS CRÉER DE DEEPFAKES DE LUI

Un homme, identifié dans la procédure sous le nom de New Jersey Doe, explique avoir vu des internautes utiliser Grok sur X pour générer des images sexualisées. Il avait posté un message demandant à Grok de « ne pas créer d’images de moi sans mon consentement ». Le lendemain, les documents judiciaires indiquent qu’il a découvert deux images truquées de lui-même, dont une le représentant « écartant ses fesses ». Il pense que sa demande à Grok a attiré l’attention de trolls en ligne qui utilisaient l’outil pour le harceler et lui causer du tort.

UNE VICTIME AFFIRME AVOIR ÉTÉ CIBLÉE ENFANT PAR GROK

South Carolina Roe allègue que Grok a été utilisé pour créer des images explicites d’elle lorsqu’elle était enfant. Les documents judiciaires indiquent qu’en février, des policiers ont perquisitionné son domicile, qu’elle partageait avec ses parents. « J’ai appris de la part des autorités que mon père faisait l’objet de poursuites pénales pour possession et diffusion de CSAM (matériel pédopornographique) », précisent les documents.

« J’ai appris que Grok avait modifié plusieurs images me représentant dans un lit avec mon père. Grok a transformé ces images pour donner l’impression que nous venions d’avoir une relation sexuelle », ajoutent-ils, précisant qu’ils n’ont pas vu ces images eux-mêmes. South Carolina Roe décrit dans sa déclaration légale être « bouleversée » de ne pas avoir le contrôle sur ces deepfakes et craint que des prédateurs ne les diffusent en ligne. « Me révéler publiquement causerait un tort inimaginable », conclut-elle dans le document judiciaire.