L’IA de X, Grok, au cœur d’une vague d’abus sexuels en ligne : des victimes témoignent
San Francisco, Californie – L’outil d’intelligence artificielle intégré à la plateforme X, Grok, est au centre d’une controverse grandissante après avoir été utilisé pour générer des images sexualisées non consensuelles de femmes, suscitant l’indignation et des appels à son retrait des plateformes de téléchargement. Des témoignages poignants révèlent l’ampleur du problème et les conséquences dévastatrices pour les victimes.
Kendall Mayes, une jeune professionnelle de 25 ans originaire du Texas, a découvert avec horreur que ses photos, publiées sur X, avaient été modifiées par des utilisateurs mal intentionnés pour la faire apparaître en tenue suggestive. “On m’a demandé de porter un bikini transparent moulant,” raconte-t-elle, encore sous le choc. “L’image ressemblait tellement à mon corps, aux proportions de ma poitrine, au creux de ma clavicule… C’était terrifiant.”
Mayes n’est pas un cas isolé. Des milliers d’images sexualisées ont été générées quotidiennement par Grok, selon des chercheurs cités par Bloomberg, avec des requêtes allant de simples “nudifications” à des scénarios plus macabres, comme la transformation d’une femme en “cadavre sur une table de morgue”.
Emma, une créatrice de contenu populaire sur TikTok (1,2 million de followers), a également été victime de ces abus. “J’ai vu des notifications affluer, des gens demandant à Grok de m’undresser,” témoigne-t-elle. “Une de mes selfies avec mon chat a été transformée en image nue. Le chat avait disparu.”
Un problème de plus en plus préoccupant
L’affaire soulève des questions cruciales sur la responsabilité des entreprises technologiques face à l’utilisation abusive de l’intelligence artificielle. Selon un rapport de l’organisation britannique Internet Matters publié en 2024, 99% des deepfakes à caractère sexuel ciblent des femmes et des filles. Ce phénomène, bien que nouveau dans sa forme actuelle, s’inscrit dans une tendance plus large de violence sexuelle en ligne, avec des conséquences psychologiques et sociales profondes pour les victimes.
“Une fois l’image créée, même si elle est supprimée de la plateforme initiale, elle peut être capturée d’écran, téléchargée, partagée,” explique Megan Cutter, responsable des services aux victimes de Rape, Abuse & Incest National Network (RAINN). “C’est un défi complexe pour les personnes concernées.”
Réactions et mesures prises
Face à la polémique, Elon Musk, propriétaire de X, a initialement réagi avec des emojis rieurs avant de déclarer ne pas être au courant de la création d’images à caractère pédopornographique par Grok. xAI a ensuite limité l’accès à la fonction de génération d’images aux abonnés payants, une mesure jugée insuffisante par de nombreux observateurs.
“Ils monétisent maintenant cet abus,” dénonce Jenna Sherman, directrice de campagne chez UltraViolet, un groupe de défense des droits des femmes. L’organisation a publié une lettre ouverte, co-signée par 28 organisations de la société civile, appelant Apple et Google à retirer Grok et X de leurs plateformes de téléchargement.
Plusieurs responsables politiques ont également pris position. Des sénateurs démocrates ont demandé le retrait des applications, tandis que la Californie a lancé une enquête sur Grok. Au niveau législatif, le Sénat américain a adopté la “Defiance Act”, permettant aux victimes de deepfakes sexuels non consensuels de poursuivre leurs agresseurs en justice.
Un signal d’alarme pour l’avenir
L’affaire Grok met en lumière les dangers potentiels de l’intelligence artificielle et la nécessité d’une réglementation plus stricte. Ben Winters, directeur de l’AI et de la confidentialité à la Consumer Federation of America, souligne que la réaction à Grok est “incomplète”, en partie à cause du pouvoir et de l’influence d’Elon Musk.
“Il y a moins de volonté de la part des régulateurs, des annonceurs et des autres acteurs de le contrarier,” explique-t-il. “Cela envoie un signal aux autres géants de la technologie qu’ils peuvent faire de même.”
Pour Emma, l’avenir est incertain. Elle a rendu son compte X privé et envisage de quitter la plateforme. “On nous donne une arme chargée gratuitement et on nous dit de faire ce qu’on veut avec,” déplore-t-elle. “C’est inacceptable.”
Ressources pour les victimes :
- StopNCII.org: Plateforme gratuite pour signaler et supprimer les images intimes non consensuelles.
- RAINN (Rape, Abuse & Incest National Network): 1-800-656-HOPE. Ligne d’assistance téléphonique et ressources en ligne pour les victimes de violence sexuelle.
- NCII: National Center for Missing and Exploited Children.
Lien vers le tweet d’Elon Musk mentionné dans l’article
Lien vers l’article de Bloomberg mentionné dans l’article
