X : L’IA Grok contournée, la lutte contre le contenu sexuel non consenti s’intensifie
Londres – Malgré des promesses de durcissement, l’intelligence artificielle Grok de X (anciennement Twitter) permet toujours de générer des vidéos à caractère sexuel explicite mettant en scène des femmes, révélait The Guardian jeudi. Cette nouvelle escalade dans la controverse soulève des questions sur l’efficacité des mesures prises par la plateforme et relance le débat sur la responsabilité des réseaux sociaux face à la prolifération du contenu abusif en ligne.
Selon l’enquête du quotidien britannique, il est possible de créer des vidéos montrant des femmes, à partir de photographies d’origine, se dévêtant en bikini. Ces contenus, générés par l’IA, sont ensuite diffusés publiquement sur X sans modération apparente, accessibles en quelques secondes à tout utilisateur.
Cette découverte intervient après l’annonce, la semaine dernière, de restrictions par Elon Musk, propriétaire de X, suite à une vague d’indignation suscitée par la capacité de Grok à générer des images à caractère sexuel à partir de photos de personnes réelles. Le Premier ministre britannique, Keir Starmer, avait qualifié ces images de “dégoûtantes” et “scandaleuses”.
X avait alors affirmé avoir mis en place des “mesures technologiques” pour empêcher l’édition d’images de personnes réelles dans des tenues suggestives. Cependant, The Guardian a démontré que ces restrictions ne s’appliquent pas à la version autonome de Grok, accessible via un navigateur web, où il est toujours possible de demander à l’IA de dévêtir des femmes sur des photos.
“Il est difficile de croire que xAI et Elon Musk ne puissent pas trouver un moyen d’empêcher ces images d’être générées par Grok”, a déclaré Penny East, directrice générale de la Fawcett Society, une organisation féministe britannique. “Musk a d’abord décidé que la nudification serait un privilège réservé aux abonnés payants, puis a promis de l’interdire complètement. Et pourtant, rien n’a changé.”
La controverse a également attiré l’attention des autorités. Liz Kendall, la secrétaire d’État britannique à la Technologie, a salué les mesures prises par X tout en soulignant la nécessité d’une enquête approfondie menée par l’Ofcom, le régulateur des médias britannique. “J’attends que les faits soient établis de manière complète et rigoureuse par l’enquête en cours de l’Ofcom”, a-t-elle déclaré.
L’Ofcom a lancé une enquête formelle lundi, et travaille “sans relâche” pour déterminer les causes du problème et les solutions à mettre en œuvre.
Au-delà du Royaume-Uni, l’affaire a des répercussions internationales. Le Canada a annoncé qu’il enquêtait sur xAI, tandis que les Philippines envisagent de bloquer l’accès à Grok et la Malaisie envisage des poursuites judiciaires.
Malgré la polémique, Elon Musk a semblé minimiser l’impact négatif, partageant sur X un graphique montrant une augmentation significative des recherches sur “Grok” sur Google Trends, avec un message invitant les utilisateurs à “essayer Grok.com”.
Le gouvernement britannique a rappelé que la loi sur la sécurité en ligne exige déjà des plateformes comme X de prévenir la diffusion de contenus illégaux, notamment les images intimes non consensuelles et la pornographie infantile. Un nouveau délit de “nudification” est également en cours d’élaboration pour cibler spécifiquement les outils de génération d’images intimes non consensuelles.
Rebecca Hitchen, responsable des politiques et des campagnes de l’End Violence Against Women Coalition, a souligné l’urgence de la situation. “La facilité avec laquelle on peut contourner ces outils de nudification sophistiqués démontre clairement que X ne prend pas suffisamment au sérieux la question de la violence en ligne contre les femmes et les filles”, a-t-elle déclaré. “Nous appelons le gouvernement britannique et l’Ofcom à faire pression sur X et d’autres plateformes pour qu’elles mettent fin à la prolifération de l’abus sexuel basé sur l’image.”
