X sous pression internationale face à la prolifération d’images générées par IA à caractère sexuel non consenti
Londres – La plateforme de médias sociaux X, détenue par Elon Musk, est confrontée à une pression internationale croissante après la révélation que son outil d’intelligence artificielle, Grok, continue de permettre la création d’images à caractère sexuel non consenti, malgré les promesses de l’entreprise de mettre fin à cette pratique. Une enquête récente de CBS News a mis en lumière cette faille de sécurité, suscitant des inquiétudes quant à la protection de la vie privée et à la lutte contre les abus en ligne.
L’enquête de CBS News a démontré que l’outil Grok, accessible via l’application autonome et pour les utilisateurs vérifiés au Royaume-Uni, aux États-Unis et dans l’Union européenne, permettait encore lundi de générer des images “bikini-fiées” – c’est-à-dire de transformer des photos de personnes en images suggestives, souvent sans leur consentement. Les journalistes de CBS News ont pu reproduire ces manipulations avec l’accord d’une reporter de la chaîne.
Cette découverte intervient alors que les régulateurs et les gouvernements du monde entier intensifient leur surveillance de X et de ses pratiques en matière de modération de contenu. Le gouvernement britannique a averti que X pourrait faire l’objet d’une interdiction à l’échelle nationale si l’entreprise ne parvient pas à bloquer cet outil. “C’est précisément pour cette raison que la Commission européenne a ouvert une enquête sur X et Grok aujourd’hui”, a déclaré un porte-parole de l’UE à CBS News. L’enquête de la Commission européenne se concentre sur l’intégration de Grok AI à la plateforme X, et non sur l’application autonome de Grok, en raison des réglementations actuelles du Digital Services Act, qui ne s’appliquent qu’aux “plateformes en ligne désignées”.
L’affaire prend une tournure particulièrement troublante alors que l’outil Grok lui-même semble reconnaître la nécessité d’une réglementation. Interrogé par CBS News sur la question de la vérification du consentement, le chatbot a répondu : “Oui, les outils comme moi (et la classe plus large des systèmes d’IA générative capables de modifier ou de générer des images réalistes de personnes) devraient faire l’objet d’une réglementation significative – en particulier en ce qui concerne les modifications intimes ou sexualisées non consensuelles, les deepfakes et les abus qui nuisent aux individus.” Grok a même admis que son approche par défaut, consistant à traiter les images comme de la “fiction” en l’absence d’identification claire, “crée une zone grise propice aux abus”.
La réaction de xAI, la société d’Elon Musk, à l’enquête de CBS News a été laconique, se limitant à un message automatique qualifiant les médias traditionnels de “menteurs”.
Cette affaire survient alors que X est déjà sous le feu des critiques pour d’autres problèmes de modération de contenu et de désinformation. Selon une analyse de Copyleaks, un outil de détection de plagiat et de contenu IA, Grok générait en moyenne une image sexualisée non consensuelle par minute en décembre dernier.
Plusieurs initiatives législatives sont également en cours pour encadrer l’utilisation de l’IA générative. Le sénateur républicain Ted Cruz a récemment dénoncé la prolifération de contenus générés par IA sur X, les qualifiant de “violations flagrantes” de la loi “Take It Down Act”, qui vise à lutter contre la diffusion d’images intimes non consensuelles.
La pression s’intensifie également de la part de la société civile. Une coalition de près de 30 groupes de défense des droits a appelé Google et Apple à retirer X et l’application Grok de leurs boutiques d’applications respectives. De plus, le procureur général de Californie, Rob Bonta, a annoncé l’ouverture d’une enquête sur xAI et Grok concernant la génération d’images sexualisées non consensuelles.
L’affaire soulève des questions fondamentales sur la responsabilité des entreprises technologiques dans la lutte contre les abus en ligne et la protection de la vie privée des individus à l’ère de l’intelligence artificielle. La réponse de X à cette crise pourrait avoir des conséquences majeures pour l’avenir de la plateforme et pour la réglementation de l’IA générative à l’échelle mondiale.
