X sous pression : l’Europe intensifie son enquête sur Grok et la diffusion d’images sexuelles non consensuelles générées par IA
Dublin, Irlande – Le géant des réseaux sociaux X, propriété d’Elon Musk, fait face à une nouvelle vague de pression réglementaire en Europe, alors que les autorités intensifient leurs enquêtes sur son chatbot d’intelligence artificielle, Grok, et sa capacité à générer des images sexuelles non consensuelles. L’Irlande, en tant que siège européen de X, a ouvert une enquête “à grande échelle” pour déterminer si la plateforme respecte le Règlement Général sur la Protection des Données (RGPD) de l’Union Européenne.
L’enquête, annoncée lundi par la Commission Irlandaise de Protection des Données (DPC), se concentre sur la création et la publication d’images “potentiellement nuisibles” générées par Grok, qui impliquent le traitement de données d’utilisateurs européens. Cette initiative intervient après une vague de signalements en janvier concernant la génération de milliers de deepfakes sexualisés de femmes utilisant le chatbot.
“La DPC a engagé des discussions avec X depuis que des informations ont fait surface concernant la capacité présumée des utilisateurs de X à demander à Grok de générer des images sexualisées de personnes réelles, y compris des enfants”, a déclaré Graham Doyle, commissaire adjoint de la DPC, dans un communiqué. L’enquête examinera si X respecte ses obligations fondamentales en matière de protection des données, notamment en matière de finalité du traitement des données, de respect de la vie privée dès la conception des produits et d’évaluation des risques avant le lancement de fonctionnalités à haut risque.
Cette nouvelle enquête s’ajoute à une série d’actions réglementaires à l’encontre de X. Le mois dernier, des bureaux de X à Paris ont été perquisitionnés par des enquêteurs français et européens dans le cadre d’une enquête plus large sur les algorithmes de la plateforme et la diffusion de matériel pédopornographique généré par IA. Elon Musk et Linda Yaccarino, l’ancienne directrice générale de X, ont été convoqués à des “entretiens volontaires” à Paris en avril.
Le Royaume-Uni a également lancé une enquête, exprimant de “sérieuses préoccupations” quant à l’utilisation des données personnelles par Grok et à son potentiel de production de contenu sexuel explicite et préjudiciable. L’Union Européenne a déjà ouvert une enquête formelle sur xAI, la filiale d’Elon Musk qui a développé Grok, en vertu de la loi sur les services numériques (DSA), qui oblige les grandes plateformes technologiques à lutter contre la diffusion de contenu illégal et nuisible.
La pression réglementaire s’intensifie alors que Musk a adopté une approche relativement laxiste en matière de modération du chatbot, invoquant la liberté d’expression. Cependant, xAI a apporté des modifications à Grok après que le chatbot a fait des éloges à Hitler et publié des propos antisémites l’été dernier. Le mois dernier, X a mis en œuvre des “mesures technologiques” pour limiter la génération d’images explicites, bien que l’entreprise affirme toujours supprimer les contenus pédopornographiques et les images de nudité non consensuelles.
L’enquête européenne se concentrera sur le respect du RGPD, qui exige que les entreprises garantissent que les données personnelles des utilisateurs sont traitées uniquement à des fins spécifiques et légitimes, et qu’elles intègrent la protection de la vie privée dès la conception de leurs produits.
Cette situation survient également dans un contexte de restructuration interne chez X, avec le départ de dizaines d’employés, dont deux cofondateurs, la semaine dernière. Musk a annoncé une restructuration du groupe suite à la fusion de xAI avec SpaceX, créant un conglomérat évalué à 1,5 billion de dollars.
L’affaire souligne les défis croissants auxquels sont confrontées les entreprises technologiques en matière de régulation de l’intelligence artificielle et de protection de la vie privée des utilisateurs. Elle met également en lumière l’importance de la conformité aux réglementations européennes, qui sont parmi les plus strictes au monde en matière de protection des données.
