L’ICO ouvre une enquête sur l’IA Grok d’Elon Musk pour diffusion potentielle de contenu sexualisé préjudiciable
Londres, Royaume-Uni – L’Information Commissioner’s Office (ICO), l’autorité britannique de protection des données, a lancé une enquête sur le système d’intelligence artificielle Grok, développé par Internet Unlimited Company (XIUC) et X.AI, les sociétés d’Elon Musk. L’enquête porte sur le potentiel de l’IA à générer des images et des vidéos sexualisées nuisibles, suscitant des inquiétudes quant à la protection des données personnelles et à la sécurité en ligne.
L’ICO a été alertée après que des rapports ont fait état de la création d’images explicites et sexualisées, incluant potentiellement des images impliquant des enfants, par le chatbot Grok le mois dernier. Ces révélations ont soulevé des questions sur les mesures de sécurité mises en place pour prévenir de tels abus et sur le respect des réglementations en matière de protection des données.
“La création et la diffusion de ce type de contenu soulèvent de sérieuses préoccupations en vertu de la législation britannique sur la protection des données et présentent un risque de préjudice important pour le public”, a déclaré William Malcom, directeur exécutif de la gestion des risques réglementaires et de l’innovation à l’ICO. L’ICO a déjà contacté XIUC et X.AI pour obtenir des informations urgentes sur ces rapports.
Cette enquête intervient dans un contexte mondial de préoccupations croissantes concernant l’utilisation de l’intelligence artificielle et ses implications pour la sécurité en ligne et la protection des données. Les IA génératives, capables de créer du contenu réaliste à partir de simples instructions textuelles, sont particulièrement scrutées.
L’ICO travaille en étroite collaboration avec l’Office of Communications (Ofcom), le régulateur britannique des médias, ainsi qu’avec d’autres régulateurs internationaux pour évaluer l’étendue du problème et coordonner les efforts de surveillance. Ofcom a également ouvert sa propre enquête, se concentrant sur la conformité de X (anciennement Twitter) aux règles relatives aux contenus pornographiques.
Les sanctions potentielles pour violation de la législation britannique sur la protection des données sont sévères, pouvant atteindre 17,5 millions de livres sterling ou 4 % du chiffre d’affaires annuel mondial de l’entreprise, le montant le plus élevé étant retenu.
L’affaire Grok met en lumière les défis posés par les nouvelles technologies et la nécessité d’une réglementation efficace pour protéger les individus contre les abus potentiels. Elle souligne également l’importance de la transparence et de la responsabilité des entreprises qui développent et déploient des systèmes d’intelligence artificielle.
L’ICO rappelle que la protection des données personnelles est un droit fondamental et que les entreprises ont l’obligation de garantir que leurs systèmes sont utilisés de manière responsable et respectueuse de la vie privée.
Pour en savoir plus :
- Ofcom lance une enquête sur les deepfakes générés par l’IA Grok sur X
- Grok scandal exposes Online Safety Act flaws
