xAI et Elon Musk visés par une plainte pour images générées par IA à caractère sexuel
NEW YORK – La société d’intelligence artificielle xAI, fondée par Elon Musk, et ce dernier sont au cœur d’une bataille juridique après qu’Ashley St. Clair, mère d’un de ses enfants, a déposé une plainte en justice à New York, jeudi. La plainte accuse le chatbot d’IA de xAI, Grok, d’avoir généré des images à caractère sexuel d’elle à la demande d’utilisateurs.
St. Clair, une stratège politique et auteure, est en conflit juridique avec Musk depuis février dernier, après avoir annoncé publiquement la naissance de son fils, Romulus, en septembre 2024. La plainte détaille que des utilisateurs de la plateforme X (anciennement Twitter) ont retrouvé des photos d’elle datant de son adolescence et ont demandé à Grok de la déshabiller, de la faire poser en bikini, et de créer des deepfakes graphiques, incluant des images la représentant dans des poses sexuellement explicites et arborant un tatouage insultant.
L’accusation la plus grave concerne une image où St. Clair, qui est juive, est représentée nue, vêtue d’un bikini orné de croix gammées. La plainte affirme également que la plateforme a conservé certaines de ces images en ligne pendant plus de sept jours et a supprimé son abonnement premium après ses signalements.
“C’est une escalade alarmante dans l’utilisation abusive de l’IA”, déclare Carrie Goldberg, l’avocate de St. Clair, spécialisée dans la défense des victimes de harcèlement en ligne et de revenge porn. Goldberg a déjà représenté des clientes contre Harvey Weinstein et se concentre de plus en plus sur la responsabilisation des grandes entreprises technologiques pour les dommages causés sur leurs plateformes. “Nous avons l’intention de tenir Grok responsable et d’établir des limites légales claires pour empêcher l’IA d’être utilisée comme une arme d’abus.”
En réponse à la plainte, xAI a intenté une action en justice contre St. Clair, arguant que les conditions d’utilisation de la plateforme X stipulent que tout litige impliquant l’entreprise doit être porté devant un tribunal de l’État ou fédéral au Texas.
Cette affaire survient dans un contexte mondial de crise réglementaire concernant le développement rapide des modèles d’IA, qui ont progressé en grande partie sans cadre légal clair. Les préoccupations concernant l’utilisation abusive de l’IA, notamment la création de deepfakes et la diffusion de contenu préjudiciable, sont de plus en plus vives. Selon un rapport récent de l’ONU, le nombre de deepfakes à caractère sexuel a augmenté de 800% entre 2020 et 2023, soulignant l’urgence de trouver des solutions juridiques et technologiques.
Musk n’a pas immédiatement répondu aux demandes de commentaires. La réponse automatique de xAI aux demandes de commentaires se limite à l’affirmation : “Les médias traditionnels mentent.”
Cette affaire pourrait avoir des implications majeures pour l’avenir de la réglementation de l’IA et la responsabilité des entreprises technologiques en matière de contenu généré par leurs plateformes. Elle met en lumière la nécessité d’une législation claire et d’une application rigoureuse pour protéger les individus contre les abus potentiels de cette technologie en évolution rapide.
Intégration potentielle d’un post X (anciennement Twitter) de Carrie Goldberg commentant l’affaire
