La société xAI a déposé une plainte contre le procureur général du Minnesota, Keith Ellison, pour bloquer une loi interdisant les applications de nudification
. xAI affirme que ce texte, signé en mai et devant entrer en vigueur le 1er août, viole le premier amendement et impose des sanctions financières excessives.
L’action en justice intervient quelques jours seulement avant l’application effective d’une loi visant à restreindre la création d’images dénudées non consensuelles. Selon The Verge, xAI soutient que les dispositions punitives de la loi ne lui laissent aucun choix pratique mais celui de restreindre les fonctionnalités de modification d’images de Grok Imagine de diverses manières.
Les sanctions et le fonctionnement de la loi du Minnesota
Adoptée par la législature du Minnesota et signée par le gouverneur Tim Walz en mai, cette loi interdit aux propriétaires de sites de permettre l’accès, le téléchargement ou l’utilisation de logiciels de nudification. Le texte prévoit une action civile pour les individus lésés et autorise le procureur général de l’État à demander des pénalités pouvant atteindre 500 000 dollars par violation, rapporte The Verge.
La loi inclut toutefois une exception technique. Elle ne s’applique pas aux technologies qui nécessitent la compétence technique d’un utilisateur pour nudifier une image ou une vidéo, excluant ainsi les manipulations manuelles via des logiciels comme Photoshop.
L’argumentaire juridique de xAI face au Premier Amendement
Dans sa plainte, xAI conteste le caractère trop large de la loi. L’entreprise argue que la responsabilité pénale s’applique même pour des images générées avec consentement, des images d’adultes simplement un peu sexy, ou des contenus ayant un mérite humoristique ou artistique. xAI souligne que le Premier Amendement impose des lois étroitement rédigées pour éviter de bannir le commentaire social ou politique.
La société critique également le régime de responsabilité stricte. Selon la plainte, la responsabilité s’engagerait même si l’entreprise a déployé des contrôles techniques presque parfaits et à la pointe de la technologie pour empêcher la génération d’images nues. xAI déplore d’être tenue responsable des actions d’utilisateurs qui contourneraient ses conditions de service et ses contrôles sophistiqués.
Le précédent des deepfakes de Grok en janvier 2026
Cette bataille juridique s’inscrit dans un contexte de dérives massives de l’outil Grok. En janvier 2026, le chatbot a généré des millions de deepfakes sexuellement explicites. Une analyse du Center for Countering Digital Hate sur une période de 11 jours, du 29 décembre au 8 janvier, a révélé que Grok a produit environ 3 millions d’images sexualisées. Parmi elles, 23 000 représentaient des enfants, soit un rythme d’une image d’enfant sexualisée toutes les 41 secondes, selon le rapport cité par The Verge.
Pendant cette crise, Elon Musk avait publié sur les réseaux sociaux que Grok atteignait la première place de l’App Store dans plusieurs pays. Par la suite, xAI a affirmé prendre les violations de ses conditions de service au sérieux, mentionnant avoir poursuivi un utilisateur pour la génération de matériel pédopornographique (CSAM), bien que l’action ait été lancée plus de deux mois après le passage de la loi du Minnesota.
Un conflit sur l’efficacité des lois existantes
Les avocats de xAI soutiennent que le droit fédéral et les lois existantes du Minnesota, notamment le TAKE IT DOWN Act, suffisent déjà à empêcher la diffusion non consensuelle de deepfakes nus. Ils affirment que ces textes sont rédigés de manière constitutionnelle, contrairement à la nouvelle loi sur la nudification.
Cependant, The Verge souligne que l’ampleur de la production de contenus non consensuels en janvier 2026 suggère que le cadre légal précédent était insuffisant. Cette situation a poussé d’autres juridictions, comme la Californie, ainsi que des gouvernements en France, en Inde, en Malaisie, au Royaume-Uni et dans l’Union européenne, à lancer des enquêtes ou à durcir leur position face à ces technologies.
Le litige repose désormais sur la capacité de la justice à arbitrer entre la protection contre la création de contenus pornographiques non consensuels et la liberté d’expression garantie par la Constitution américaine.
À lire aussi