Les adolescentes sont victimes de faux nus générés par l’IA

Une mère et sa fille de 14 ans plaident pour une meilleure protection des victimes après la diffusion d’images nues générées par l’IA de l’adolescente et d’autres camarades de classe dans un lycée du New Jersey.

Pendant ce temps, de l’autre côté du pays, les autorités enquêtent sur un incident impliquant un adolescent qui aurait utilisé l’intelligence artificielle pour créer et diffuser des images similaires d’autres étudiants – également des adolescentes – qui fréquentent un lycée de la banlieue de Seattle.

Ces cas inquiétants ont mis une fois de plus en lumière des contenus explicites générés par l’IA, qui nuisent massivement aux femmes et aux enfants et qui connaissent un essor en ligne à un rythme sans précédent. Selon une analyse de la chercheuse indépendante Genevieve Oh partagée avec Associated Press, plus de 143 000 nouvelles vidéos deepfake ont été mises en ligne cette année, ce qui dépasse toutes les deux années combinées.

Désespérées de trouver des solutions, les familles poussent les législateurs à mettre en place des garanties robustes pour les victimes dont les images sont manipulées à l’aide de nouveaux modèles d’IA ou de la pléthore d’applications et de sites Web qui font ouvertement la publicité de leurs services. Les défenseurs et certains experts juridiques réclament également une réglementation fédérale qui puisse fournir des protections uniformes dans tout le pays et envoyer un message fort aux auteurs actuels et potentiels.

“Nous nous battons pour nos enfants”, a déclaré Dorota Mani, dont la fille était l’une des victimes à Westfield, une banlieue du New Jersey à l’extérieur de New York. « Ce ne sont pas des républicains, ni des démocrates. Ils s’en moquent. Ils veulent juste être aimés et ils veulent être en sécurité.

Le problème des deepfakes n’est pas nouveau, mais les experts affirment qu’il s’aggrave à mesure que la technologie permettant de les produire devient plus disponible et plus facile à utiliser. Cette année, les chercheurs ont tiré la sonnette d’alarme face à l’explosion de matériels d’abus sexuels sur enfants générés par l’IA et utilisant des représentations de victimes réelles ou de personnages virtuels. En juin, le FBI a averti qu’il continuait de recevoir des signalements de victimes, mineures et adultes, dont les photos ou vidéos étaient utilisées pour créer du contenu explicite partagé en ligne.

Plusieurs États ont adopté leurs propres lois au fil des années pour tenter de lutter contre le problème, mais leur portée varie. Le Texas, le Minnesota et New York ont ​​adopté cette année une législation criminalisant la pornographie deepfake non consensuelle, rejoignant ainsi la Virginie, la Géorgie et Hawaï, qui avaient déjà des lois en vigueur. Certains États, comme la Californie et l’Illinois, ont uniquement donné aux victimes la possibilité de poursuivre les auteurs des dommages devant un tribunal civil, ce que New York et le Minnesota autorisent également.

Quelques autres États envisagent d’adopter leur propre législation, notamment le New Jersey, où un projet de loi est actuellement en préparation pour interdire la pornographie deepfake et imposer des sanctions – soit une peine de prison, une amende, ou les deux – à ceux qui la diffusent.

La sénatrice de l’État Kristin Corrado, une républicaine qui a présenté le projet de loi plus tôt cette année, a déclaré qu’elle avait décidé de s’impliquer après avoir lu un article sur des personnes tentant d’échapper aux lois sur la vengeance pornographique en utilisant l’image de leur ancien partenaire pour générer du porno deepfake.

“Nous avions juste le sentiment qu’un incident allait se produire”, a déclaré Corrado.

Le projet de loi traîne depuis quelques mois, mais il y a de fortes chances qu’il soit adopté, a-t-elle déclaré, surtout avec l’attention portée à la question à cause de Westfield.

L’événement de Westfield a eu lieu cet été et a été porté à l’attention du lycée le 20 octobre, a déclaré la porte-parole du lycée de Westfield, Mary Ann McGann, dans un communiqué. McGann n’a pas fourni de détails sur la manière dont les images générées par l’IA ont été diffusées, mais Mani, la mère de l’une des filles, a déclaré avoir reçu un appel de l’école l’informant que ses photos de nus avaient été créées en utilisant les visages de certaines étudiantes, puis diffusées. parmi un groupe d’amis sur l’application de réseau social Snapchat.

L’école n’a confirmé aucune mesure disciplinaire, invoquant la confidentialité sur les questions impliquant les étudiants. La police de Westfield et le bureau du procureur du comté d’Union, qui ont tous deux été informés, n’ont pas répondu aux demandes de commentaires.

Aucun détail n’a été révélé sur l’incident survenu dans l’État de Washington, survenu en octobre et qui fait l’objet d’une enquête de la police.

Paula Schwan, chef du département de police d’Issaquah, a déclaré avoir obtenu plusieurs mandats de perquisition et a noté que les informations dont elles disposaient pourraient être « sujettes à changement » à mesure que l’enquête se poursuit. Lorsqu’on l’a contacté pour commenter, le district scolaire d’Issaquah a déclaré qu’il ne pouvait pas discuter des détails en raison de l’enquête, mais a déclaré que toute forme d’intimidation, de harcèlement ou de mauvais traitements entre élèves était « totalement inacceptable ».

Si les autorités décident de poursuivre l’incident du New Jersey, la loi actuelle de l’État interdisant l’exploitation sexuelle des mineurs pourrait déjà s’appliquer, a déclaré Mary Anne Franks, professeur de droit à l’Université George Washington et responsable de la Cyber ​​Civil Rights Initiative, une organisation visant à lutter contre les abus en ligne. . Mais ces protections ne s’étendent pas aux adultes qui pourraient se retrouver dans un scénario similaire, a-t-elle déclaré.

La meilleure solution, a déclaré Franks, viendrait d’une loi fédérale qui puisse fournir des protections cohérentes à l’échelle nationale et pénaliser les organisations douteuses qui profitent de produits et d’applications qui permettent facilement à quiconque de créer des deepfakes. Elle a ajouté que cela pourrait également envoyer un signal fort aux mineurs qui pourraient créer impulsivement des images d’autres enfants.

Le président Biden a signé un décret en octobre qui, entre autres choses, appelait à interdire l’utilisation de l’IA générative pour produire du matériel pédopornographique ou des « images intimes d’individus réels » non consensuelles. L’ordonnance ordonne également au gouvernement fédéral de publier des directives pour étiqueter et filigraner le contenu généré par l’IA afin de faciliter la distinction entre le contenu authentique et le contenu créé par un logiciel.

Citant l’incident de Westfield, le représentant américain Tom Kean Jr., un républicain qui représente la ville, a présenté lundi un projet de loi qui obligerait les développeurs à divulguer le contenu généré par l’IA. Entre autres efforts, un autre projet de loi fédéral présenté par le représentant américain Joe Morelle, un démocrate de New York, rendrait illégal le partage en ligne de fausses images pornographiques. Mais cela n’a pas progressé depuis des mois en raison de l’impasse au Congrès.

Certains plaident en faveur de la prudence – notamment l’American Civil Liberties Union, l’Electronic Frontier Foundation et The Media Coalition, une organisation qui travaille pour des groupes professionnels représentant les éditeurs, les studios de cinéma et autres – affirmant qu’un examen attentif est nécessaire pour éviter les propositions qui pourraient aller à l’encontre des le premier amendement.

“Certaines préoccupations concernant les deepfakes abusifs peuvent être résolues dans le cadre des lois existantes sur le cyber-harcèlement”, a déclaré Joe Johnson, avocat de l’ACLU du New Jersey. “Qu’il soit fédéral ou étatique, il doit y avoir une conversation substantielle et la contribution des parties prenantes pour garantir que tout projet de loi n’est pas trop large et résout le problème signalé.”

Mani a déclaré que sa fille avait créé un site Web et créé une organisation caritative visant à aider les victimes de l’IA. Les deux hommes sont également en pourparlers avec les législateurs de l’État qui défendent le projet de loi du New Jersey et prévoient un voyage à Washington pour plaider en faveur de davantage de protections.

« Tous les enfants, garçons ou filles, ne bénéficieront pas du système de soutien nécessaire pour faire face à ce problème », a déclaré Mani. « Et ils pourraient ne pas voir la lumière au bout du tunnel. »