Cette victime du deepfake de 15 ans veut forcer le Congrès américain à agir

Une jeune femme et sa mère jouent actuellement un rôle important dans la politique américaine en matière d’IA : de victime à activiste, elles pourraient être en mesure de mettre en œuvre des changements importants. En octobre, Francesca Mani était l’une des plus de 30 filles au lycée Westfield dans le New Jersey qui ont été victimes de deepfake porn. Les garçons de l’école avaient pris des photos de Francesca et de ses camarades de classe, puis les avaient manipulés à l’aide d’un logiciel d’IA pour créer des images sexuellement explicites d’eux sans leur consentement. (L’école elle-même ne fait aucun commentaire à ce sujet à la presse, mais affirme que “beaucoup moins” de 30 élèves ont été concernés.)

Publicité

Cette pratique est malheureusement étonnamment courante, mais des histoires comme celle-ci sont rarement entendues – l’une des raisons est que de nombreuses victimes de harcèlement sexuel ne veulent naturellement pas parler publiquement d’actes qui portent si atteinte à la vie privée. Mais juste un jour après avoir pris connaissance de l’incursion d’IA, qu’elle qualifie de « choquante », Francesca, 15 ans, a commencé à s’exprimer publiquement et à appeler le gouvernement américain à faire quelque chose pour résoudre le problème. Leurs efforts commencent déjà à porter leurs fruits, car il existe un nouvel élan pour les propositions législatives aux niveaux des États et fédéral. Cela comprend un projet de loi co-parrainé par les sénateurs de l’État du New Jersey, Jon Bramnick et Kristin Corrado, qui imposerait des sanctions civiles et pénales pour la production et la distribution non autorisées de pornographie deepfake.

Francesca et sa mère Dorota affirment qu’avec leur militantisme, elles souhaitent avant tout soutenir les femmes et les filles qui ne sont pas en mesure de faire elles-mêmes le changement. Le MIT Technology Review a pu s’entretenir avec les Manis pour mieux comprendre comment l’incident s’est produit et ce qui peut être fait pour y remédier.

Pouvez-vous nous dire ce qui s’est exactement passé et comment cela a été découvert ?

Francesca : Toutes les filles étaient inquiètes le 20 octobre. Des rumeurs ont commencé à circuler et toutes les filles pensaient qu’elles feraient partie des victimes de l’IA. Et en fin de compte, l’administration a confirmé que j’étais l’un des nombreux créateurs de deepfakes. Bien sûr, j’ai été choqué parce que les autres filles et moi manquions tellement de respect de la part de nos camarades de classe. Nous ne pensions pas que nos propres camarades de classe nous feraient ça.

Il est courageux de prendre la parole maintenant et de parler de ces expériences à tous ces gens. Qu’est-ce qui vous a motivé à devenir actif ?

Francesca : Jusqu’à ce que je fasse partie des victimes, je ne savais pas vraiment à quel point cette technologie d’IA pouvait être complexe et effrayante. Cela m’a fait comprendre à quel point il est important de s’informer à ce sujet, car l’IA est là pour rester – et nous devons apprendre à vivre avec sans faire de mal à nous-mêmes ni aux autres. Compte tenu de cela, j’ai un site Web appelé Aide AI mis en place pour fournir des informations et une protection contre de tels systèmes. Nous fournirons également des ressources pour aider les victimes de l’IA à se défendre. Je veux également m’assurer que nous disposons de lois aux niveaux étatique et fédéral qui nous protègent – ​​les enfants et les femmes – contre les deepfakes.

Selon vous, quels sont les points clés que les autres filles et femmes devraient connaître sur les risques de l’intelligence artificielle ?

Francesca : Il est important de savoir que cela peut arriver à n’importe qui – et que tout le monde peut le faire. Il peut s’agir de vos camarades de classe, par exemple. C’est ce qui m’est arrivé. Les gens doivent être conscients que s’ils commencent à publier quelque chose sur Instagram ou sur d’autres réseaux sociaux, cela peut aussi leur arriver. Protégez votre image, rendez votre compte privé et n’ayez que des abonnés spécifiques, tels que des personnes que vous connaissez, plutôt qu’un compte public.

Pouvez-vous me parler des conversations que vous avez eues avec des politiques sur cette question ?

Francesca : J’ai parlé au sénateur Bramnick – il vient de Westfield – pour m’aider à proposer une nouvelle législation sur l’IA. Il m’a promis qu’il ferait tout ce qui est en son pouvoir pour protéger notre pays des deepfakes. Il a également immédiatement coparrainé le projet de loi du sénateur Corrado. Et si tout se passe bien, nous aurons un projet de loi en place pour remédier à ces problèmes dans le New Jersey d’ici janvier 2024. Et cela me rend heureux de savoir que mon propre sénateur se soucie suffisamment de lui pour se battre pour cette cause importante. Le membre du Congrès [Joe] Morelle [aus New York] nous a également invités à Washington pour rencontrer d’autres membres du Congrès des deux partis.

Dorota : Nous espérons qu’après notre visite à Washington, nous pourrons obtenir encore plus de soutien et faire en sorte que les choses démarrent enfin. Ensuite, nous pouvons toujours faire mieux.

Qu’avez-vous appris sur la politique ou le fonctionnement du gouvernement américain grâce à votre militantisme ?

Francesca : J’étais très heureuse de savoir que la politique m’écoutait lorsque j’avais 14 ans – je viens d’en avoir 15 – et voulait m’aider. Ils étaient prêts à me protéger, moi et les autres filles. Ce que j’en ai appris, c’est de parler et de ne pas avoir peur.

On sait que vous avez déposé une plainte à la police. Quelle action en justice espérez-vous intenter ?

Francesca : J’aimerais vraiment que celui qui a fait ça soit suspendu ou expulsé de l’école parce que je pense qu’il est important que tout le monde se sente à l’aise si c’est quelqu’un de ton école. Et j’aimerais aussi des excuses. Je pardonnerais à cette personne, mais je ne l’oublierais jamais.

Dorota, tu as mentionné que tu n’étais pas satisfaite de la réponse de l’école. Selon vous, y a-t-il quelque chose que les écoles devraient faire différemment pour réagir à de telles situations ou les prévenir en premier lieu ?

Dorota : Je pense que l’éducation est très importante dans ce domaine : éduquer nos enfants, nous éduquer nous-mêmes et ensuite assumer nos responsabilités. Je pense que nous devrions profiter de cette occasion pour apprendre à nos filles qu’elles ont de la valeur. Même s’ils sont devenus des victimes, cela ne veut pas dire qu’ils doivent avoir honte et qu’ils doivent accepter les choses telles qu’elles sont – et espérer qu’elles s’en sortent. Nous avons ici un merveilleux district scolaire. Nos professeurs sont fantastiques. Francesca n’aurait pas pu surmonter toute cette situation sans le soutien de ses professeurs. Je ne peux pas dire assez de bonnes choses à son sujet.

Mais l’administration espère aussi simplement que la situation se calmera. Je n’ai pas de rapport officiel à ce sujet. Il n’y a aucune conséquence, aucune responsabilité, aucune excuse. Je suis moi-même éducateur. J’ai une école privée à Jersey City. Et je pense qu’en tant que mère et femme, je défends les autres. Je soutiens ma fille, mais en tant qu’éducatrice, je veux aussi créer un endroit sûr pour nos enfants, car quelque chose comme ça peut arriver à n’importe qui. Il n’est pas nécessaire que ce soit une femme qui soit la victime – et je pense que nous devrions envoyer un message clair selon lequel ce n’est pas acceptable.

[In einer Erklärung an MIT Technology Review teilte der Superintendent der Schule, Raymond González mit: “Der Westfield Public School District hat Sicherheitsvorkehrungen getroffen, um zu verhindern, dass dies in unserem Netzwerk und auf den von der Schule ausgegebenen Geräten passieren kann. Wir werden unsere Bemühungen weiter verstärken, indem wir unsere Schüler über diese Dinge aufklären und klare Richtlinien aufstellen, um sicherzustellen, dass diese neuen technischen Verfahren in unseren Schulen und darüber hinaus verantwortungsvoll genutzt werden.” Die Schule sagte auch, dass sie eine sofortige Untersuchung durchgeführt habe und mit der Polizei zusammenarbeitet.]

Pensez-vous qu’une éducation accrue devrait jouer un rôle en enseignant aux enfants ce qui est approprié et ce qui ne l’est pas et comment se protéger de tels dangers ?

Dorota : Bien sûr, définitivement. Je pense que dans de nombreux cas, ce sera le cas [digitale Bildung] par exemple, repris par un professeur de sport qui véhicule les dangers de l’IA. Soyons honnêtes les uns envers les autres : il s’agit d’une technologie tellement complexe et sophistiquée qui est en constante évolution. Il faut veiller à ce qu’un spécialiste enseigne cette classe, et pas seulement en début d’année scolaire. Cela devrait avoir lieu au moins deux ou trois fois et devrait être enseigné de manière significative. Une telle chose a un réel impact sur la vie des gens.

Francesca a une forte personnalité. Elle a toujours été une battante. Et je la félicite d’avoir pris la parole pour elle-même. Au début, quand elle m’a dit : « Maman, je veux me battre », j’ai dit : « Francesca, je veux que tu saches que ça peut aller dans un sens ou dans l’autre. Tu entendras les gens heureux de ton travail, et tu es Je vais entendre des gens qui sont vraiment contre vous, et vous devez vous y préparer. » Sa réponse a été : « Je ne suis pas une enfant. Je peux tolérer les opinions des gens et je veux exprimer ce que je pense. » Mais tout le monde n’a pas le même caractère que Francesca. Tout le monde ne bénéficiera pas du même soutien à la maison. Et il y aura des filles et des garçons qui ne verront tout simplement pas la lumière au bout du tunnel et qui se blesseront, voire se suicideront. Et je ne pense pas que nous devrions attendre cela. Une éducation significative est la chose la plus importante.

Francesca : J’aimerais également exhorter tous les districts scolaires à mettre à jour leurs politiques en matière de cyberintimidation pour ajouter une définition de l’IA et définir les conséquences si des deepfakes sont créés par un élève. L’adoption de la législation peut prendre du temps, mais les politiques scolaires peuvent et doivent être mises à jour immédiatement.

J’ai l’impression que vous avez vraiment donné beaucoup d’élan à tout cela. Avez-vous reçu des réactions négatives ?

Francesca : Non, pas vraiment. C’est cool de savoir que j’ai une grande communauté et le soutien de mes amis et de mes professeurs. Je veux juste les remercier. Je suis également fier d’être américain. Je vis dans un pays où la voix d’une jeune fille de 15 ans peut aujourd’hui apporter un changement positif.

(jl)