New York
CNN
—
Des images pornographiques générées par l’IA de la star la plus célèbre du monde se sont répandues sur les réseaux sociaux cette semaine, soulignant le potentiel dommageable posé par la technologie dominante de l’intelligence artificielle : sa capacité à créer des images convaincantes, réelles et dommageables.
Le porte-parole de Swift n’a pas répondu à une demande de commentaire.
Comme la plupart des grandes plateformes de médias sociaux, Les politiques de X interdire le partage de « médias synthétiques, manipulés ou hors contexte qui peuvent tromper ou confondre les gens et causer du tort ».
La société n’a pas répondu à la demande de commentaires de CNN.
L’incident survient alors que les États-Unis se dirigent vers une année d’élection présidentielle, et les inquiétudes grandissent quant à la manière dont des images et des vidéos trompeuses générées par l’IA pourraient être utilisées pour diriger les efforts de désinformation et, à terme, perturber le vote.
“C’est un excellent exemple de la manière dont l’IA se déchaîne pour de nombreuses raisons néfastes, sans suffisamment de garde-fous pour protéger la place publique”, a déclaré à CNN Ben Decker, qui dirige Memetica, une agence d’enquêtes numériques.
Decker a déclaré que l’exploitation d’outils d’IA générative pour créer du contenu potentiellement dangereux ciblant tous les types de personnalités publiques augmente rapidement et se propage plus rapidement que jamais sur les réseaux sociaux.
« Les sociétés de médias sociaux n’ont pas vraiment mis en place de plans efficaces pour surveiller le contenu », a-t-il déclaré.
X, par exemple, a largement vidé son équipe de modération de contenu et s’appuie sur sur les systèmes automatisés et le reporting des utilisateurs. (Dans l’UE, X fait actuellement l’objet d’une enquête sur ses pratiques de modération de contenu).
Meta a également réduit ses équipes chargées de lutter contre la désinformation et de coordonner les campagnes de troll et de harcèlement sur ses plateformes, ont déclaré à CNN des personnes ayant une connaissance directe de la situation, soulevant des inquiétudes à l’approche des élections cruciales de 2024 aux États-Unis et dans le monde.
L’incident coïncide également avec la montée en puissance d’outils de génération d’IA tels que ChatGPT et Dall-E. Cependant, il existe également un monde beaucoup plus vaste de modèles d’IA non modérés et non sûrs pour le travail sur les plates-formes open source, a déclaré Decker.
« Cela témoigne d’un type plus large de fracture en matière de modération de contenu et de gouvernance des plateformes, car si toutes les parties prenantes – les sociétés d’IA, les sociétés de médias sociaux, les régulateurs et la société civile – ne parlent pas des mêmes choses et ne sont pas sur la même longueur d’onde sur la manière de résoudre le problème. ces problèmes, ce type de contenu va simplement continuer à proliférer », a-t-il ajouté.
Decker a cependant déclaré que le fait que Swift soit ciblé pourrait attirer davantage l’attention sur les problèmes croissants liés aux images générées par l’IA. L’énorme contingent de fidèles « Swifties » de Swift a exprimé son indignation sur les réseaux sociaux cette semaine, mettant la question au premier plan. En 2022, un effondrement de Ticketmaster avant son concert Eras Tour a déclenché la colère en ligne, conduisant à plusieurs efforts législatifs pour réprimer les politiques de billetterie peu favorables aux consommateurs.
Peut-être qu’il en sera de même pour les images dommageables générées par l’IA, a suggéré Decker.
“Quand vous avez des personnalités comme Taylor Swift qui sont aussi grandes [targeted]”C’est peut-être ce qui incite les législateurs et les entreprises technologiques à agir, car ils ne peuvent pas se permettre que l’amoureux de l’Amérique participe à une campagne publique contre eux”, a-t-il déclaré. “Je dirais qu’ils doivent la faire se sentir mieux, car elle a probablement plus d’influence que presque n’importe qui d’autre sur Internet.”
Ce type de technologie est utilisé depuis un certain temps déjà pour créer ce que l’on appelle le « porno de vengeance » – publier des images explicites de quelqu’un en ligne sans son consentement – mais suscite aujourd’hui un regain d’attention en raison des photos offensantes de Swift.
Neuf États américains ont actuellement lois contre la création ou le partage de photographies deepfake non consensuelles, qui sont des images synthétiques créées pour imiter l’image d’une personne.
