MrBeast, Tom Hanks, Gayle King ; appeler à l’interdiction

Un certain nombre de deepfakes de TikTok ont ​​été dénoncés par des célébrités dont les portraits ont été volés. Ceux-ci incluent MrBeast, Tom Hanks et Gayle King.

La fausse vidéo de MrBeast affirmait que les téléspectateurs avaient été sélectionnés pour recevoir un iPhone 15 Pro pour seulement 2 $, laissant la star de YouTube se demander si les réseaux sociaux sont préparés aux escroqueries deepfake…

Qu’est-ce qu’un deepfake ?

Un deepfake est une vidéo dans laquelle l’IA générative est utilisée pour simuler des images d’un individu, généralement une célébrité, un homme politique ou une autre personnalité publique.

Les meilleurs peuvent paraître extrêmement convaincants, combinant généralement de véritables séquences vidéo de la personne avec des mouvements de bouche générés par l’IA pour correspondre au faux discours. L’audio rassemble des mots et des phrases réels issus de plusieurs heures de séquences sources ou génère des imitations réalistes de la voix à partir des mêmes données d’entraînement.

Les deepfakes ont évidemment un énorme potentiel de préjudice, allant de l’escroquerie aux gens en passant par la crédibilité, les canulars et la désinformation politique destinée à influencer les résultats des élections.

Deepfakes TikTok

BNC rapporte sur l’exemple de MrBeast.

La star de YouTube, MrBeast, de son vrai nom Jimmy Donaldson, se demande si les plateformes de médias sociaux sont prêtes à faire face aux fausses publicités d’IA après qu’une publicité frauduleuse sur TikTok présentait un deepfake de lui offrant des iPhones à 2 $.

« Beaucoup de gens reçoivent cette publicité frauduleuse de moi… les plateformes de médias sociaux sont-elles prêtes à gérer la montée des deepfakes de l’IA ? C’est un problème sérieux », a déclaré Donaldson. posté sur X, anciennement connu sous le nom de Twitter. Lorsqu’on lui a demandé un commentaire, un porte-parole de Donaldson a dirigé NBC News vers ce message.

TikTok a déclaré avoir supprimé la vidéo et a souligné sa politique exigeant la divulgation de médias synthétiques ou manipulés.

CNET rapporte que Tom Hanks est une autre victime, son image étant utilisée pour promouvoir un régime de soins dentaires.

Tom Hanks est assez reconnaissable, qu’il porte une boîte de chocolats dans Forrest Gump ou qu’il porte une combinaison spatiale dans Apollo 13. Mais si vous voyez une annonce d’assurance dentaire avec sa photo, regardez-y à deux fois. Ce n’est pas vraiment l’acteur oscarisé.

“Méfiez-vous!” Hanks a écrit sur Instagram Cette fin de semaine. « Il y a une vidéo faisant la promotion d’un régime de soins dentaires avec une version IA de moi. Je n’ai rien à voir avec ça.”

Matins CBS hébergez Gayle King également.

Le roi a fait un publication similaire sur Instagram le lundi.

“Les gens continuent de m’envoyer cette vidéo et de me poser des questions sur ce produit et je n’ai RIEN à voir avec cette entreprise”, a écrit King. « J’ai posté cette vidéo faisant la promotion de mon émission de radio le 31 août (faites glisser pour voir l’original), et ils ont manipulé ma voix et ma vidéo pour donner l’impression que j’en fais la promotion… Je n’ai jamais entendu parler de ce produit ni utilisé il! S’il vous plaît, ne vous laissez pas berner par ces vidéos d’IA.

Un professeur de NYU demande l’interdiction de TikTok

La controverse plus large sur l’application de courtes vidéos gérée par la Chine se poursuit, beaucoup craignant que les flux générés par des algorithmes puissent être utilisés pour fournir aux utilisateurs du contenu pro-chinois et anti-occidental.

TNW rapporte que le professeur Scott Galloway de l’Université de New York a déclaré lors d’une conférence à Helsinki que l’application constituait une menace pour la sécurité nationale.

Galloway a décrit TikTok comme probablement « l’entreprise technologique la plus ascendante de l’histoire » – et « une menace pour la défense nationale » […] “Ils ont implanté une prise neuronale dans le domaine Web de nos jeunes”, a déclaré Galloway. […]

Galloway craint que ce public ne subisse un lavage de cerveau de la part du PCC. « Si j’étais eux, je mettrais mon pouce délicatement, insidieusement, secrètement, avec élégance, sur l’échelle des contenus anti-occidentaux et sur l’échelle des contenus pro-Chine », a-t-il déclaré.

Photo: Jacob Owens/Unsplash