Le vol de l’identité numérique : les créateurs de contenu pris au piège des deepfakes
Los Angeles, Californie – Yanina Oyarzo, créatrice de contenu basée à Los Angeles, a découvert à ses dépens la menace grandissante des deepfakes. La podcasteuse, suivie par 90 000 personnes sur Instagram, a été alertée par des amis et des abonnés concernant des vidéos la représentant faisant la promotion d’un cabinet d’avocats spécialisé dans les préjudices corporels, basé en Arizona. Le problème ? Elle n’avait jamais donné son accord pour cette publicité.
Dans ces vidéos, un avatar généré par intelligence artificielle, ressemblant à une version excessivement filtrée d’Oyarzo, posait des questions sur les effets secondaires de la chimiothérapie et l’implantation de PowerPorts. La voix n’était pas la sienne, mais le visage était troublant de ressemblance. Ce n’était pas la première fois. En novembre dernier, son monteuse vidéo l’avait déjà prévenue de l’existence d’une vidéo similaire, avec un avatar aux cheveux et sourcils roux, subtilement inspiré de son apparence.
« Comment ne pas savoir qu’il y en a davantage qui circulent ? », s’interroge Oyarzo.
Son cas n’est pas isolé. Selon la base de données MIT sur les incidents liés à l’IA, les signalements d’acteurs malveillants utilisant l’IA pour diffuser de la désinformation et escroquer des victimes ont explosé, passant de 20 en 2022 à 211 en 2025.
Une économie du deepfake en mutation
Kit Walsh, directrice des projets juridiques sur l’IA et l’accès au savoir à l’Electronic Frontier Foundation, explique que les coûts et la complexité de la création de deepfakes ont considérablement diminué ces dernières années. « C’est très différent, car c’est beaucoup plus facile à faire, beaucoup plus accessible et beaucoup moins cher », souligne-t-elle.
Dan Neely, PDG de Vermillio, une entreprise spécialisée dans la protection de la propriété intellectuelle basée à Chicago, observe un changement de tendance : il y a deux ans, les deepfakes ciblaient principalement les célébrités, mais ils se concentrent désormais sur les créateurs de contenu. Les individus réalisent qu’ils peuvent tirer profit de communautés de fans plus petites en s’appuyant sur des tendances virales grâce à des outils d’IA gratuits et faciles à utiliser. Vermillio scanne désormais plus de deux billions de contenus générés par l’IA, contre 18 000 en 2019.
Un risque pour la visibilité et la monétisation
Pour les créateurs de contenu, les risques sont multiples : perte de visibilité, diminution des revenus publicitaires et, surtout, une forme de vol d’identité. Emy Brookins, une créatrice de contenu mode et lifestyle, a elle aussi été victime de deepfakes. La première vidéo, datant d’il y a deux ans, montrait un avatar modifiant ses paroles pour promouvoir une application d’étude biblique. Plus récemment, une vidéo plus réaliste, extraite de son compte TikTok, a été utilisée par la société de cybersécurité Guardio pour promouvoir son application.
« C’est du vol de personnalité », dénonce Brookins. « C’est comme si quelqu’un tentait de s’approprier quelque chose qui m’appartient uniquement : ma voix, mon visage, ce que je fais. »
Guardio a retiré la vidéo après avoir pris connaissance du problème, expliquant que le contenu avait été fourni par l’agence de marketing MakeUGC, spécialisée dans l’IA. MakeUGC a admis que l’un de ses anciens employés avait créé des contrats frauduleux et s’était fait licencier. L’entreprise affirme avoir supprimé 33 avatars affectés et avoir mis en place des mesures de vérification humaine pour éviter que cela ne se reproduise.
Un « problème d’identité »
Hany Farid, cofondateur et directeur scientifique de la société de cybersécurité GetReal Security, estime qu’il ne s’agit pas tant d’un problème de deepfake que d’un « problème d’identité ». Avec l’innovation et l’adoption généralisée de l’IA générative, n’importe qui disposant d’une simple vidéo ou image en ligne peut voir son identité volée, quel que soit son nombre d’abonnés.
Bien qu’il n’existe pas de droit fédéral à la publicité aux États-Unis, des lois au niveau des États protègent les créateurs contre l’utilisation non autorisée de leur image à des fins publicitaires. Cependant, la tâche de traquer et de supprimer ces vidéos reste ardue.
Des outils pour se défendre
Face à cette menace croissante, des initiatives se mettent en place pour aider les créateurs de contenu à se protéger. La Creators Guild of America a lancé Mosaic, une plateforme de certification qui permet aux créateurs d’obtenir un identifiant unique et de créer une page publique répertoriant leurs œuvres authentifiées. La CGA s’associe également à Loti AI, une entreprise spécialisée dans la détection de deepfakes, pour faciliter la suppression des contenus non autorisés.
Vermillio propose une technologie qui scanne internet à la recherche de contenus utilisant illégalement la propriété intellectuelle de ses clients, avec un taux de succès de 95 % pour la suppression de ces contenus.
Parallèlement, un marché de la licence de données IA émerge. Khaby Lame, un célèbre créateur TikTok, a récemment vendu les droits à son image numérique pour 975 millions de dollars à une société financière basée à Hong Kong. Des créateurs vendent également leurs séquences vidéo inutilisées à des entreprises d’IA comme OpenAI et Google.
Yanina Oyarzo se montre prudente quant à ces nouvelles opportunités, soulignant la nécessité d’une plus grande transparence et de protections plus solides pour les créateurs avant de s’engager dans ce type de transactions. « Avec l’IA, vous devez vous éduquer pour pouvoir vous protéger », conclut-elle. « Vous ne pouvez pas vivre en ignorant le problème, puis réaliser 45 ans plus tard que les gens utilisent encore votre voix sur une application et en tirent profit. »
