YouTube lance un outil de détection de deepfakes pour protéger les créateurs
[Date] – YouTube déploie progressivement un nouvel outil de détection de ressemblance basé sur l’intelligence artificielle, visant à identifier et gérer le contenu généré par l’IA qui utilise l’image de créateurs populaires sans leur consentement. La première vague de créateurs éligibles a été notifiée ce matin par e-mail.
Cette fonctionnalité, actuellement en phase de déploiement, s’appuie sur une technologie similaire à celle de Content ID, déjà utilisée par YouTube pour identifier les violations de droits d’auteur audio et vidéo. Elle est capable de repérer des vidéos présentant le visage réel d’une personne, et non des versions modifiées ou synthétiques créées par l’IA.
L’initiative intervient après une phase de test initiée en décembre dernier, en collaboration avec l’agence Creative Artists Agency (CAA) et plusieurs personnalités influentes. YouTube avait alors souligné son engagement à fournir aux créateurs des outils de pointe pour contrôler l’utilisation de leur image dans le contexte de la prolifération des deepfakes et du contenu généré par l’IA.
Un contexte de plus en plus préoccupant
La montée en puissance des outils de génération et d’édition vidéo par IA a soulevé des inquiétudes croissantes concernant la désinformation, l’usurpation d’identité et la protection de la réputation des individus. Les deepfakes, en particulier, représentent une menace significative, car ils peuvent être utilisés pour créer des vidéos réalistes mais entièrement fabriquées, pouvant nuire à l’image de personnalités publiques ou manipuler l’opinion publique.
YouTube a également mis en place d’autres mesures pour encadrer le contenu généré par l’IA sur sa plateforme. En mars dernier, la plateforme a rendu obligatoire l’étiquetage des vidéos contenant du contenu créé ou modifié à l’aide de l’IA. De plus,une politique stricte a été annoncée concernant la musique générée par l’IA imitant la voix d’artistes existants.
Vers une régulation accrue de l’IA ?
Cette initiative de YouTube s’inscrit dans un mouvement plus large de l’industrie technologique visant à développer des outils pour détecter et gérer le contenu généré par l’IA. Alors que l’IA continue de progresser, la question de la régulation de ces technologies et de la protection des droits des individus devient de plus en plus pressante. L’avenir de la création de contenu et de la confiance dans l’information en ligne dépendront en grande partie de la capacité des plateformes à lutter efficacement contre les abus potentiels de l’IA.
