Sora : La faille des deepfakes de célébrités décédées inquiète, OpenAI réagit
San Francisco, Californie – Le nouveau modèle d’intelligence artificielle générative de vidéos, Sora, développé par OpenAI, est au cœur d’une controverse grandissante. Malgré les efforts de l’entreprise pour limiter la création de deepfakes, une “faille des célébrités décédées” permet aux utilisateurs de générer des vidéos hyperréalistes de personnalités publiques disparues, suscitant des inquiétudes quant au contrôle de l’image posthume et à l’utilisation potentiellement abusive de l’IA.
Des exemples troublants ont émergé,montrant des images de Tupac Shakur aux côtés de Marilyn Monroe,ou encore de la reine Elizabeth II effectuant des actions improbables dans un supermarché. Ces créations, bien que souvent réalisées à des fins humoristiques, soulèvent des questions éthiques et juridiques fondamentales.
La principale préoccupation réside dans le manque de protection légale pour l’image des défunts.Les droits à l’image posthume varient considérablement d’un pays à l’autre, laissant de nombreuses familles sans recours face à des utilisations non autorisées de l’image de leurs proches.
OpenAI a réagi en annonçant qu’elle permettrait aux ayants droit, ou aux représentants légaux, de demander le retrait de l’image de personnalités publiques de ses créations Sora. Cependant, cette mesure est jugée insuffisante par certains experts, notamment par l’activiste et commentateur technologique Dhruv Dhar.Il souligne que cette option ne profite qu’à ceux qui disposent d’une succession et des moyens financiers de se défendre, laissant vulnérables les personnes sans héritage ou sans capacité juridique de faire valoir leurs droits.
“Il est inacceptable que l’IA puisse transformer une figure historique respectée en une caricature ou même en une personne détestable, sans que les familles ou les héritages ne puissent s’opposer à cela,” a déclaré Dhar. “C’est une pente glissante qui pourrait avoir des conséquences désastreuses.”
le dilemme éthique et juridique des deepfakes : un aperçu plus large
Cette situation met en lumière un défi plus vaste posé par l’essor des deepfakes et de l’IA générative. Au-delà des célébrités, la possibilité de créer des vidéos réalistes mais fausses soulève des inquiétudes quant à la désinformation, la manipulation politique et l’atteinte à la réputation.
Les lois sur la diffamation et le droit à l’image, conçues pour un monde analogique, peinent à s’adapter à la rapidité et à la complexité de la technologie numérique. La question de la responsabilité des plateformes d’IA et des utilisateurs qui créent et diffusent des deepfakes reste ouverte.
Plusieurs pistes sont explorées pour encadrer cette technologie :
* Législation spécifique : Certains pays envisagent d’adopter des lois spécifiques pour réglementer les deepfakes, en imposant des obligations de transparence et de consentement.
* Développement de technologies de détection : Des chercheurs travaillent sur des outils capables de détecter les deepfakes avec une grande précision.
* Éducation et sensibilisation : Il est crucial d’éduquer le public sur les risques liés aux deepfakes et de promouvoir l’esprit critique.
L’affaire Sora et la “faille des célébrités décédées” rappellent que l’innovation technologique doit s’accompagner d’une réflexion éthique et d’un cadre juridique adapté pour protéger les droits et les libertés de chacun. Le débat est loin d’être clos et l’avenir de l’image numérique est en jeu.