X.com cède à la pression et limite la génération d’images explicites de personnes réelles
San Francisco, Californie – X, anciennement Twitter, a annoncé qu’il restreindrait la capacité de ses utilisateurs à créer des images explicites de personnes réelles dans les juridictions où une telle pratique est illégale. La décision intervient après des semaines de pressions croissantes de la part de législateurs, de groupes de défense des droits et d’utilisateurs inquiets face à la prolifération de fausses images à caractère sexuel générées par intelligence artificielle.
L’entreprise, dirigée par Elon Musk, n’a pas précisé les juridictions concernées par ces restrictions, mais a indiqué qu’elle travaillait à l’amélioration de ses systèmes de modération pour détecter et supprimer le contenu problématique. Cette annonce marque un revirement notable pour X, qui avait initialement adopté une approche plus permissive envers la création de contenu généré par l’IA, arguant d’une défense de la liberté d’expression.
La question des “deepfakes” et des images générées par IA a pris une ampleur considérable ces derniers mois, alimentée par la facilité d’accès à des outils de création de plus en plus sophistiqués. Selon un rapport récent de la plateforme de cybersécurité Home Security Heroes, le nombre de deepfakes à caractère sexuel a augmenté de 550% en 2023, avec plus de 96% de ces images ciblant des femmes. https://homesecurityheroes.com/deepfake-statistics/
Cette explosion a suscité des inquiétudes majeures quant à la protection de la vie privée, au harcèlement en ligne et à la désinformation. Plusieurs États américains, dont la Californie et le Texas, ont déjà adopté des lois visant à criminaliser la création et la diffusion de deepfakes à des fins malveillantes. Au niveau fédéral, des propositions de loi similaires sont en cours d’examen au Congrès.
“Nous sommes conscients des préoccupations légitimes concernant l’utilisation abusive de l’IA pour créer des images non consensuelles et préjudiciables”, a déclaré un porte-parole de X dans un communiqué. “Nous nous engageons à protéger nos utilisateurs et à respecter les lois applicables.”
L’annonce de X intervient également dans un contexte de pression accrue sur les plateformes de médias sociaux pour qu’elles assument davantage de responsabilités dans la modération du contenu généré par l’IA. Des organisations comme l’Electronic Frontier Foundation (EFF) appellent à une réglementation claire et transparente, tout en soulignant l’importance de préserver la liberté d’expression.
Sur X, le hashtag #DeepfakeSafety a vu une augmentation significative de son utilisation ces dernières semaines, témoignant de l’inquiétude croissante des utilisateurs.
https://twitter.com/hashtag/DeepfakeSafety
L’impact économique de cette affaire pourrait être significatif. La confiance des utilisateurs dans les plateformes en ligne est essentielle pour leur succès commercial. Une perte de confiance due à la prolifération de deepfakes pourrait entraîner une diminution de l’engagement des utilisateurs et une baisse des revenus publicitaires. De plus, les entreprises pourraient être confrontées à des poursuites judiciaires coûteuses si elles ne parviennent pas à protéger leurs utilisateurs contre les abus liés à l’IA.
Il reste à voir comment X mettra en œuvre ces nouvelles restrictions et si elles seront efficaces pour lutter contre la création et la diffusion de deepfakes. L’entreprise devra trouver un équilibre délicat entre la protection de la vie privée, la liberté d’expression et la nécessité de maintenir une plateforme attrayante pour ses utilisateurs.
