Hong Kong s’alarme face à la prolifération d’images intimes générées par IA
Hong Kong – L’Office du Commissaire à la protection de la vie privée de Hong Kong (PCPD) s’est joint à une coalition de plus de 60 autorités internationales pour mettre en garde contre l’utilisation abusive de l’intelligence artificielle (IA) dans la création d’images intimes non consensuelles, ciblant notamment les enfants et les personnes vulnérables. L’alerte intervient alors que les outils de génération d’images et de vidéos par IA, de plus en plus accessibles sur les réseaux sociaux, facilitent la production de contenus préjudiciables.
Dans une déclaration commune publiée lundi, les autorités soulignent le potentiel bénéfique de l’IA, mais expriment une vive inquiétude face à la multiplication des images intimes créées sans consentement, des représentations diffamatoires et d’autres contenus nuisibles.
"Nous sommes particulièrement préoccupés par les dommages potentiels causés aux enfants et aux autres groupes vulnérables, tels que le cyberharcèlement et/ou l’exploitation", indique le communiqué.
Les signataires de la déclaration, issus de pays tels que le Canada, l’Union européenne, la France, l’Allemagne, l’Italie, la Corée du Sud, la Nouvelle-Zélande, les Philippines, Singapour et le Royaume-Uni, appellent les organisations développant ou utilisant des systèmes d’IA à mettre en place des mesures de sécurité robustes. Ces mesures visent à prévenir l’utilisation abusive des informations personnelles et la génération d’images intimes non consensuelles, en particulier celles impliquant des mineurs.
La déclaration insiste également sur la nécessité de fournir des mécanismes "efficaces et accessibles" permettant aux individus de demander le retrait d’images intimes ou nuisibles générées par IA.
Cette prise de position intervient après que le PCPD a contacté xAI, la société d’Elon Musk, le mois dernier, suite à des signalements d’utilisation de son chatbot Grok pour créer du contenu indécent à partir de photos ou de vidéos de personnes réelles, y compris des enfants.
Le gouvernement de Hong Kong envisage également de renforcer sa législation pour lutter contre la pornographie "deepfake" générée par IA. Le ministre de la Sécurité, Chris Tang, a annoncé en septembre que des modifications pourraient être apportées aux lois sur les délits sexuels pour inclure ces nouvelles formes d’abus. Cette réflexion fait suite à l’affaire d’un étudiant de l’Université de Hong Kong accusé d’avoir utilisé des outils d’IA gratuits pour créer des images indécentes de femmes, dont des camarades de classe et des enseignantes, sans leur consentement.
La prolifération de ces contenus soulève des questions cruciales sur la protection de la vie privée, le consentement et la sécurité en ligne, et souligne la nécessité d’une réglementation adaptée pour encadrer l’utilisation de l’IA et prévenir ses dérives.