YouTube, X et Telegram reçoivent des notifications concernant du matériel pédopornographique

YouTube utilise un outil automatique appelé Child Sexual Abuse Imagery (CSAI) Match pour éliminer de manière proactive les CSAM. | Crédit photo : AP

YouTube, Telegram et X (anciennement Twitter) ont été invités à filtrer de manière proactive les contenus pédopornographiques (CSAM) « sur l’Internet indien », a déclaré vendredi le ministère de l’Électronique et des Technologies de l’information. Les avis adressés aux plateformes, a déclaré le gouvernement, menaçaient les entreprises de perdre leur protection contre la responsabilité des intermédiaires si elles n’agissaient pas, ce qui signifie que les entreprises seraient elles-mêmes exposées à des poursuites judiciaires aux côtés des utilisateurs qui ont publié du CSAM.

Un rédacteur en chef d’un quotidien financier a déclaré que les avis avaient été envoyés un jour après que le journal ait contacté le gouvernement au sujet de tels contenus disponibles sur ces plateformes.

Dans un communiqué, un porte-parole de YouTube a déclaré : « Nous appliquons une politique de tolérance zéro à l’égard des contenus pédopornographiques. Aucune forme de contenu mettant en danger les mineurs n’est acceptable pour nous. Nous avons massivement investi dans la technologie et les équipes pour lutter contre les abus et l’exploitation sexuels des enfants en ligne et prendre des mesures rapides pour les supprimer le plus rapidement possible. Au deuxième trimestre 2023, nous avons supprimé plus de 94 000 chaînes et plus de 2,5 millions de vidéos pour violation de nos politiques en matière de sécurité des enfants. Nous continuerons à travailler avec des experts à l’intérieur et à l’extérieur de YouTube pour offrir aux mineurs et aux familles la meilleure protection possible.

Les deux autres sociétés n’avaient pas dans l’immédiat de commentaire à faire sur l’avis.

YouTube utilise un outil automatique appelé Child Sexual Abuse Imagery (CSAI) Match pour éliminer de manière proactive les CSAM, et la société indique sur une page de son site Web qu’elle accorde gratuitement cette technologie à d’autres entreprises.

X ne semble faire aucune déclaration sur les outils qu’il utilise pour supprimer de manière proactive CSAM. L’Observatoire Internet de Stanford a déclaré dans un rapport publié en juin qu’il avait utilisé PhotoDNA, un outil développé par Microsoft similaire à CSAI Match, pour analyser le contenu public sur X, et trouvé des dizaines d’images CSAM « contournant les garanties qui auraient dû être en place pour empêcher le propagation de [CSAM].»

Quant à Telegram, l’application de messagerie est cryptée de bout en bout pour le chat personnel, mais pas pour les « chaînes », qui permettent à un utilisateur de diffuser des documents, des images et des vidéos à un large public. La société qui gère l’application s’est déjà conformée aux demandes de suppression de la Haute Cour de Delhi dans le passé. On ne sait pas si Telegram utilise des technologies de détection proactives de CSAM.

‘Sphère de sécurité’

Les règles relatives aux technologies de l’information (lignes directrices sur la responsabilité des intermédiaires et code d’éthique des médias numériques), 2021, contiennent les motifs pour lesquels les plateformes de médias sociaux peuvent perdre la « sphère de sécurité » dont elles bénéficient pour le contenu publié par les utilisateurs. Le gouvernement a déclaré que la règle 3(1)(b) et la règle 4(4) de ce règlement constituent de tels motifs.

Le premier affirme que les plateformes doivent « faire des efforts raisonnables » pour empêcher les utilisateurs de publier des contenus « pédophiles » ou « préjudiciables aux enfants ». Cette dernière exige que les grandes plateformes de médias sociaux « s’efforcent de déployer des mesures basées sur la technologie, y compris des outils automatisés… pour identifier de manière proactive les informations qui décrivent… des abus sexuels sur des enfants ».

« Articles 66E, 67, 67A et 67B du [Information Technology Act, 2000] imposer des sanctions et des amendes strictes pour la transmission en ligne de contenus obscènes ou pornographiques », a ajouté le gouvernement.