Meta a introduit un nouvel outil pour les adolescents qui leur permettra de supprimer les images « nues », « partiellement nues » ou « sexuellement explicites » d’Instagram et de Facebook qui ont été téléchargées dans le passé.
Le nouvel outil de Meta s’appelle “Take It Down” et est géré par le National Center for Missing and Exploited Children.
Take It Down est un service gratuit qui permet aux adolescents ou à leurs parents de soumettre de manière anonyme des photos ou des vidéos qu’ils craignent d’être téléchargées sur Internet ou qui ont déjà été distribuées en ligne.
Ces photos peuvent être soumises à un outil Web qui convertira les images en empreintes numériques appelées hachages, qui seront envoyées au NCMEC et partagées avec les plateformes. Les sites de médias sociaux utiliseront la technologie de correspondance de hachage pour trouver et bloquer toute tentative de téléchargement des images originales.
Outre Facebook et Instagram, les autres plateformes participantes sont Yubo, OnlyFans et Pornhub, propriété de Mindgeek.
Le nouvel outil de Meta a été conçu pour lutter contre le problème croissant de la « sextorsion », où les enfants sont contraints ou trompés à partager des images intimes avec une autre personne en ligne, puis menacés ou soumis à un chantage avec la perspective de voir ces images publiées sur Internet.
Certains délinquants sont motivés pour extraire des images encore plus explicites de l’enfant tandis que d’autres cherchent de l’argent.
Take It Down hache les images dans le navigateur, afin qu’elles ne quittent pas l’appareil de l’enfant ou du parent. Si l’extorqueur essaie de télécharger les images originales, la technologie de correspondance de hachage de la plate-forme détectera une correspondance et enverra l’image nouvellement téléchargée à un modérateur de contenu pour examen.
Meta a déclaré qu’il ingérerait de nouveaux hachages plusieurs fois par jour, de sorte qu’il peut être prêt à bloquer les images très rapidement.
Maintenant, les mises en garde. Si l’image se trouve sur un autre site ou si elle est envoyée sur une plateforme cryptée telle que WhatsApp, elle ne sera pas supprimée.
De plus, si quelqu’un modifie l’image d’origine, par exemple en la recadrant, en ajoutant un emoji ou en la transformant en mème, elle devient une nouvelle image et nécessite donc un nouveau hachage. Les images visuellement similaires, telles que la même photo avec et sans filtre Instagram, auront des hachages similaires, différant par un seul caractère.
Meta, à l’époque où c’était encore Facebook, a tenté de créer un outil similaire, bien que pour les adultes, en 2017. Cela ne s’est pas bien passé car le site a demandé aux gens d’envoyer leurs nus (cryptés) à Facebook – pas le plus fiable entreprise même en 2017. L’entreprise a testé le service en Australie pendant une brève période, mais ne l’a pas étendu à d’autres pays.
En 2021, il a aidé à lancer un outil pour adultes appelé StopNCII – ou des images intimes non consensuelles, alias “revenge porn”. Ce site est géré par une organisation à but non lucratif britannique, la UK Revenge Porn Helpline, mais n’importe qui dans le monde peut l’utiliser.
Attrapez toutes les nouvelles et mises à jour technologiques sur Live Mint. Téléchargez l’application Mint News pour obtenir des mises à jour quotidiennes du marché et des nouvelles commerciales en direct.
Plus Moins
