Exclusive-Brands fait exploser Twitter pour des publicités à côté de comptes de pédopornographie

Par Sheila Dang et Katie Paul

(Reuters) – Certains grands annonceurs, dont Dyson, Mazda et la société de produits chimiques Ecolab, ont suspendu leurs campagnes de marketing ou supprimé leurs publicités de certaines parties de Twitter parce que leurs promotions apparaissent à côté de tweets sollicitant de la pornographie enfantine, ont déclaré les sociétés à Reuters.

Des publicités pour au moins 30 marques, allant de Walt Disney Co, NBCUniversal de Comcast Corp et Coca-Cola Co. à un hôpital pour enfants, sont apparues sur les pages de profil des comptes Twitter qui colportent des liens vers le matériel d’exploitation, selon une revue Reuters de comptes identifiés dans une nouvelle recherche sur l’abus sexuel d’enfants en ligne par le groupe de cybersécurité Ghost Data.

Certains des tweets incluent des mots clés liés au “viol” et aux “adolescents” et sont apparus aux côtés de tweets promus d’annonceurs d’entreprise, selon l’étude de Reuters. Dans un exemple, un tweet promu pour la marque de chaussures et d’accessoires Cole Haan est apparu à côté d’un tweet dans lequel un utilisateur a déclaré qu’il “échangeait du contenu pour adolescents/enfants”.

“Nous sommes horrifiés”, a déclaré à Reuters David Maddocks, président de la marque chez Cole Haan, après avoir été informé que les publicités de la société apparaissaient à côté de ces tweets. “Soit Twitter va résoudre ce problème, soit nous le ferons par tous les moyens possibles, y compris en n’achetant pas de publicités Twitter.”

Dans un autre exemple, un utilisateur a tweeté à la recherche du contenu “Yung girls ONLY, NO Boys”, qui a été immédiatement suivi d’un tweet promu pour le Scottish Rite Children’s Hospital basé au Texas. Scottish Rite n’a pas renvoyé plusieurs demandes de commentaires.

Dans un communiqué, la porte-parole de Twitter, Celeste Carswell, a déclaré que l’entreprise “a une tolérance zéro pour l’exploitation sexuelle des enfants” et investit davantage de ressources dédiées à la sécurité des enfants, notamment en embauchant de nouveaux postes pour rédiger des politiques et mettre en œuvre des solutions.

Elle a ajouté que Twitter travaillait en étroite collaboration avec ses clients et partenaires publicitaires pour enquêter et prendre des mesures pour empêcher que la situation ne se reproduise.

L’histoire continue

Les difficultés rencontrées par Twitter pour identifier les contenus pédopornographiques ont été signalées pour la première fois dans une enquête menée par le site d’information technologique The Verge fin août. Le refus émergent des annonceurs qui sont essentiels au flux de revenus de Twitter est signalé ici par Reuters pour la première fois.

Comme toutes les plateformes de médias sociaux, Twitter interdit les représentations d’exploitation sexuelle d’enfants, qui sont illégales dans la plupart des pays. Mais il autorise le contenu pour adultes en général et abrite un échange florissant d’images pornographiques, qui représente environ 13% de tout le contenu sur Twitter, selon un document interne de l’entreprise consulté par Reuters.

Twitter a refusé de commenter le volume de contenu pour adultes sur la plateforme.

Ghost Data a identifié plus de 500 comptes qui ont ouvertement partagé ou demandé du matériel pédopornographique sur une période de 20 jours ce mois-ci. Twitter n’a pas réussi à supprimer plus de 70% des comptes au cours de la période d’étude, selon le groupe, qui a partagé les résultats exclusivement avec Reuters. Reuters n’a pas pu confirmer de manière indépendante l’exactitude des conclusions de Ghost Data.

Après que Reuters a partagé un échantillon de 20 comptes avec Twitter, la société a supprimé environ 300 comptes supplémentaires du réseau, mais plus de 100 autres sont toujours restés sur le site le lendemain, selon Ghost Data et une revue de Reuters.

Reuters a ensuite partagé la liste complète de plus de 500 comptes après avoir été fournie par Ghost Data, que Twitter a examinée et définitivement suspendue pour avoir enfreint ses règles, a déclaré Carswell de Twitter.

Andrea Stroppa, le fondateur de Ghost Data, a déclaré que l’étude était une tentative d’évaluer la capacité de Twitter à supprimer le matériel. Il a dit qu’il avait personnellement financé la recherche après avoir reçu un conseil sur le sujet.

Twitter a suspendu plus d’un million de comptes l’année dernière pour du matériel d’exploitation d’enfants, selon les rapports de transparence de l’entreprise.

“Il n’y a pas de place pour ce type de contenu en ligne”, a déclaré un porte-parole du constructeur automobile Mazda USA dans un communiqué à Reuters, ajoutant qu’en réponse, la société interdisait désormais à ses publicités d’apparaître sur les pages de profil Twitter.

Un porte-parole de Disney a qualifié le contenu de “répréhensible” et a déclaré qu’ils “redoublent d’efforts pour garantir que les plateformes numériques sur lesquelles nous faisons de la publicité et les acheteurs de médias que nous utilisons renforcent leurs efforts pour empêcher que de telles erreurs ne se reproduisent”.

Un porte-parole de Coca-Cola, qui a fait apparaître un tweet promu sur un compte suivi par les chercheurs, a déclaré qu’il ne tolérait pas le matériel associé à sa marque et a déclaré que “toute violation de ces normes est inacceptable et prise très au sérieux”.

NBCUniversal a déclaré avoir demandé à Twitter de supprimer les publicités associées au contenu inapproprié.

MOTS DE CODE

Twitter n’est pas le seul à être aux prises avec des échecs de modération liés à la sécurité des enfants en ligne. Les défenseurs de la protection de l’enfance affirment que le nombre d’images connues d’abus sexuels sur des enfants est passé de milliers à des dizaines de millions ces dernières années, car les prédateurs ont utilisé les réseaux sociaux, notamment Facebook et Instagram de Meta, pour préparer les victimes et échanger des images explicites.

Pour les comptes identifiés par Ghost Data, presque tous les commerçants de matériel d’exploitation sexuelle d’enfants ont commercialisé le matériel sur Twitter, puis ont demandé aux acheteurs de les contacter sur des services de messagerie tels que Discord et Telegram afin d’effectuer le paiement et de recevoir les fichiers, qui ont été stockés. sur des plates-formes d’hébergement telles que Mega, basée en Nouvelle-Zélande, et Dropbox, basée aux États-Unis, selon le rapport du groupe.

Un porte-parole de Discord a déclaré que la société avait interdit un serveur et un utilisateur pour avoir enfreint ses règles contre le partage de liens ou de contenu qui sexualisent les enfants.

Mega a déclaré qu’un lien référencé dans le rapport Ghost Data avait été créé début août et peu après supprimé par l’utilisateur, qu’il a refusé d’identifier. Mega a déclaré avoir définitivement fermé le compte de l’utilisateur deux jours plus tard.

Dropbox et Telegram ont déclaré utiliser divers outils pour modérer le contenu, mais n’ont pas fourni de détails supplémentaires sur la manière dont ils répondraient au rapport.

Néanmoins, la réaction des annonceurs présente un risque pour l’activité de Twitter, qui tire plus de 90 % de ses revenus de la vente de placements publicitaires numériques à des marques cherchant à commercialiser des produits auprès des 237 millions d’utilisateurs actifs quotidiens du service.

Twitter se bat également devant les tribunaux, le PDG et milliardaire de Tesla, Elon Musk, qui tente de se retirer d’un accord de 44 milliards de dollars pour acheter la société de médias sociaux suite à des plaintes concernant la prévalence des comptes de spam et son impact sur l’entreprise.

Une équipe d’employés de Twitter a conclu dans un rapport daté de février 2021 que l’entreprise avait besoin de plus d’investissements pour identifier et supprimer le matériel d’exploitation d’enfants à grande échelle, notant que l’entreprise avait un arriéré de cas à examiner pour un éventuel signalement aux forces de l’ordre.

“Alors que la quantité de (contenus d’exploitation sexuelle d’enfants) a augmenté de façon exponentielle, l’investissement de Twitter dans les technologies pour détecter et gérer la croissance n’a pas augmenté”, selon le rapport, qui a été préparé par une équipe interne pour donner un aperçu de l’état de l’enfant matériel d’exploitation sur Twitter et recevoir des conseils juridiques sur les stratégies proposées.

“Des rapports récents sur Twitter fournissent un aperçu obsolète et instantané d’un seul aspect de notre travail dans cet espace, et ne reflètent pas exactement où nous en sommes aujourd’hui”, a déclaré Carswell.

Les trafiquants utilisent souvent des mots de code tels que “cp” pour la pédopornographie et sont “intentionnellement aussi vagues que possible”, pour éviter d’être détectés, selon les documents internes. Plus Twitter réprime certains mots-clés, plus les utilisateurs sont poussés à utiliser du texte obscurci, qui “a tendance à être plus difficile à automatiser pour (Twitter)”, selon les documents.

Stroppa de Ghost Data a déclaré que de telles astuces compliqueraient les efforts pour traquer les matériaux, mais a noté que sa petite équipe de cinq chercheurs et aucun accès aux ressources internes de Twitter ont pu trouver des centaines de comptes en 20 jours.

Twitter n’a pas répondu à une demande de commentaires supplémentaires.

(Édité par Edward Tobin)