La diffusion d’une vidéo sur la fusillade de Buffalo montre que les plateformes de médias sociaux ont encore du mal à supprimer les images violentes

Trois ans après la diffusion en direct en ligne d’une fusillade en Nouvelle-Zélande, la diffusion d’images prises par le tireur présumé à Buffalo, dans l’État de New York, montre à quel point les plateformes de médias sociaux ont encore du mal à empêcher que leurs plateformes ne soient utilisées pour diffuser des vidéos violentes et extrémistes. .

Twitch a supprimé le flux moins de deux minutes après que les coups de feu ont retenti, a-t-il déclaré, plus rapidement qu’il n’a fallu de plates-formes pour répondre aux incidents précédents. Mais des versions de la vidéo pouvaient encore être trouvées sur Facebook,

Facebook 1,12 %

Gazouillement TWTR -0,47%

et YouTube plus d’un jour plus tard. Tech Against Terrorism, un groupe soutenu par des entreprises et des gouvernements qui lutte contre les activités terroristes en ligne, a déclaré lundi avoir trouvé du contenu associé au tireur de Buffalo sur plus de 70 plateformes différentes.

Les représentants de Meta Platforms Inc., Twitter Inc. et YouTube ont déclaré qu’ils travaillaient pour supprimer tous les messages de la fusillade de Buffalo qui enfreignent leurs politiques le plus rapidement possible.

Le suspect de la fusillade de masse à Buffalo, NY, est vu samedi sur le parking du supermarché Tops sur une image fixe d’une vidéo en direct.


Photo:

MÉDIAS SOCIAUX/via REUTERS

Onze des 13 victimes étaient noires et les autorités enquêtent sur l’attaque comme un possible crime de haine. Avant la fusillade, le tireur présumé, Payton Gendron, 18 ans, a mis en ligne un document sur ses projets, affirmant qu’il avait choisi Twitch car la plateforme est libre d’accès.

Le tireur présumé, qui est blanc, avait initialement prévu de diffuser son attaque sur Facebook, mais en janvier, il a décidé de passer à Twitch pour son jeune public. “Je pense que la diffusion en direct de cette attaque me donne une certaine motivation dans la mesure où je sais que certaines personnes vont m’encourager”, a-t-il écrit.

De nombreuses grandes plateformes de médias sociaux permettent à quiconque de diffuser facilement des vidéos en direct à partir d’un smartphone ou d’un ordinateur avec peu ou pas de restrictions. Cela a permis aux actes de violence d’être diffusés en temps réel – et aux enregistrements des flux d’être rapidement publiés et republiés – même si cela viole les politiques des plateformes.

Les pièges de la technologie de diffusion en direct ont fait l’objet d’un examen particulier il y a trois ans, après qu’une fusillade de masse dans deux mosquées de Christchurch, en Nouvelle-Zélande, qui a tué 51 personnes, a été diffusée sur Facebook en 2019. Une attaque plus tard cette année-là près d’une synagogue qui a tué deux personnes à Halle, en Allemagne, a été diffusé sur Twitch.

Les membres de la famille de la victime de la fusillade de Buffalo, Ruth Whitfield, ont appelé lundi à des modifications des lois “qui permettent ce genre de haine”. Payton Gendron, l’homme blanc de 18 ans soupçonné d’avoir tué 10 personnes dans un crime de haine présumé dans un supermarché de Buffalo, NY, samedi, a été interpellé pour meurtre. Photo : Matt Rourke/Associated Press

Les opérateurs de plates-formes affirment avoir amélioré leurs temps de réponse aux violations des politiques en investissant dans la technologie de détection et en élargissant leurs équipes de modération de contenu.

Les experts de l’industrie ont déclaré que la vitesse à laquelle Twitch a mis fin à la diffusion du suspect de Buffalo était impressionnante. Mais, disent-ils, il est encore relativement facile pour quelqu’un de republier du contenu interdit en le modifiant de manière à éviter la détection.

“Il y a toujours plus de travail qui peut être fait”, a déclaré Micah Schaffer, consultant indépendant pour les entreprises de médias sociaux sur les questions de confiance et de sécurité des utilisateurs qui travaillait auparavant chez Alphabet. Inc.

YouTube et Snap Inc.

“Mais à mesure qu’une technologie mûrit, les grandes avancées sont plus difficiles à obtenir et les petites améliorations incrémentielles sont moins susceptibles d’être ressenties par les utilisateurs. Donc, en pratique, cela pourrait être à peu près aussi bon que possible.

Il a fallu environ une heure à Facebook pour supprimer l’émission de 17 minutes de Christchurch, qui, selon la société, désormais connue sous le nom de Meta Platforms, avait été visionnée 4 000 fois à l’époque. Un enregistrement des images a également été republié des millions de fois sur la plateforme et d’autres, a déclaré Facebook.

Après la fusillade de Halle, Twitch a déclaré que cinq personnes avaient regardé la diffusion en direct de 35 minutes de l’incident par le suspect, et qu’un enregistrement de celui-ci avait été visionné sur la plate-forme par environ 2 200 personnes en 30 minutes avant d’être signalé et supprimé.

Une porte-parole de Twitch a déclaré qu’au cours des deux dernières années, la société avait doublé la taille de son équipe chargée des opérations de sécurité et quadruplé le nombre de professionnels de la modération de contenu disponibles pour répondre aux signalements des utilisateurs, ce qui a entraîné une réduction de 96 % du temps médian nécessaire à la entreprise de répondre aux signalements.

Twitch utilise plusieurs mécanismes pour détecter et supprimer la violence sur sa plate-forme, notamment une technologie de détection et un système de signalement des utilisateurs, selon Angela Hession, responsable de la confiance et de la sécurité de l’entreprise.

Elle a déclaré que Twitch collaborait également avec les forces de l’ordre et le Forum Internet mondial de lutte contre le terrorisme, une coalition à but non lucratif d’entreprises de médias sociaux créée en réponse au massacre de Christchurch. La mission du groupe est d’empêcher les terroristes et les extrémistes violents d’exploiter les plateformes numériques.

“La violence, la haine et le terrorisme ne sont pas un problème qu’une plate-forme seule peut résoudre, c’est pourquoi nous collaborons dans l’ensemble de l’industrie pour partager des informations et des meilleures pratiques”, a déclaré Mme Hession.

Amazon a acheté Twitch en 2014 pour environ 970 millions de dollars en espèces. Il comportait initialement principalement des émissions de personnes jouant et parlant de jeux vidéo, mais il s’est depuis élargi pour inclure des personnes se livrant à diverses autres activités. Plus de 2,5 millions de personnes regardent du contenu Twitch à tout moment et plus de 8 millions de personnes y diffusent des vidéos chaque mois, selon la société.

Écrire à Sarah E. Needleman à [email protected]

Copyright ©2022 Dow Jones & Company, Inc. Tous droits réservés. 87990cbe856818d5eddac44c7b1cdeb8

Facebook
Twitter
LinkedIn
Pinterest

Leave a Reply

Your email address will not be published.

This site uses Akismet to reduce spam. Learn how your comment data is processed.

ADVERTISEMENT