Les groupes ultra-droits extrémistes utilisent des plates-formes de jeux vidéo pour capturer les jeunes et les radicaliser | Technologie

Au début de 2021, Payton Gendron avait 18 ans, il s’est posé une question et l’a laissé par écrit dans un réseau de jeux vidéo social: “Ne devraient-ils pas faire grand-chose pour me tirer si je porte un gilet pare-balles, non?” Des milliers de messages plus tard, ont exprimé leurs intentions sans rodéos: “Il est temps d’arrêter de publier de la merde et de faire un réel effort. Je vais faire une attaque.” Quelques heures après, Gendron a pris le fusil semi-automatique qu’il avait légalement acheté pour 960 $ dans un magasin à quelques kilomètres de sa maison, s’est approché d’un supermarché et a ouvert le feu. Il a tué dix personnes. Et diffuser le massacre en direct sur son compte Twitch.

Le cas de Gendron, qui avait un écho mondial en mai 2022, n’est que la pointe de l’iceberg d’un phénomène de plus en plus courant sur Internet. Les plateformes associées au monde des jeux vidéo – comme Discord, Twitch et Steam – sont devenus des espaces où les groupes extrémistes diffusent librement leurs idéologies, recrutent et radicalisent les jeunes joueurs. Dans les cas les plus dramatiques, ce réseau de collecte peut se terminer par des actes violents dans le monde réel, comme l’attaque terroriste de Gendron en 2022; soit L’attaque contre une synagogue en Allemagne en 2012, qui a également été diffusé en direct; ou l’assaut sur le Capitole en 2021 Il a été diffusé Pour la plate-forme DLive. Une étude aux États-Unis a révélé qu’entre 2010 et 2020, l’utilisation d’Internet comme principal canal de radicalisation chez les jeunes de moins de 30 ans augmenté 413%.

Les jeux vidéo ne sont plus seulement des divertissements. Avec 3 320 millions de joueurs dans le monde, les espaces numériques liés à l’univers joueur Ce sont aujourd’hui des communautés mondiales. Mais leur énorme popularité en a également fait un terrain fertile pour la diffusion d’idéologies extrêmes droites, telles que la suprématie blanche, le néo-nazisme et l’anti-sémitisme, ainsi que des théories du complot telles que Qanon ou «grand remplacement». Cela a été trouvé par une étude récente, Publié dans le magazine Frontières en psychologie.

Le chercheur William Allchornde l’Université Anglia Ruskin (Cambridge, le Royaume-Uni), est l’un des auteurs de la nouvelle publication et explique que ce qui l’a le plus surpris parmi ses conclusions était «le grand nombre d’idéologies extrémistes établies» sur ces plateformes. Le contenu islamiste et extrême droit a été identifié, mais également “adjacent” contenu à l’extrémisme, comme la glorification des tirs scolaires, le contenu sexuel et la violence explicite.

UN Enquête publiée en 2024 Il a montré qu’un tiers des joueurs trouvaient des images, des vidéos ou des symboles qui favorisaient l’extrémisme. De plus, 25% des répondants ont déclaré avoir rencontré du contenu qui suggérait de rejoindre des groupes extrémistes pendant le jeu.

Las rechercheque ces dernières années Ils se sont accumulésils affirment que la toxicité et Les comportements de haine se sont normalisés dans la culture joueur. Garrison Wells, chercheur à l’Université de Californie à Irvine (États-Unis), propose que les groupes extrémistes soient devenus des experts en maquillage leurs messages sous forme de mèmes et de messages cryptés que seul un public spécifique inclut et derrière lequel les attaques et les discours de haine sont cachés contre les migrants, les homosexuels ou les femmes. “Ces facteurs ont contribué à créer un environnement plutôt confortable afin que les extrémistes répandent leurs idéologies sans trop de crainte des représailles”, explique Wells.

Collection et radicalisation

Le processus de capture et de radicalisation des joueurs suit généralement les mêmes schémas. Erin Saltman, membre de Forum mondial sur Internet contre le terrorisme (Gifct, pour son acronyme en anglais), explique que “les extrémistes sont opportunistes et adaptables”. Compte tenu des contrôles les plus exigeants des réseaux sociaux conventionnels, les violents migrent vers des plateformes moins réglementées, ainsi que d’autres espaces avec un public jeune et vulnérable, tels que les jeux vidéo. “Là, ils peuvent utiliser un langage codé pour trouver des personnes ayant une affinité idéologique”, explique l’expert. Ensuite, il ajoute: “Il est rare que quelqu’un entre dans un jeu et devienne néo -nazi par accident; ils sont généralement déjà connectés à des réseaux connexes, qui est emmené dans ces espaces pour approfondir leur radicalisation.”

Les tentacules de l’extrémisme se déplacent à trois niveaux, comme ils l’ont détecté dans le GIFCT. Le premier est la création ou la modification des jeux qui existent déjà et qui permettent aux extrémistes de développer des versions personnalisées. Certains d’entre eux ont même pratiquement recréé les champs d’extermination d’Auschwitz pour prendre un jeu.

La seconde est l’utilisation de références de jeux vidéo esthétiques pour diffuser des idéologies basées sur les discours de haine. Les groupes terroristes djihadistes sont connus pour modifier les images des jeux vidéo populaires Grand Theft Auto o Appel du devoir et insérer là, camouflé, ses propositions extrémistes.

Le troisième niveau, et celui qui obtient de meilleurs résultats, est la génération de groupes virtuels ou de communautés sur des plates-formes associées aux jeux, tels que des chats en ligne, pour les utiliser comme réseaux pour créer une communauté, l’appartenance et la sous-culture, et pétrir les adhérents distribués dans toute la planète.

En général, dit Wells, on pense que le processus de radicalisation commence avec le joueur et son recruteur interagissant tout en jouant ensemble en ligne. «Après avoir renforcé la relation, le recruteur invite le joueur à rejoindre sa communauté en dehors du jeu, souvent sur une plate-forme liée au monde joueur», Dit le chercheur. Cette communauté sera responsable de l’endoctriner le jeune homme dans ses croyances et, à son tour, il pourrait chercher à gagner un statut au sein du groupe et à radicaliser encore plus loin.

Malgré cela, Saltman apporte une nuance: “Être un joueur ne vous rend pas statistiquement plus sujet à la radicalisation.” Bien qu’il ne soit pas tout à fait clair comment les individus qui essaient alors de radicaliser sont sélectionnés, on pense que les recruteurs vont derrière des profils spécifiques: les utilisateurs qui présentent des attitudes haineux tout en jouant ou qui utilisent déjà des symboles extrémistes dans leurs profils. “Souvent, les jeunes ne se terminent pas dans ces réseaux de collecte en raison de facteurs de vulnérabilité, tels que la dépression ou la pauvreté, mais pour la recherche d’amitiés, d’objectifs ou de sens de l’appartenance.

Bien que le stéréotype soit celui du jeune blanc, Allchorn avertit qu’il y a aussi des adultes de plus de 30 ans parmi les victimes et qu’ils “ont même un risque plus élevé parce qu’ils sont plus déterminés à la violence”. Avec les jeunes, il y a encore de la place pour intervenir dans le temps.

Modération, modérée

En arrivant ce point, il vaut la peine de demander ce que les sociétés technologiques font avec tout cela, quelle est exactement leur intervention. La réponse est vitreuse. “Détecter ces contenus Proactivement, il est difficile dans les environnements 3D. Dans les réseaux sociaux, il est plus facile d’utiliser des algorithmes de reconnaissance de logos ou de mots, mais, dans les jeux, les symboles déformés ou le langage codé compliquent le processus », explique Saltman. Et il ajoute:« Il n’y a pas de solution définitive, mais il existe des moyens d’empêcher ces groupes de se propager librement de leurs idéologies, en particulier lorsqu’il existe des jeunes vulnérables. “L’expert garantit qu’il y a des leçons tirées d’expériences géantes telles que Google ou Google qui pourraient être appliquées à jeu. “Le fait que les extrémistes migrent vers de petites plates-formes indiquent déjà que quelque chose fonctionne bien”, ”

Pour Wells, il est “difficile d’imaginer” qu’il existe un jour une forme parfaite de modération de contenu que toutes les plateformes acceptent d’implémenter. D’autant plus que la langue et les codes gérés dans les jeux vidéo sont difficiles à interpréter par l’intelligence artificielle. Un message qui provoque des “tuer tous” dans un chat d’un jeu vidéo de combat peut avoir un sens dans le récit du jeu. Et, pour l’instant, il n’y a pas d’algorithme capable d’interpréter s’il s’agit d’une incitation à la violence explicite ou à un commentaire stratégique sur la fiction du jeu.

Les groupes extrémistes semblent toujours être à l’avant-garde technologique et migrer vers de nouvelles plateformes lorsqu’ils les bloquent dans les anciens, mais les experts conviennent que cela vaut la peine d’y aller. Ce n’est qu’alors que existe, au moins, une occasion de se battre dans les cercles les plus toxiques de l’enfer qui peuvent devenir Internet.