Si Amit Malviya du BJP signale votre message, Instagram le retirera – sans poser de questions

New Delhi: Lorsqu’Instagram a récemment retiré une vidéo de Prabhakar Maurya, un résident de l’Uttar Pradesh, adorant une statue du ministre en chef de l’État, Yogi Adityanath, publiée par le compte anonyme satirique “Superhumans of Cringetopia”, il a déclaré que la publication violait les directives de la plate-forme sur la nudité et le contenu sexuel. C’était étrange – l’homme et l’idole dans la vidéo étaient entièrement vêtus et il n’y avait aucune connotation sexuelle visible.

À l’époque, les administrateurs de la poignée @cringearchivist – qui se désignent comme un groupe d’universitaires et de journalistes – ont supposé qu’il y avait une erreur dans le mécanisme de surveillance géré par l’IA de la plate-forme, qui avait signalé à tort que le message représentait la nudité.

Courriel de @cringearchivist : Postez une satire du temple de Yogi Adityanath avec une réponse que nous avons enregistrée dans le formulaire d’adhésion qui était critique de la religion. Supprimé pour “activité sexuelle/nudité”. Il est intéressant de noter que toutes ces suppressions ont été immédiates (<~2 minutes après la publication).

Quelques jours après avoir rendu compte de ce démantèlement déroutant, Le fil a appris d’une source bien placée chez Meta que ce n’était pas, en fait, dû à un bug algorithmique. Le message a été supprimé – et cela aussi quelques minutes après sa publication – uniquement parce qu’il a été signalé par l’utilisateur Instagram @amitmalviya. C’est le pseudonyme d’Amit Malviya, président de la tristement célèbre cellule informatique du Bharatiya Janata Party.

Le rapport interne d’Instagram, qui Le fil a accédé, indique clairement que le message signalé a été supprimé immédiatement sans qu’aucun des modérateurs de l’entreprise ne le regarde, en se basant simplement sur l’identité du journaliste (Malviya). En fait, tout message signalé par Malviya est traité de la même manière – un retrait immédiat de la plate-forme, sans poser de questions. Juste au mois de septembre, la source Meta a déclaré Le filMalviya a signalé 705 messages sur Instagram – qui ont tous été supprimés.

Comme Le fil a rapporté, @cringearchivist a vu sept de ses messages supprimés par Instagram au cours des derniers mois. Cela, ont déclaré les administrateurs du compte satirique, les a forcés à devenir “privés” (seuls les abonnés peuvent voir leurs messages), limitant ainsi leur croissance et leur portée. Désormais, les nouveaux abonnés doivent remplir un formulaire avant d’être autorisés à voir le contenu publié sur la page.

Autres messages supprimés de la page @cringearchivist, Le fil a maintenant appris, ont également été signalés par nul autre que Malviya. Alors que deux ont été signalés pour contenu sexuel – le message sur le temple d’Adityanath et un autre qui amplifiait la voix d’une influenceuse qui publiait des messages sur les DM effrayants qu’elle a reçus – les autres ont été retirés en invoquant la «violence graphique extrême», malgré les vidéos ne montrant pas la violence. Le rythme et la rapidité des retraits d’Instagram avaient inquiété les administrateurs de la poignée, qui pensaient que leur page dans son intégralité pourrait être supprimée si cela continuait.

Meta est la société mère d’Instagram, qui gère également Facebook et WhatsApp. Malviya, le rapport Instagram sur les états de publication @cringearchivist, fait partie du programme “XCheck” ou “Cross Check” de Meta. Ce programme – un secret d’entreprise bien gardé jusqu’à ce qu’il soit d’abord révélé par le le journal Wall Street en septembre 2021 – permet à une liste de comptes “d’élite” sur les plateformes Meta (appartenant principalement à des célébrités et à des politiciens) de bafouer les règles que l’entreprise prétend appliquer à tout le monde sous prétexte de protéger ces utilisateurs de haut niveau. Le programme a été conçu pour éviter la mauvaise presse qui résultait parfois d’actions contre des utilisateurs célèbres.

“Certains utilisateurs sont” sur liste blanche “- rendus à l’abri des mesures d’application – tandis que d’autres sont autorisés à publier du matériel enfreignant les règles en attendant les avis des employés de Facebook qui ne viennent souvent jamais “, le journal Wall Street rapporté alors. Le rapport Instagram sur les messages @cringearchivist qui ont été supprimés indique clairement que les privilèges XCheck sont encore plus étendus – ces utilisateurs peuvent également faire supprimer des messages à leur guise, sans que l’entreprise ne se soucie de vérifier s’il existe une cause justifiable.

Le programme XCheck a été critiqué même au sein de Meta, avec une conclusion d’examen interne, selon le le journal Wall Street, que “Contrairement au reste de notre communauté, ces personnes peuvent violer nos normes sans aucune conséquence.” Selon le journal, la société prévoyait de supprimer ce processus de “liste blanche” d’ici le premier semestre 2021. Nous sommes maintenant dans le second semestre 2022 – et l’affaire Malviya-@cringearchivist confirme que les utilisateurs de XCheck continuent de bénéficier de privilèges qui porter atteinte aux droits des autres sur les plateformes Meta.

Globalement, selon le le journal Wall Street, 5,8 millions d’utilisateurs faisaient partie du programme XCheck en 2020. Les utilisateurs ne sont généralement pas informés lorsqu’ils sont inclus dans cette liste privilégiée, a noté le journal. Alors que certains des noms révélés par le journal étaient des célébrités comptant des centaines de millions de followers, comme le footballeur brésilien Neymar, Malviya compte moins de 5 000 followers sur Instagram et 15 000 followers sur Facebook. C’est donc son appartenance et son rôle au sein du parti au pouvoir en Inde qui l’ont probablement fait figurer sur la liste XCheck, plutôt que Meta pensant que sa voix est importante pour les autres sur les plateformes.

Meta n’a jamais révélé publiquement l’existence de ces comptes XCheck, et bien que des enquêtes aient révélé certains noms de différentes parties du monde, l’utilisation du programme en Inde est jusqu’à présent restée inconnue. Le document consulté par Le fil confirme que Malviya fait partie de cette catégorie d’utilisateurs bénéficiant d’un traitement préférentiel en Inde – le premier nom de ce type à sortir d’Asie du Sud. “Modération automatique ignorée. Raison : l’utilisateur qui signale a des privilèges XCheck”, indique le rapport interne d’Instagram sur le retrait bizarre de la vidéo du temple d’Adityanath. « Examen non requis. Raison : l’utilisateur qui signale dispose des privilèges XCheck”, poursuit-il.

Le rapport interne indique clairement qu’après que Malviya a signalé le message de @cringearchivist, aucune intervention humaine n’a été jugée nécessaire par Meta – le message a été immédiatement supprimé de la plate-forme et aucun processus de révision n’a été considéré comme “requis”.

Rapport Instagram par Le fil sur Scribd

Malviya a des antécédents très discutés de publication de fausses informations et de commentaires incendiaires. En 2020, par exemple, Twitter a publiquement signalé l’un de ses messages comme incluant des “médias manipulés”. Cela, en quelque sorte, ne semble pas suffisant pour le disqualifier de la liste de traitement préférentiel de Meta.

La société a accordé à Malviya deux niveaux de privilèges – il peut publier comme il le souhaite, sans que les règles régissant la plate-forme ne s’appliquent à lui, et il peut imposer sa volonté à sa guise d’avoir des messages critiques à l’égard du BJP, du gouvernement de l’Union ou de droite. -aile politique hindoue, supprimée.

Pour quelqu’un qui utilise régulièrement les médias sociaux à des fins de désinformation – par exemple, publication du mois dernier des photos de 2019 tout en affirmant qu’elles représentaient un récent rassemblement de Narendra Modi, ou alléguant que une récente New York Times’ article sur le programme d’éducation du gouvernement de Delhi était une “promotion payante” – un privilège comme celui-ci souligne que les meilleurs intérêts des utilisateurs généraux ne sont pas la priorité de Meta ici. Parce que si le reste d’entre nous ne peut pas s’en tirer en exécutant une relation aussi ténue avec la vérité sur les plateformes Meta, ou en refusant de laisser exister toute dissidence ou critique, Malviya le peut certainement.