Meta annoncé cette semaine qu’il révise son système de distribution de badges de vérification – ces coches bleues qui sont épinglées sur les profils Instagram et Facebook de personnalités publiques telles que les politiciens, les célébrités et les journalistes. Dans le passé, ils étaient distribués aux personnes et aux organisations en fonction de leur statut de personnalités influentes particulièrement vulnérables à l’usurpation d’identité ; leur identité officiellement confirmée a rendu leurs déclarations fiables pour les rapports. Désormais, ces badges peuvent être achetés par n’importe qui au prix de 11,99 $ par mois pour le Web ou de 14,99 $ pour le mobile.
Il est probable que le PDG de Meta, Mark Zuckerberg, ait été inspiré pour dévoiler ce plan après avoir vu le PDG de Twitter, Elon Musk, faire un geste similaire il y a quelques mois lorsqu’il déployé les abonnements Twitter Blue. Les critères d’un badge de vérification bleu sur Twitter étaient auparavant liés à la qualification de personnalité publique – maintenant, c’est toute personne prête à payer 8 dollars par mois, et son identité n’a pas besoin d’être authentifié.
Rendre les badges de vérification accessibles à tous moyennant un tarif mensuel transforme tout leur sens.
Il ne s’agit pas d’une simple modification mineure du système : rendre les badges de vérification accessibles à tous moyennant un tarif mensuel transforme tout leur sens. Twitter et Meta semblent miser dessus comme un moyen de monétiser les utilisateurs à la recherche de poids et d’influence. Mais le public perd l’un des moyens les plus utiles d’atténuer la propagation de la désinformation et de la désinformation.
Mon point de vue général sur la question de la réglementation de la désinformation est que nous ne pouvons généralement pas faire confiance aux entreprises pour le faire. Sur le plan philosophique, je rejette l’affirmation que l’objectivité existe lorsqu’il s’agit d’évaluer des vérités complexes. Sur le plan politique, j’ai peu de confiance dans les entités non réglementées, à la recherche de profit et maximisant l’engagement pour servir l’intérêt public dans leurs évaluations de ce qui est vrai ou non. Et sur le plan empirique, les entreprises de médias sociaux, avec leurs algorithmes capricieux et leurs processus décisionnels opaques, n’ont pas encore démontré la capacité opérationnelle à traiter la question de la régulation de l’information avec la précision et la transparence qu’elle requiert.
C’est pourquoi j’ai toujours aimé le système de badge de vérification : il permet aux entreprises de médias sociaux de traiter la question des mauvais acteurs colportant de fausses informations avec une touche plus légère. Les entreprises de médias sociaux aident le public à repérer les imposteurs en confirmant que les personnalités influentes qui façonnent le discours public sont bien ce qu’elles prétendent être. Dans le contexte d’un climat politique dans lequel de nombreux acteurs militarisent des informations trompeuses et fausses, il est utile de disposer d’identifiants clairs sur la façon dont les personnes sont affiliées à des institutions spécifiques et de s’assurer que leurs antécédents biographiques sont plus facilement consultables. Un tweet viral sur Covid signifie quelque chose de différent venant d’un épidémiologiste que d’un avocat, et cela peut être pris plus au sérieux lorsque nous savons que l’épidémiologiste auto-identifié est celui qu’il prétend être.
La vérification de l’identité n’est pas la vérification de la vérité. Des personnalités publiques telles que des journalistes ou des scientifiques sont capables de diffuser des informations trompeuses. Mais ils ont généralement intérêt à conserver une réputation de courtiers honnêtes, et il leur est professionnellement coûteux d’agir de mauvaise foi. Plus important encore, la vérification permet aux utilisateurs d’évaluer la crédibilité d’un orateur influent par eux-même.
La vérification à l’ancienne avait ses défauts, en partie parce que le processus permettant de déterminer qui pouvait être vérifié aurait dû être beaucoup plus transparent. Mais dans l’ensemble, cela a atténué certains des problèmes de vivre dans une mer d’informations de mauvaise qualité et fausses sans être intrusif ou obliger les entreprises à peser sur ce qui est vrai.
Ça a l’air de changer. En vertu des nouvelles règles, la vérification ne servira plus de manière fiable comme un outil qui peut nous aider à comprendre l’identité ou la crédibilité d’un individu donné. En fait, il pourrait être militarisé pour faire le contraire. En effet, les nouveaux systèmes de vérification ne visent pas principalement à confirmer l’identité, mais les sociétés de médias sociaux visant à tirer profit du statut social associé aux coches bleues.
Bien que les chèques bleus n’aient pas été conçus à l’origine pour donner du poids aux utilisateurs, au fil du temps, certains en sont venus à les percevoir principalement comme un marqueur de pouvoir en ligne. Maintenant, Meta et Twitter veulent capitaliser sur cette aura d’influence. Ils incitent les gens à se joindre en promettant qu’ils n’auront pas seulement un badge vérifié, mais que le badge changera de place dans l’algorithme pour leur donner plus de visibilité et de portée en ligne. C’est un attrait pour toutes sortes d’influenceurs culturels et politiques en herbe, ainsi que pour divers types de créateurs de contenu. Certains estiment que Meta pourrait faire des milliards sur les nouveaux abonnements vérifiés.
Simultanément, la confirmation d’identité est soit rejetée, soit devenue douteuse. Twitter Blue ne confirme pas l’identité des personnes. Lorsque Musk l’a déployé pour la première fois, cela a conduit à une vague massive d’usurpations d’identité, y compris l’usurpation d’identité d’une société pharmaceutique qui ruiné la valorisation de l’entreprise. Twitter a suspendu le service au milieu d’une tempête de controverses (et de moqueries pour être si myope), puis l’a relancé avec des exigences supplémentaires qui ralentissent le processus de candidature. Mais notamment, il n’authentifie toujours pas l’identité des personnes, et il ne protège pas contre l’usurpation d’identité d’autrui, y compris les grandes personnalités publiques. Le nouveau programme de vérification de masse de Meta, qui a commencé à se déployer en Australie et en Nouvelle-Zélande, nécessite au moins une identification gouvernementale pour authentifier un profil. Mais il reste à voir s’il dispose de garanties adéquates pour se protéger contre des tentatives d’usurpation d’identité plus sophistiquées ; disent les experts en sécurité technologique ces systèmes peuvent être dupés. Il est prudent de deviner qu’au moins pendant un certain temps, de nombreux utilisateurs de médias sociaux seront confus quant à la signification des coches bleues et leur accorderont une confiance indue.
La signification du chèque bleu est passée d’un moyen d’aider à renforcer la confiance et de clarifier la provenance des informations à un champ de bataille pour les guerres culturelles et l’influence.
Les changements apportés au système de vérification reflètent des problèmes plus larges avec notre écosystème de médias sociaux. Meta et Twitter ont créé des espaces civiques très influents qui ont un impact énorme sur la société. Mais ils considèrent principalement ces espaces comme des opportunités pour concevoir de nouvelles façons d’exploiter la capacité d’attention et le désir d’affirmation et d’influence des gens. Dans le cas de Twitter, il semble également que Musk, qui s’est de plus en plus identifié comme étant de droite, soit en partie motivé par l’idée de faire la guerre aux médias de l’establishment. Il s’est vanté de Twitter Blue en tant que “grand niveleur,” promis à supprimer entièrement les anciennes coches bleueset a laissé entendre qu’il considère l’abandon de l’ancien système comme un moyen de perturber l’influence des médias de l’establishment parce qu’il ne fait pas confiance il.
Pour être juste, nous entrons dans une phase de transition avec vérification, et il est possible que des solutions émergent dans les mois et années à venir. Peut-être que les règles de vérification d’identité et d’anti-usurpation d’identité deviendront plus robustes. Peut-être qu’une nouvelle taxonomie de badges peut être utilisée pour distinguer les différents types d’utilisateurs. (Twitter essaie de le faire dans une certaine mesure avec insignes d’affiliation, mais ils n’ont pas été largement adoptés, et il y a des questions sur leur valeur étant donné que Twitter Blue ne fait pas de confirmation d’identité appropriée.) vient d’un champ de bataille pour les guerres culturelles et l’influence. Espérons que les entreprises de médias sociaux réfléchissent plus attentivement aux moyens d’aider les gens à développer la confiance dans les sources de leurs informations. Mais ce n’est évidemment pas leur priorité absolue.
