“Le problème c’est que l’algorithme recommande les comptes d’enfants à des adultes inconnus”

La situation devient intenable, le gouvernement américain concentre ses yeux sur l’entreprise comme rarement auparavant, et la marque Facebook finit par être tellement brûlée par l’information qu’en novembre, elle change de nom pour devenir Meta. Et, en partie, grâce aux milliers de documents divulgués par Haugen, qui constituent la base du récent livre ‘code cassé» (Ariel), dans lequel Horwitz explique en détail comment se sont forgés les grands scandales et les récents échecs du réseau qui nous ont tous fait commencer à vivre les yeux rivés sur l’écran.

—Qu’est-ce qui vous a le plus surpris dans toutes les informations que Haugen vous a données ?

— Que tous ces documents existaient et étaient accessibles, car je savais que de nombreux employés n’étaient pas satisfaits de la gestion de la désinformation électorale par l’entreprise et de la santé mentale des usagers. Facebook essayait depuis un certain temps d’empêcher la fuite de documents sensibles (dans lesquels ces questions étaient abordées), mais les systèmes internes de l’entreprise étaient très mal organisés. Eux-mêmes ont eu du mal à retrouver leurs propres données pour éviter les fuites (rires).

— Et qu’est-ce qui t’a le plus inquiété ?

— J’ai toujours su que Facebook n’était pas une plateforme neutre, mais je ne sais pas dans quelle mesure elle essayait de modifier le comportement des utilisateurs avec ses algorithmes pour son propre bénéfice. S’ils savaient, par exemple, comment réduire jusqu’à 10 % la désinformation sur leurs réseaux sociaux, ils n’étaient pas disposés à le faire si l’activité de l’entreprise était affectée, même s’il s’agissait d’une baisse de 0,5 % du nombre d’utilisateurs quotidiens. J’ai été surpris de voir à quel point Facebook se préoccupe exclusivement de lui-même et se soucie davantage de l’argent que de la santé de ses utilisateurs.

Dans l’un des documents, il est dit : “le nombre d’utilisateurs quotidiens est sacré”. Tout ce qui le compromet, quel qu’il soit, est mort-né. Peu importe si cela est bénéfique pour les utilisateurs. Il existe également des informations liées à la polarisation politique en Espagne. Connaissez-vous un parti appelé Vox ?

-Clair.

—Lorsque Facebook a modifié son algorithme pour inciter les gens à passer plus de temps à utiliser l’application (au cours de la dernière décennie), il a grandement favorisé les partis politiques réactionnaires. Vox a déclaré à l’un des chercheurs de Meta qu’ils avaient commencé à acheter des publicités ciblant les personnes soutenant leurs rivaux politiques. Il l’a fait pour les ennuyer tellement qu’ils finiraient par réagir et rendre le contenu viral.

— En lisant le livre, on trouve plusieurs passages où l’on constate que les erreurs politiques de Facebook, comme Cambridge Analytica ou son rôle dans l’assaut du Capitole américain, sont le résultat d’un manque de prévoyance. Facebook est-il une entreprise naïve ?

—Je pense qu’il y a un certain déni des faits au sein de l’entreprise. Par exemple, Zuckerberg a dit qu’on pouvait remettre en question l’Holocauste de bonne foi, et je suis d’accord qu’en théorie on peut dire qu’on a des questions sur les meurtres de masse, mais en théorie, parce que cette question n’est posée que par un nazi (rires). C’est donc absurde. L’entreprise dit toujours que s’il existe une manière très théorique et lointaine de permettre à une personne d’avoir de bonnes intentions, alors nous allons penser que c’est le cas. C’est l’une des lignes du manuel de l’employé.

Lorsque les groupes conspirationnistes ont commencé à exploiter les réseaux sociaux et à s’organiser, l’objectif n’était pas de poser des questions légitimes sur le gouvernement, mais de provoquer la colère des gens et de les révolutionner. Il n’y avait pas de bonnes intentions. Cela s’est également produit avec le refus du groupe Qanon des résultats des élections de 2020. Facebook a créé un système dans lequel il est très simple de tromper l’algorithme.

— Le livre laisse aussi le sentiment que Mark Zuckerberg est complètement dépassé par les problèmes de ses réseaux…

—Frances Haugen l’a souvent dit. Il y a là une ironie, et cela se produit sûrement aussi en Espagne : aux États-Unis, on accuse Facebook de beaucoup de censure, mais l’entreprise ne veut désespérément pas agir contre quoi que ce soit. Ils préfèrent généralement quitter des postes qui pourraient être contraires à leurs politiques. L’une des choses que j’ai trouvées les plus intéressantes dans les documents est que, même si Facebook fait l’éloge de son intelligence artificielle, l’IA n’est pas capable d’éliminer plus d’un très petit pourcentage de publications qui incitent à la haine et à la violence, mais ils préfèrent les humains. équipes.

—Parmi les histoires que vous racontez, celle de l’ingénieur Arturo Béjar a retenu mon attention, qui a conçu un outil pour lutter contre la pédophilie sur Instagram, mais n’a pas été suivi par Meta.

— Il y a beaucoup de choses que Meta peut faire pour protéger les adolescents, mais cela ne les intéresse tout simplement pas. Ce qui se passe, c’est que chaque mécanisme de sécurité limite ce que les utilisateurs peuvent faire et, par conséquent, si vous appliquez des changements, vous risquez de perdre des utilisateurs Internet, ce qui n’est pas acceptable pour l’entreprise. Les étrangers pensent que les problèmes des enfants sont dus à un manque de modération. Par exemple, si un adulte envoie une photo d’un pénis à un mineur et que Facebook ne fait rien. Mais le vrai problème est que c’est Instagram qui montre des mineurs à des adultes inconnus dans les recommandations. L’algorithme l’encourage.

—Il commente également que Zuckerberg était prêt à permettre à la Chine de censurer Facebook afin d’être présent dans le pays…

— Ils l’ont essayé pendant une courte période, mais cela n’a pas fonctionné. L’entreprise parle beaucoup du respect de la liberté d’expression, mais, comme je vous l’ai déjà dit, les affaires sont reines. Au Vietnam, il a commencé à supprimer les contenus antigouvernementaux. Et la même chose s’est produite en Inde, où vous êtes autorisé à publier des articles sur une théorie du complot selon laquelle les musulmans épousent des femmes indiennes pour les tuer, et uniquement parce que le gouvernement du pays le pense. Meta est prête à tout pour éviter de perdre un marché.

—TikTok est en danger aux États-Unis. L’application chinoise est-elle plus dangereuse que Facebook ou Instagram ?

—Meta souhaiterait tout simplement que TikTok soit interdit aux États-Unis (rires). Même s’il ne rapporte pas autant d’argent que Facebook, il reste une menace importante pour votre entreprise. Quant à savoir si c’est plus dangereux, je n’ai pas de réponse. Ce que je ne comprends pas, c’est que les gens s’inquiètent des données dont dispose TikTok, alors que sur votre propre téléphone, vous partagez des données de localisation et que les entreprises peuvent les vendre, ce qui est beaucoup plus inquiétant. Je ne pense pas non plus que la connaissance des vidéos que vous voyez par la Chine représente une menace pour la sécurité nationale.

—Votre enquête a conduit les procureurs américains à poursuivre l’entreprise en justice pour les préjudices qu’elle cause aux enfants. Qu’espérez-vous qu’il en ressorte ?

-Je ne sais pas ce qui va se passer. Une chose qui ressort du procès et qui m’a impressionné, c’est que les employés de l’entreprise savent que les filtres d’IA nuisent à l’estime de soi des utilisateurs, qui pensent que tout le monde est plus attirant qu’eux à cause d’eux. Dans Meta, il y avait des gens qui voulaient interdire les effets de type chirurgie esthétique, mais Zuckerberg lui-même a dit non parce que les gens les utilisent.

—Qu’aimerais-tu réaliser avec cette recherche ?

—L’objectif est d’expliquer comment la vie en ligne nous change d’une manière qui n’est pas naturelle, et aussi comment les plateformes pourraient être différentes, que nous ne devons pas accepter qu’Internet soit comme ça et c’est tout, ou que c’est ainsi les gens se comportent en ligne et c’est tout. La réalité dans laquelle nous vivons aujourd’hui a été façonnée par les décisions prises par ces plateformes, y compris Meta, et ces décisions ont été prises en gardant à l’esprit leurs propres intérêts.

J’aimerais également aider les gens à comprendre comment ces choses changent la façon dont nous communiquons les uns avec les autres et partageons l’information. Les réseaux sociaux sont quelque chose d’aussi fondamental que l’invention de l’imprimerie, ils sont une grande opportunité et aussi très dangereux. Les prochaines décennies risquent d’être compliquées à cause de vous.