Un ancien ingénieur Meta témoigne devant le Congrès sur les méfaits d’Instagram envers les adolescents

Le même jour où la lanceuse d’alerte Frances Haugen témoignait devant le Congrès sur les méfaits de Facebook et d’Instagram sur les enfants à l’automne 2021, Arturo Béjar, alors entrepreneur chez le géant des médias sociaux, a envoyé un e-mail alarmant au PDG de Meta, Mark Zuckerberg, à propos du même sujet.

Dans cette note, rapportée pour la première fois par le Wall Street Journal, Béjar, qui a travaillé comme directeur de l’ingénierie chez Facebook de 2009 à 2015, a souligné un « écart critique » entre la façon dont l’entreprise abordait les dommages et la façon dont les personnes qui utilisent ses produits – la plupart notamment les jeunes – faites-en l’expérience.

« Il y a deux semaines, ma fille de 16 ans, créatrice expérimentale sur Instagram, a publié un article sur les voitures et quelqu’un a commenté : « Retournez à la cuisine ». Cela l’a profondément bouleversée », a-t-il écrit. « En même temps, le commentaire est loin de violer la politique, et nos outils de blocage ou de suppression signifient que cette personne accédera à d’autres profils et continuera à propager la misogynie. Je ne pense pas que les politiques/rapports ou une révision accrue du contenu soient les solutions.

Béjar estime que Meta doit changer la façon dont elle gère ses plateformes, en mettant l’accent sur la lutte contre le harcèlement, les avances sexuelles non désirées et autres mauvaises expériences, même si ces problèmes ne violent pas clairement les politiques existantes. Par exemple, envoyer des messages sexuels vulgaires à des enfants n’enfreint pas nécessairement les règles d’Instagram, mais Béjar a déclaré que les adolescents devraient avoir un moyen de dire à la plateforme qu’ils ne souhaitent pas recevoir ce type de messages.

Deux ans plus tard, Béjar témoigne mardi devant une sous-commission sénatoriale sur les médias sociaux et la crise de la santé mentale des adolescents, dans l’espoir de faire la lumière sur la façon dont les dirigeants de Meta, y compris Zuckerberg, étaient au courant des dommages causés par Instagram mais ont choisi de ne pas apporter de changements significatifs à abordez-les.

« Je peux affirmer avec certitude que les dirigeants de Meta étaient conscients du mal que subissaient les adolescents, qu’ils pouvaient faire des choses tout à fait réalisables et qu’ils ont choisi de ne pas les faire », a déclaré Béjar à l’Associated Press. Cela, dit-il, montre clairement que « nous ne pouvons pas leur confier nos enfants ».

Ouvrant l’audience mardi, le sénateur Richard Blumenthal, un démocrate du Connecticut qui préside la sous-commission de la vie privée et de la technologie du pouvoir judiciaire du Sénat, a présenté Béjar comme un ingénieur « largement respecté et admiré dans l’industrie » qui a été embauché spécifiquement pour aider à prévenir les préjudices causés aux enfants mais dont les recommandations ont été ignorés.

“Ce que vous avez apporté à ce comité aujourd’hui est quelque chose que tous les parents doivent entendre”, a ajouté le sénateur du Missouri Josh Hawley, le républicain le plus important du panel.

Béjar cite des enquêtes de perception des utilisateurs qui montrent, par exemple, que 13 % des utilisateurs d’Instagram – âgés de 13 à 15 ans – ont déclaré avoir reçu des avances sexuelles non désirées sur la plateforme au cours des sept jours précédents.

Béjar a déclaré qu’il ne pensait pas que les réformes qu’il suggérait affecteraient de manière significative les revenus ou les bénéfices de Meta et de ses pairs. Elles ne visent pas à punir les entreprises, a-t-il précisé, mais à aider les adolescents.

“Vous avez entendu l’entreprise en parler” oh, c’est vraiment compliqué “”, a déclaré Béjar à l’AP. « Non, ce n’est pas le cas. Donnez simplement à l’adolescent une chance de dire « ce contenu n’est pas pour moi », puis utilisez ces informations pour former tous les autres systèmes et obtenir des commentaires qui l’améliorent.

Ce témoignage intervient au milieu d’une pression bipartite au Congrès pour adopter des réglementations visant à protéger les enfants en ligne.

Meta, dans un communiqué, a déclaré : « Chaque jour, d’innombrables personnes à l’intérieur et à l’extérieur de Meta travaillent sur la manière d’aider à assurer la sécurité des jeunes en ligne. Les problèmes soulevés ici concernant les enquêtes sur la perception des utilisateurs mettent en évidence une partie de cet effort, et des enquêtes comme celles-ci nous ont amenés à créer des fonctionnalités telles que des notifications anonymes de contenu potentiellement blessant et des avertissements de commentaires. En collaboration avec des parents et des experts, nous avons également introduit plus de 30 outils pour aider les adolescents et leurs familles à vivre des expériences en ligne sûres et positives. Tout ce travail continue.

Concernant le matériel indésirable que les utilisateurs voient et qui ne viole pas les règles d’Instagram, Meta souligne ses « directives de distribution de contenu » de 2021 qui stipulent que le contenu « problématique ou de mauvaise qualité » reçoit automatiquement une distribution réduite sur les flux des utilisateurs. Cela inclut les appâts à clics et la désinformation qui ont été vérifiés. et les messages « limites », tels qu’une « photo d’une personne posant de manière sexuellement suggestive, un discours incluant des grossièretés, un discours de haine limite ou des images sanglantes ».

En 2022, Meta a également introduit des « rappels de gentillesse » qui indiquent aux utilisateurs d’être respectueux dans leurs messages directs – mais cela ne s’applique qu’aux utilisateurs qui envoient des demandes de messages à un créateur, et non à un utilisateur régulier.

Le témoignage de Béjar intervient deux semaines seulement après que des dizaines d’États américains ont poursuivi Meta pour avoir porté préjudice aux jeunes et contribué à la crise de santé mentale chez les jeunes. Les poursuites, déposées devant les tribunaux étatiques et fédéraux, affirment que Meta conçoit sciemment et délibérément des fonctionnalités sur Instagram et Facebook qui rendent les enfants accros à ses plateformes.

Béjar a déclaré qu’il est « absolument essentiel » que le Congrès adopte une législation bipartite « pour contribuer à garantir la transparence sur ces préjudices et que les adolescents puissent obtenir de l’aide » avec le soutien des experts appropriés.

« Le moyen le plus efficace de réglementer les sociétés de médias sociaux est de leur demander de développer des mesures qui permettront à la fois à l’entreprise et aux tiers d’évaluer et de suivre les cas de préjudices subis par les utilisateurs. Cela met en valeur ce que ces entreprises peuvent faire, car pour elles, les données sont essentielles », a-t-il écrit dans son témoignage préparé.