Le Twitter d’Elon Musk s’appuie fortement sur l’automatisation pour modérer le contenu selon le nouveau responsable de la confiance et de la sécurité de l’entreprise, au milieu d’une augmentation signalée des discours de haine sur la plate-forme de médias sociaux.
Ella Irwin a déclaré à l’agence de presse Reuters que Musk, qui a acquis la société en octobre, se concentrait davantage sur l’utilisation de l’automatisation, affirmant que Twitter avait par le passé opté pour l’examen humain du contenu préjudiciable, qui demandait beaucoup de temps et de main-d’œuvre.
“Il a encouragé l’équipe à prendre plus de risques, à aller vite, à sécuriser la plate-forme”, a-t-elle déclaré.
En ce qui concerne la sécurité des enfants, Irwin a déclaré que Twitter était passé à la suppression automatique des tweets signalés par des personnalités de confiance ayant l’habitude de signaler avec précision les publications nuisibles.
Twitter restreint également de manière plus agressive les hashtags et les résultats de recherche propices aux abus dans des domaines tels que l’exploitation des enfants, quels que soient les impacts potentiels sur les “utilisations bénignes” de ces termes, a-t-elle déclaré.
“La plus grande chose qui a changé est que l’équipe est pleinement habilitée à se déplacer rapidement et à être aussi agressive que possible”, a déclaré Irwin.
Ses commentaires interviennent alors que les chercheurs ont signalé une recrudescence des discours de haine sur le service de médias sociaux, après que Musk a annoncé une amnistie pour comptes suspendus sous la direction précédente de l’entreprise qui n’avaient pas enfreint la loi ou s’étaient livrés à des “spams flagrants”.
La société a été confrontée à des questions pointues sur sa capacité et sa volonté de modérer les contenus préjudiciables et illégaux depuis Musk a réduit la moitié du personnel de Twitter et émis un ultimatum pour travailler de longues heures qui a entraîné la perte de centaines d’employés supplémentaires.
Vendredi, Musk a promis “un renforcement significatif de la modération du contenu et de la protection de la liberté d’expression” lors d’une rencontre avec le président français, Emmanuel Macron.
Irwin a déclaré que Musk avait encouragé l’équipe à moins s’inquiéter de la façon dont leurs actions affecteraient la croissance des utilisateurs ou les revenus, affirmant que la sécurité était la priorité absolue de l’entreprise. “Il insiste sur cela chaque jour, plusieurs fois par jour”, a-t-elle déclaré.
Les chercheurs affirment que le nombre de tweets contenant du contenu haineux sur Twitter a fortement augmenté la semaine avant que Musk ne tweete le 23 novembre que les impressions ou les vues sur les discours haineux étaient en baisse. Les tweets contenant des mots anti-noirs cette semaine-là étaient trois fois plus nombreux que le mois précédant la prise de fonction de Musk, tandis que les tweets contenant une insulte gay ont augmenté de 31 %, selon une étude du Center for Countering Digital Hate.
Irwin a déclaré que les licenciements n’affectaient pas de manière significative les employés à temps plein ou les sous-traitants travaillant dans ce que l’entreprise appelait ses divisions «santé», y compris dans des «domaines critiques» comme la sécurité des enfants et la modération de contenu.
Elle a déclaré que Twitter avait supprimé environ 44 000 comptes impliqués dans des violations de la sécurité des enfants, en collaboration avec le groupe de cybersécurité Ghost Data.
Twitter restreint également les hashtags et les résultats de recherche fréquemment associés à des abus, comme ceux visant à rechercher de la pornographie « adolescente ». Les inquiétudes passées concernant l’impact de ces restrictions sur les utilisations autorisées des termes ont disparu, a-t-elle déclaré.
L’utilisation de “journalistes de confiance” était “quelque chose dont nous avons discuté dans le passé sur Twitter, mais il y avait une certaine hésitation et franchement juste un peu de retard”, a déclaré Irwin.
