La semaine dernière, nous avons signalé que Taylor Swift et la plateforme X avaient fait l’objet d’une « attaque » globale par des personnes non autorisées. Grâce à l’IA générative, ils ont créé des images à forte charge sexuelle, qui ont pris leur propre vie en peu de temps et ont atteint des dizaines de millions de personnes.
Les auteurs ont probablement choisi X parce qu’Elon Musk a considérablement réduit l’équipe de modération et que tout le monde l’a traité comme une évidence. C’est donc un secret de Polichinelle que le microblog a un problème de modération, et pas seulement parce que l’homme d’affaires veut laisser de la place à la liberté d’expression. On peut presque considérer comme un fait que X ne dispose pas de suffisamment de ressources pour pouvoir assurer une modération complète et surveiller correctement le contenu qui apparaît.
Dans le passé, la plateforme a reçu de nombreuses critiques en raison du mauvais fonctionnement des solutions de modération, mais celles-ci étaient généralement défendues en affirmant que, à leur avis, les méthodes non conventionnelles fonctionnaient correctement. L’UE n’était pas non plus d’accord avec cela, c’est pourquoi elle a déjà ouvert une enquête contre X. Il est fort possible que cette enquête ait une incidence sur l’affaire actuelle à l’avenir. L’équipe X n’a pas pu gérer le contenu pornographique diffusé sur Taylor Swift, elle a donc eu recours à une méthode plus drastique.
La société a bloqué les recherches sur « Taylor Swift » et « Taylor Swift AI ». Ils tentent désormais d’éradiquer tout contenu généré par l’intelligence artificielle. Mais l’interdiction a également été résolue d’une manière assez unique, car même si le microblog ne publie pas les articles portant ce titre et que les articles les plus récents ne peuvent pas être répertoriés, les fichiers multimédias téléchargés peuvent toujours être consultés. Dans ce cas, c’était précisément le but, puisque des images de la réplique du chanteur générée par l’IA ont été partagées sur la plateforme. De plus, les recherches sur “Taylor AI Swift” se dérouleraient très bien. Alors… Mais au moins ils essaient, peut-être que cela peut être apprécié.
En termes de gestion de la situation actuelle, X peut enregistrer une autre perte de face importante, mais on voit que cette affaire peut réellement initier des changements. Des informations récentes ont rapporté que l’entreprise souhaitait apporter des changements avec effet immédiat. Bloomberg a d’abord annoncé qu’un tout nouveau bureau « fiabilité et sécurité » serait créé à Austin, avec au moins 100 employés à temps plein.
Le sol est déjà très chaud sous les pieds de X, il faut donc qu’il agisse vraiment dans ce sens. Non seulement l’UE enquête sur le microblogging, mais les États-Unis ont également une affaire en cours visant à traiter plus efficacement les contenus liés à l’exploitation sexuelle des enfants. Linda Yaccarino assistera à une audition au Sénat le 31 janvier, où il est certain que la question de la modération reviendra, entre autres.
La nouvelle équipe de sécurité se concentrera principalement sur le traitement des contenus pornographiques représentant des mineurs, mais elle sera également en mesure de gérer d’autres contenus, ainsi par exemple les enregistrements créés par l’IA générative pourraient également relever de sa compétence. Joe Benarroch, responsable des opérations commerciales de X, a déclaré à Bloomberg que la nouvelle équipe de modération sera en mesure d’aider à lutter contre les discours de haine et d’être mobilisée dans d’autres domaines et pourrait croître en taille avec le temps.
Ce sera la première fois au cours des 1,5 dernières années qu’Elon Musk embauchera des personnes axées sur la sécurité et constituera une nouvelle équipe avec cet objectif à l’esprit. Nous espérons qu’avec ce X, nous nous dirigerons vers un avenir meilleur.
:quality(70)/cloudfront-eu-central-1.images.arcpublishing.com/irishtimes/XLROYXTLJ4NHAP5SUIKAYKZ5EA.jpg?fit=300%2C300&ssl=1)
