Home » Twitter ouvre le concours Algorithmic Bias Bounty

Twitter ouvre le concours Algorithmic Bias Bounty

by Nouvelles

Twitter introduit un nouveau programme de primes qui récompensera les participants du village DEF CON AI qui découvrent et divulguent des signes de partialité dans l’algorithme de recadrage d’image de l’entreprise avant le 6 août.

L’algorithme en question est utilisé pour déterminer quelle partie d’une image doit être affichée dans les applications mobiles de Twitter, et l’entreprise mentionné en mai qu’il avait reçu des plaintes selon lesquelles l’algorithme « n’a pas servi tout le monde de manière équitable » en raison de « préjugés fondés sur le sexe et la race ».

L’analyse de Twitter a étayé ces plaintes : il a déclaré qu'”une expérience d’images liées au hasard d’individus de races et de genres différents” menée sur 10 000 images a montré que son algorithme de recadrage d’images était en effet biaisé en faveur des femmes et des individus blancs.

La société a répondu en donnant aux utilisateurs de Twitter un contrôle direct sur la façon dont une image serait recadrée dans les chronologies mobiles avant son envoi, ce qui, selon elle, « réduit notre dépendance à l’égard de [machine learning] pour une fonction dont nous convenons qu’elle est mieux exécutée par des personnes utilisant nos produits.”

Désormais, Twitter met les participants du DEF CON AI Village au défi de trouver des problèmes similaires dans le même algorithme. La société a déclaré qu'”avec ce défi, nous visons à créer un précédent sur Twitter et dans l’industrie, pour l’identification proactive et collective des dommages algorithmiques”.

Recommandé par nos rédacteurs

Les participants ont été invités à examiner l’algorithme de recadrage d’images de Twitter et le code sur lequel il s’appuie dans le but de « démontrer les dommages potentiels qu’un tel algorithme peut introduire » et pourrait affecter « n’importe qui, des utilisateurs de Twitter aux clients ou Twitter lui-même » dans le processus.

Le programme offrira entre 500 $ et 3 500 $ en prix en espèces à cinq équipes gagnantes qui présenteront leur travail le 6 août. Plus d’informations sur le programme sont disponibles via HackerOne.

Cette newsletter peut contenir de la publicité, des offres ou des liens d’affiliation. L’inscription à une newsletter indique votre consentement à notre Conditions d’utilisation et Politique de confidentialité. Vous pouvez vous désinscrire des newsletters à tout moment.

You may also like

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.