Les travailleurs modernes constatent de plus en plus que les entreprises ne se contentent plus de tenir compte de leur curriculum vitae, de leurs lettres de motivation et de leurs performances professionnelles. De plus en plus, les employeurs veulent évaluer leur cerveau.
Les entreprises sélectionnent les candidats potentiels à l’aide de tests cognitifs et de personnalité assistés par la technologie, déploient une technologie portable pour surveiller l’activité cérébrale au travail et utilisent l’intelligence artificielle pour prendre des décisions concernant l’embauche, la promotion et le licenciement de personnes. Le cerveau devient le chapeau de tri ultime sur le lieu de travail – la version technologique de l’appareil magique qui distribue les jeunes sorciers parmi les maisons de Poudlard dans la série “Harry Potter”.
Entreprises vanter les outils technologiques pour évaluer le cerveau des candidats promet d'”augmenter considérablement la qualité de vos embauches” en mesurant les “éléments de base de notre façon de penser et d’agir”. Ils affirment que leurs outils peuvent même diminuer le biais dans l’embauche en « s’appuyant uniquement sur les capacités cognitives ».
Mais la recherche a montré que de telles évaluations peuvent conduire à des disparités raciales qui sont «trois à cinq fois plus que d’autres prédicteurs du rendement au travail. Lorsque les tests sociaux et émotionnels font partie de la batterie, ils peuvent également filtrer les personnes avec autisme et d’autres candidats neurodivers. Et les candidats peuvent être tenus de révéler leurs pensées et leurs émotions via des outils de recrutement ludiques basés sur l’IA sans comprendre pleinement les implications des données collectées. Avec des enquêtes récentes montrant que plus de 40% des entreprises utiliser des évaluations des capacités cognitives lors de l’embauche, les régulateurs fédéraux de l’emploi ont commencé à y prêter attention.
Une fois les travailleurs embauchés, de nouveaux appareils portables sont intégrer l’évaluation du cerveau dans les lieux de travail dans le monde entier pour la surveillance de l’attention et notation de la productivité au travail. Le SmartCap suit la fatigue des travailleurs, Casque Enten de Neurable promouvoir la concentration et Les écouteurs MN8 d’Emotiv promettent de surveiller “les niveaux de stress et d’attention de vos employés à l’aide d’algorithmes d’apprentissage automatique exclusifs” – même si, assure l’entreprise, ils “ne peuvent pas lire les pensées ou les sentiments”.
L’utilisation croissante d’appareils portables axés sur le cerveau sur le lieu de travail exercera sans aucun doute une pression sur les gestionnaires pour qu’ils utilisent les informations recueillies auprès d’eux pour éclairer les décisions d’embauche et de promotion. Nous sommes vulnérables à la allure séduisante des explications neuroscientifiques pour des phénomènes humains complexes et attirés par la mesure même quand nous ne savons pas ce que nous devrions mesurer.
S’appuyer sur des tests cognitifs et de personnalité basés sur l’IA peut conduire à des explications simplistes du comportement humain qui ignorent les facteurs sociaux et culturels plus larges qui façonnent l’expérience humaine et prédisent le succès au travail. Une évaluation cognitive pour un ingénieur logiciel peut tester les compétences spatiales et analytiques mais ignorer la capacité à collaborer avec des personnes d’horizons divers. La tentation est de transformer la pensée et les sentiments humains en pièces de puzzle qui peuvent être triées de la bonne manière.
La Commission américaine pour l’égalité des chances en matière d’emploi semble avoir pris conscience de ces problèmes potentiels. Il a récemment publié un projet d’application lignes directrices sur « Discrimination à l’emploi liée à la technologie », y compris l’utilisation de la technologie pour « des outils de recrutement, de sélection ou de production et de gestion des performances ».
Bien que la commission n’ait pas encore précisé comment les employeurs peuvent se conformer aux lois de non-discrimination lors de l’utilisation d’évaluations technologiques, elle devrait veiller à ce que les tests cognitifs et de personnalité soient limités aux compétences liées à l’emploi, de peur qu’ils n’empiètent sur la vie privée mentale des employés.
La puissance croissante de ces outils peut inciter les employeurs à « pirater » le cerveau des candidats et à les filtrer en fonction de croyances et de préjugés, en supposant que de telles décisions ne sont pas illégalement discriminatoires parce qu’elles ne sont pas directement fondées sur des caractéristiques protégées. Les “j’aime” de Facebook peuvent déjà être utilisés pour déduire l’orientation sexuelle et la race avec une précision considérable. L’appartenance politique et les croyances religieuses sont tout aussi facilement identifiables. Alors que les appareils portables et les programmes de bien-être cérébral commencent à suivre les processus mentaux au fil du temps, le déclin cognitif lié à l’âge deviendra également détectable.
Tout cela indique un besoin urgent pour les régulateurs d’élaborer des règles spécifiques régissant l’utilisation des tests cognitifs et de personnalité sur le lieu de travail. Les employeurs devraient être tenus d’obtenir le consentement éclairé des candidats avant qu’ils ne subissent une évaluation cognitive et de la personnalité, y compris une divulgation claire de la manière dont les données des candidats sont collectées, stockées, partagées et utilisées. Les régulateurs devraient également exiger que les évaluations soient régulièrement testées pour la validité et la fiabilité afin de s’assurer qu’elles sont exactes, reproductibles et liées aux performances et aux résultats au travail – et qu’elles ne sont pas indûment sensibles à des facteurs tels que la fatigue, le stress, l’humeur ou les médicaments.
Les outils d’évaluation doivent également être régulièrement audités pour s’assurer qu’ils ne discriminent pas les candidats en fonction de l’âge, du sexe, de la race, de l’origine ethnique, du handicap, des pensées ou des émotions. Et les entreprises qui développent et administrent ces tests doivent les mettre à jour régulièrement pour tenir compte de l’évolution des facteurs contextuels et culturels.
Plus généralement, il convient de se demander si ces méthodes d’évaluation des candidats à un emploi ne promeuvent pas des visions trop réductrices des capacités humaines. Cela est d’autant plus vrai que les capacités des travailleurs humains sont plus fréquemment comparées à celles de l’IA générative.
Bien que l’utilisation des évaluations cognitives et de la personnalité ne soit pas nouvelle, la sophistication croissante des neurotechnologies et des outils basés sur l’IA pour décoder le cerveau humain soulève d’importantes questions éthiques et juridiques sur la liberté cognitive.
L’esprit et la personnalité des employés doivent faire l’objet de la protection la plus stricte. Bien que ces nouveaux tests puissent offrir certains avantages aux employeurs, ils ne doivent pas se faire au détriment de la vie privée, de la dignité et de la liberté de pensée des travailleurs.
Nita Farahany est professeur de droit et de philosophie à l’Université Duke et auteur de “La bataille pour votre cerveau : Défendre le droit de penser librement à l’ère de la neurotechnologie”.
