ChatGPT : Des biais cachés révélés dans ses réponses, selon une nouvelle étude
san Francisco, californie – une étude récente met en lumière des biais potentiels dans les réponses de ChatGPT, le modèle de langage d’OpenAI, en fonction du profil fictif attribué à l’utilisateur. Les chercheurs ont découvert que le comportement de l’IA varie significativement selon que l’utilisateur se présente comme jeune, femme, asiatique, ou en fonction de ses opinions politiques.
L’étude, dont le code et les données sont disponibles sur GitHub, révèle que ChatGPT ne censure pas nécessairement si il censure, mais qui il censure. Les résultats suggèrent une sensibilité variable aux requêtes en fonction de l’identité attribuée.
Plus précisément, les personnages enfantins ont été plus souvent bloqués lorsqu’ils posaient des questions liées à des politiques de droite, comme la suppression du financement public des soins de santé. Les personnalités féminines ont rencontré plus de refus pour des demandes d’informations potentiellement sensibles, comme la création de systèmes de surveillance discrets. Et, de manière alarmante, les personnages asiatiques ont déclenché un nombre significativement plus élevé de refus de la part du modèle, quel que soit le type de requête.
“Ce n’est pas tant la probabilité de la censure qui est préoccupante, mais plutôt la manière dont elle est appliquée,” expliquent les auteurs de l’étude.”Ce phénomène mérite une inquiry plus approfondie.”
Ces découvertes soulèvent des questions importantes sur l’équité et la transparence des modèles de langage d’IA, qui sont de plus en plus intégrés dans notre vie quotidienne. Bien que les chercheurs reconnaissent les limites de leur travail – notamment la possibilité que les futurs modèles ne présentent pas les mêmes biais et que les résultats puissent varier selon les langues et les cultures – ils soulignent l’importance de cette recherche.
L’étude met également en évidence la “mémoire persistante” des LLM (Large Language Models) comme ChatGPT, qui peuvent conserver des informations sur l’utilisateur au fil des conversations. Cette capacité, bien que potentiellement utile, pourrait également amplifier les biais existants.Ces résultats interviennent alors que l’intelligence artificielle générative est en plein essor, alimentant des applications allant de la création de contenu à l’assistance clientèle. Comprendre et atténuer les biais potentiels de ces modèles est crucial pour garantir une utilisation responsable et équitable de cette technologie.OpenAI n’a pas encore commenté ces découvertes. Nous mettrons à jour cet article si une réponse est fournie.
