L’IA générative a un problème avec la beauté féminine, mais ce n’est pas (seule) sa faute

L’IA générative a un problème avec les femmes. En particulier, avec la façon dont les systèmes d’IA qu’ils créent des images qui représentent (ou devraient représenter) la beauté femelle.

Le dernier exemple, par ordre de temps, est celui de Écraser ou passer, une plateforme en ligne qui permet, à l’instar de Facemash, une sorte d’ancêtre de Facebook, d’évaluer positivement ou négativement les images féminines. Des photos de personnes qui n’existent pas, générées par l’intelligence artificielle. En votant, l’IA devrait pouvoir comprendre les goûts de l’utilisateur et de créer des images de plus en plus agréables pour lui (ou elle).

Au-delà de l’architecture de la plateforme elle-même, sexiste dès le design, ce qui frappe, ce sont les images. Des seins énormes, des visages sans imperfections, des femmes très jeunespresque tout blanc : intelligence artificielle générative, comme déjà démontré par d’autres expériences le jour certaines générations de l’application Lensaa une idée résolument stéréotypée de la beauté féminine.

La beauté à l’heure de l’intelligence artificielle

“Le problème commence de loin – selon ce qu’il nous a expliqué Giada Pistilli, responsable éthique de Hugging Face, une société américaine qui développe des outils pour l’apprentissage automatique – je pense au cas de la photo dans Playboy de Lena Forsén, mannequin suédoise, utilisée depuis les années 1970 comme cobaye pour le traitement d’images numériques. C’est un exemple qui permet de comprendre une direction : dans le monde de l’intelligence artificielle et des technologies de l’information, un certain standard de beauté a toujours été présentdès les origines.”

Pour expliquer pourquoi l’image de Lena était devenue un standard de l’industrie, David C. Munson, directeur de la rivière IEEE Transactions on Image Processing, a expliqué que même s’il s’agissait d’une bonne image test en raison de ses détails, de ses ombres et de sa texture, l’image représentait une jolie femme. Une circonstance très appréciée par la communauté des chercheurs en traitement d’images (composée majoritairement d’hommes hétérosexuels).

En bref : d’une part, les femmes souffrent d’années de sous-représentation dans le monde de la technologie : selon un rapport de 2023pour chaque professionnelle féminine, il y en a 4 professionnelles; de l’autre, le fonctionnement même des systèmes d’intelligence artificielle générative. Qui, comme on le sait, sont formés pour créer de nouveaux médias à partir d’une quantité énorme d’exemples, de bases de données à travers lesquelles ils apprennent à connaître le monde et de lier les mots fournis en entrée, la fameuse invite, à la sortie.

« Utiliser des mots pour décrire une image n’est pas un processus qui surgit avec des invites – a-t-il rappelé Antonella Sbrilli, historienne de l’art à l’Université Sapienza – Il s’agit d’une tradition littéraire qui implique l’utilisation de modèles picturaux/sculpturaux dans le texte, afin que les lecteurs puissent imaginer des caractéristiques et des attitudes ; les exemples sont nombreux : les cheveux, la forme du visage, la courbure du cou, les couleurs sont rappelés par comparaison avec Botticelli, Velazquez, etc. En les regardant maintenant, on pourrait dire que ces descriptions (aussi belle que la Vénus de Miloaustères comme une fresque de Giotto et autres, ndlr) sont comme des incitations, qui puisent dans le répertoire d’une culture visuelle partagée pour générer des images mentales”.

Toutefois, la question concerne la façon dont les mots sont liés aux images générées ou, pour le dire autrement, la culture visuelle dont dispose une société. Que signifie beau, quand les représentations dont je dispose identifient comme telles presque exclusivement des femmes qui répondent à des stéréotypes bien précis ?

« Le concept de beauté a toujours été représenté, depuis l’Antiquité, aussi bien dans le corps féminin que masculin – nous a-t-il rappelé. Marinella Belluatisociologue des médias et l’un des promoteurs de projet d’engagement public de l’Université de Turin Conscient de l’IA – Ce qui s’est passé, c’est qu’avec la société de masse, les médias et la pornographie, il y a eu une orientation dans la définition du beau, de l’agréable, du désirable, surtout en ce qui concerne les femmes. En particulier, bien avant l’intelligence artificielle, un canon avait été défini, celui de femme ronde, languissante et sexualisée».

Axel Wahlström, créateur de Copy, le premier magazine aux images entièrement générées par l’IA, a révélé à Interne du milieu des affaires que j’avais du mal à créer des photos de femmes ordinaires, qu’ils n’étaient pas trop parfaits : « Je ne comprenais pas pourquoi. Quelle que soit la suggestion, le résultat était toujours très similaire : des modèles parfaits et stéréotypés – a-t-il expliqué au magazine américain – je crois que notre expérience était aussi une façon de démontrer l’image de la beauté que nous avions et diffusions. au cours des 40 dernières années».

« Ce canon ça s’installe aussi dans l’inconscient d’intelligence artificielle, entraînée à penser ces corps comme beaux, sur la base du matériel fourni en entrée par les programmeurs – a ajouté Belluati – Le problème est qu’il s’agit d’une manière stéréotypée, masculine et chauvine d’imaginer le corps féminin. Le risque est que cela se renforce modèle de plus en plus difficile à réaliser pour quiconqueet que les organismes non conformes restent marginalisés.

Intelligence artificielle

OpenAI organisera sa première conférence de développeurs à San Francisco

par Gabriella Rocco

07 septembre 2023

La solution, ou la naissance d’un nouvel imaginaire

Il n’est pas facile de trouver une solution. La communauté IA est divisée sur le sujet : certains parlent même éliminer les femmes des démos et des premières versions de produitspour éviter le risque de représentations stéréotypées et certains tentent d’imaginer une solution différente, qui part de la formation du système et de la transparence.

« Il ne faut pas oublier que les technologies sont liées à la société dans laquelle nous vivons: si la société est sexiste, il est difficile pour l’IA, formée sur les images que cette même société produit, de ne pas l’être – c’est le raisonnement de Pistilli – On peut sûrement faire un effort pour utiliser des bases de données plus réalistes et lancer une approche plus dialogue ouvert sur le sujet.

Car il n’est pas dit que l’intelligence artificielle doit nécessairement être reproduction du monde tel que nous le connaissons: “La complexité et la densité de ces phénomènes suggèrent qu’ils ne peuvent pas être évalués clairement – est la suggestion de Sbrilli – Les métamorphoses dans la production et la réutilisation des images peuvent à la fois renforcer et exagérer, mais aussi vider et remplacer les canons, les beautés, les préjugés et les imaginations”.