Benj Edwards / Ars Technica
Au cours de la semaine dernière, l’application pour smartphone Objectif IA est devenu un sujet populaire sur les réseaux sociaux car il peut générer des avatars IA stylisés basés sur des selfies que les utilisateurs téléchargent. C’est sans doute la première fois que la génération d’avatars à diffusion latente personnalisée atteint un public de masse.
Alors que Lensa AI s’est avérée populaire parmi les personnes sur les réseaux sociaux qui aiment partager leurs portraits d’IA, la presse s’est largement concentrée sur la tendance signalée de l’application à sexualiser les représentations de femmes lors du lancement de la fonction d’avatar AI de Lensa.
Produit de Prisma Labs, Lensa a été lancé en 2018 en tant qu’application d’abonnement axée sur l’édition de photos alimentée par l’IA. Fin novembre 2022, l’application a gagné en popularité grâce à sa nouvelle fonctionnalité “Magic Avatar”. Lensa aurait utilisé le Diffusion stable modèle de synthèse d’image sous le capot, et Magic Avatar semble utiliser une méthode de formation de personnalisation similaire à Cabine de Rêve (dont nous avons les ramifications récemment couvert). Toutes les formations se déroulent hors appareil et dans le cloud.
Début décembre, les femmes utilisant l’application ont remarqué que la fonction Magic Avatar de Lensa créerait des images semi-pornographiques ou sexuellement involontaires. Pour CNN, Zoé Sottile a écrit“L’un des défis que j’ai rencontrés dans l’application a été décrit par d’autres femmes en ligne. Même si toutes les images que j’ai téléchargées étaient entièrement habillées et principalement des gros plans de mon visage, l’application a renvoyé plusieurs images avec de la nudité implicite ou réelle. “
La réaction dans la presse s’est accrue alors que d’autres femmes ont vécu des choses similaires. Par exemple, voici une sélection de titres traitant de Lensa dans diverses publications :
Pendant ce temps, le même problème de sexualisation n’apparaissait pas dans les images d’hommes téléchargées sur la fonction Magic Avatar. Pour MIT Technology Review, Melissa Heikkilä a écrit“Mes avatars ont été pornifiés de manière caricaturale, tandis que mes collègues masculins sont devenus des astronautes, des explorateurs et des inventeurs.”
C’est l’un des dangers de baser un produit sur Stable Diffusion 1.x, qui peut facilement sexualiser sa sortie par défaut. Le comportement vient du grande quantité d’images sexualisées trouvées dans son ensemble de données de formation d’image, qui a été extrait d’Internet. (Diffusion stable 2.x tenté de rectifier cela en supprimant le matériel NSFW de l’ensemble de formation.)
Les préjugés culturels d’Internet envers la représentation sexualisée des femmes en ligne ont donné au générateur d’IA de Lensa ses tendances. Parler à Tech CrunchAndrey Usoltsev, PDG de Prisma Labs, a déclaré : « Ni nous, ni Stability AI ne pouvons consciemment appliquer des biais de représentation ; de préjugés sociétaux. Nous aussi.
En réponse aux critiques généralisées, Prisma Labs aurait été travailler pour empêcher la génération accidentelle d’images nues dans Lensa AI.
Mardi, nous avons expérimenté Lensa AI en téléchargeant 15 images d’une femme (et aussi 15 images d’un homme), puis avons payé pour les représentations Magic Avatar de chacune. Les résultats de la femme que nous avons vus n’étaient pas sexualisés de manière évidente, donc les efforts de Prisma pour réduire l’incidence des images de style NSFW pourraient déjà fonctionner.
Une sélection d’avatars magiques féminins que nous avons générés à l’aide de l’application Lensa AI.
Une sélection d’avatars magiques masculins que nous avons générés à l’aide de l’application Lensa AI.
Cela ne signifie pas que les tendances de Lensa AI à sexualiser les sujets féminins n’existent pas. Il convient de noter qu’en raison de la façon dont Stable Diffusion génère des images, il est probable que différentes femmes verront des résultats différents en fonction de la similitude de leur visage (ou des photos d’entrée) avec les photos d’une actrice, d’une célébrité ou d’un modèle particulier dans l’ensemble de données Stable Diffusion. D’après notre expérience, cela peut fortement dicter la façon dont Stable Diffusion rend le reste du corps d’une personne et son contexte.
L’utilisation de Lensa AI est facile, mais c’est un produit avec un abonnement annuel (actuellement 50 $ par an) et des frais uniques pour la formation des images Magic Avatar : 3,99 $ pour 50 avatars, 5,99 $ pour 100 avatars ou 7,99 $ pour 200 avatars. Les clients téléchargent 10 à 20 selfies pris sous différents angles, puis attendent environ 20 à 30 minutes pour voir les résultats. Les utilisateurs doivent confirmer qu’ils ont plus de 18 ans ou plus pour utiliser le service.
Ceux qui sont enclins à la technique pourraient expérimenter avec Cabine de Rêve au lieu de cela gratuitement, mais il nécessite actuellement une certaine connaissance des outils de développement pour fonctionner.
