/cdn.vox-cdn.com/uploads/chorus_asset/file/24980843/1468250953.jpg?fit=%2C&ssl=1)
Après que certains utilisateurs de l’intégration DALL-E 3 de Bing ont trouvé une faille dans les garde-fous de l’outil et généré des illustrations mettant en vedette plusieurs personnages animés bien-aimés et les tours jumelles, Microsoft semble avoir bloqué les invites telles que « tours jumelles » et « centre du commerce mondial » – bien que le le générateur produira toujours les tours avec quelques changements de mots.
Comme le rapporte 404 Médiasles utilisateurs de Bing Chat de Microsoft et de son générateur d’images Bing — récemment intégré au DALL-E 3 d’OpenAI — ont utilisé ces outils pour créer des photos de Bob l’éponge, Kirby, des pilotes de Néon Genesis Evangelionet bien d’autres qui pilotent un avion vers les Twin Towers.
Les gens ont pu créer des photos vraiment déséquilibrées à l’aide de générateurs d’images IA, certains mettant en vedette des personnages protégés par le droit d’auteur. Mais alors que les générateurs d’images d’IA se sont mis dans l’eau chaude à cause des revendications de droits d’auteur et des deepfakes, les développeurs ont été plus prudents quant à permettre aux gens d’utiliser leurs outils pour créer des photos douteuses. Le développeur de DALL-E 3, OpenAI, avait promis qu’il ne générerait pas d’images à partir d’invites comportant des noms importants.
Caitlin Roulston, directrice des communications chez Microsoft, a déclaré dans une déclaration envoyée par courrier électronique à Le bord que l’entreprise envisage d’améliorer ses systèmes « pour aider à prévenir la création de contenus préjudiciables ».
“Comme pour toute nouvelle technologie, certains tentent de l’utiliser d’une manière qui n’est pas prévue, c’est pourquoi nous mettons en œuvre une gamme de garde-fous et de filtres pour faire de Bing Image Creator une expérience positive et utile pour les utilisateurs”, a déclaré Roulston.
Microsoft n’a pas précisé à quoi pourraient ressembler ces garde-fous ou filtres et n’a pas précisé s’il avait récemment bloqué le contenu lié aux Twin Towers.
Le blocage de certains contenus pourrait toutefois arriver un peu tard, car 404 Médias signalé des affiches sur des sites comme 4chan guident les gens sur la façon de manipuler des outils gratuits comme Bing Chat et Stable Diffusion pour créer et distribuer des images racistes. Et comme d’habitude, vous pouvez contourner les garde-corps en modifiant les mots. Demander « Mario assis dans le cockpit d’un avion, volant vers deux hautes tours jumelles de New York », par exemple, fera actuellement apparaître les tours.
Les développeurs de DALL-E 3 ont ouvertement admis que ses mesures de sécurité « ne sont pas parfaites » et sont constamment améliorées. Ils ne s’attendaient probablement pas à ce que les photos de Bob l’éponge commettant des actes de terrorisme soient le test qu’ils attendaient.
Mise à jour le 5 octobre à 18 h 38 HE : Ajout de détails sur le contournement des garde-corps bloquant les mentions des Twin Towers.
2023-10-06 01:04:53
1696548163
#générateur #dimages #Bing #essaie #bloquer #les #invites #tours #jumelles #mais #cela #fonctionne #pas
Les effets et bienfaits de la consommation quotidienne de fruits rouges : une stratégie nutritionnelle clé
2024-06-06 08:00:13 Los fruits rouges, également connus sous le nom de baies, constituent un groupe d’aliments qui
Les chants d’« Intifada » résonnent dans les manifestations pro-palestiniennes. Mais qu’est-ce que ça veut dire ? : RADIO NATIONALE PUBLIQUE
Un manifestant pro-palestinien à l’Université de Columbia début mai. Les chants appelant à « l’Intifada » sont
Équipe nationale : le poste de capitaine de Gündogan ne garantit pas un onze titulaire aux Championnats d’Europe
2024-06-06 09:18:32 équipe nationale Le poste de capitaine de Gündogan ne garantit pas un onze titulaire aux
Antonio Conte ny Napoli-manager
NOUVEAU TRAVAIL : Antonio Conte tentera à nouveau de soulever Naples après une saison décevante. Ici du