Un rat avec un pénis géant créé avec l’IA suscite la polémique

Une étude publiée dans la revue Frontières a provoqué le mécontentement de la communauté scientifique. Des chercheurs de l’Université Jiaotong de Chine Ils ont utilisé l’intelligence artificielle pour générer des images d’un rat doté d’un pénis géant et un texte absurde pour illustrer une étude sur les fonctions cellulaires. Les auteurs ont avoué s’être appuyés sur Midjourney pour créer ces illustrations.

L’étude, publiée par Xinyu Guo et Liang Dong, chefs du service de chirurgie de la colonne vertébrale à l’hôpital Hong Hui en Chine, examine l’interrelation entre les cellules souches spermatogoniales (SSC) et la voie de signalisation JAK/STAT. Bien que le manuscrit n’aborde pas les effets sur la croissance excessive des organes sexuels d’un rat, les images disent le contraire.

Les chercheurs ont utilisé illustration d’un rat avec un pénis gigantesque pour montrer les cellules souches spermatogoniales. La description indique qu’ils ont été « isolés, purifiés et cultivés à partir de testicules de rat », qui sont également disproportionnés. L’article mentionne À mi-parcoursl’outil d’IA qui génère des images à travers du texte.

Bien que le rat au pénis géant soit la partie la plus controversée de l’étude, toutes les images incluent des erreurs typiques de l’IA, telles que du texte inutile. Des expressions telles que « testtomcels » ou « dick » accompagnent l’un des diagrammes, tandis que d’autres montrent parties de cellules qui n’existent pas. Les scientifiques chinois pensaient que des diagrammes colorés pourraient les aider à comprendre le manuscrit, mais ils ont en réalité travaillé contre eux.

Le plus inquiétant est peut-être que cette publication est passée inaperçue. D’accord avec Carte mère, l’un des chercheurs responsables de l’évaluation par les pairs s’est lavé les mains.

Un rat avec un pénis géant montre les ravages que l’IA peut causer dans le monde scientifique

Face aux accusations, le magazine Frontières a retiré l’article et a annoncé qu’il ouvrirait une enquête. “Dès sa publication, des inquiétudes ont été soulevées quant à la nature des images générées par l’IA. L’article ne répond pas aux normes de rigueur éditoriale et scientifique de”Frontières de la biologie cellulaire et du développement“Par conséquent, l’article a été rétracté”, a indiqué l’éditeur.

Selon les lignes directrices établies par Frontière, les auteurs sont autorisés à utiliser l’IA dans leurs publications. Cela inclut le texte généré par ChatGPT ou Jasper et les images créées dans DALL-E, Midjourney et Stable Diffusion. Ces contenus doivent suivre les politiques générales de la revue scientifique, qui déterminent que L’auteur est responsable de vérifier l’exactitude de tout contenu créé avec l’IA.

La Un rat au pénis géant prouve que l’intelligence artificielle est partout et peut représenter un problème pour la communauté scientifique. Les politiques de Frontière et d’autres revues laissent la vérification des données entre les mains des auteurs. Par la suite, l’éditeur se charge de réaliser une première analyse avant de l’envoyer en revue par les pairs, réalisée par des experts en la matière.

Jingbo Dai, un chercheur de l’Université Northwestern qui a examiné le manuscrit du rat, a déclaré que la responsabilité ultime incombait à Frontières. “Pour les images générées par l’IA, puisque l’auteur a cité Midjourney, il est de la responsabilité de l’éditeur de prendre la décision“, a-t-il déclaré.

Selon Microsoft, les fausses images créées grâce à l’intelligence artificielle constituent l’un des plus grands dangers auxquels nous sommes confrontés. Brad Smith, président de l’entreprise technologique, a déclaré que des acteurs malveillants pourraient profiter d’outils tels que Midjourney ou Stable Diffusion pour modifier un contenu légitime dans le but de tromper les gens.