MOSS, le premier modèle de langage conversationnel à grande échelle en Chine, sera rendu open source d’ici la fin mars, a annoncé dimanche l’équipe de recherche et de développement.
Nommé d’après l’intelligence artificielle présentée dans le film de science-fiction chinois Le Terre errante IIMOSS est devenu le premier logiciel de type ChatGPT dévoilé en Chine lorsqu’il a été mis à la disposition du public pour des tests le 20 février.
De nombreuses personnes ont rapidement testé le logiciel et partagé leurs expériences en ligne. En fait, le trafic était si important que la plate-forme a dû être suspendue pour une mise à niveau en raison d’une surcharge.
“Le plan est de faire interagir MOSS avec les humains pendant un mois afin de l’optimiser. Si tout se passe bien, il sera rendu open source d’ici la fin mars”, a déclaré Qiu Xipeng, directeur du Natural Language Processing Committee de Shanghai. Computer Society, qui dirige le développement de MOSS, a déclaré à Paper.cn lors de la conférence mondiale des développeurs d’intelligence artificielle 2023 (GAIDC) à Shanghai dimanche.
Qiu, qui est également professeur à l’École d’informatique et de technologie de l’Université de Fudan, a ajouté que, comme ChatGPT n’est pas open source et que les détails de ses solutions techniques n’ont pas été rendus publics, il y a des doutes quant à savoir si le chatGPT-like modèle basé sur la technologie d’apprentissage de l’instruction peut être développé avec succès en Chine.
“MOSS a encore beaucoup de place pour l’amélioration”, a déclaré Qiu. “Mais son avènement prouve que l’équipe de recherche scientifique nationale a la capacité de surmonter d’importants défis techniques sur la voie du développement de produits de type ChatGPT.”
MOSS a ouvert toutes les voies techniques pour que les modèles de langage génératif comprennent les intentions humaines et aient des capacités de dialogue, a noté Qiu, avant de souligner que le projet a reçu un fort soutien du Laboratoire d’intelligence artificielle de Shanghai.
“Les modèles de langage à grande échelle sont presque monopolisés par les pays étrangers. Ils ne développent que des API ou ne nous les ouvrent pas”, a déclaré Qiu. “Nous espérons partager les codes MOSS et modèles et l’expérience de développement avec tout le monde, et espérons que la Chine pourra être à l’avant-garde du monde en termes de modèles linguistiques à grande échelle.”
Le seuil de développement des modèles de langage pré-entraînés est très élevé, nécessitant beaucoup de puissance de calcul, de corpus d’apprentissage et d’annotation manuelle, selon Qiu.
Rendre MOSS open source peut réduire efficacement le seuil de développement et d’application de modèles de langage pré-formés, permettant ainsi aux petites et moyennes entreprises de développer divers produits verticaux tels que le service client intelligent, la maison intelligente et les avocats de l’intelligence artificielle sur la base de cela, dit-il.
« Nous attendons avec impatience la poursuite de la coopération entre l’équipe Fudan et le Laboratoire d’intelligence artificielle de Shanghai, par le biais du MOSS et des recherches et explorations ultérieures, afin de promouvoir l’inclusivité de l’IA et de renforcer l’industrie nationale de l’intelligence artificielle dès que possible », a déclaré Qiu.
