Meta a supprimé le Système IA Galactica qui a créé de faux articles universitaires après de nombreuses critiques sur Twitter, quelques jours seulement après son lancement. Le système a écrit des articles qui semblaient vaguement plausibles mais qui étaient finalement complètement absurdes.
Après la sortie du système le 15 novembre, il a dû être retiré après les critiques d’experts et d’utilisateurs de médias sociaux soulignant l’absurdité totale que l’IA, Large Language Model (LLM), a écrite sur papier.
L’IA est capable de produire des mots liés au même thème mais n’a aucune compréhension logique lorsqu’ils sont assemblés. L’expert en IA David Chapman a fourni un exemple des articles illogiques créés par l’IA à l’aide d’un article de Wikipédia sur les “ours dans l’espace” qui était lié au réseau de neurones.
Marcus pense que l’IA a été publiée prématurément, tweeter que “la réalité est que les grands modèles de langage comme GPT-3 [and] Les Galactica sont comme des taureaux dans un magasin de porcelaine, puissants mais téméraires. Et ils sont susceptibles d’augmenter considérablement le défi de la désinformation.”
Yann LeCun, scientifique en chef de l’IA chez Meta, a exprimé son mécontentement face au retrait et aux critiques constantes, affirmant qu'”il n’est plus possible de s’amuser en l’utilisant à mauvais escient”.
