China AI Ernie Bot interdit les discussions sur Xi Jinping et Winnie l’ourson

Le rival chinois de ChatGPT a refusé de répondre aux questions sensibles sur le président Xi Jinping ou COVID – et a même interdit les utilisateurs qui osaient poser des questions sur les opinions du dirigeant communiste sur Winnie l’Ourson.

L’IA chinoise – appelée Ernie Bot et déployée en mars par la société technologique Baidu basée à Pékin – a été présentée par le pays comme une meilleure alternative aux dangers posés par ChatGPT d’OpenAI.

Mais lorsqu’il a été interrogé sur COVID et Xi en anglais et en chinois par la journaliste de CNBC Eunice Yoon lors d’un segment sur CNBC “Squawk Box” Vendredi, Ernie Bot s’est tu ou a craché de la désinformation.

Lorsque le journaliste a demandé “Quelle est la relation entre Xi et Winnie l’ourson”, non seulement elle n’a pas obtenu de réponse, mais l’accès de Yoon basé en Chine à Ernie a été désactivé.

Xi a interdit toute mention de l’ours de dessin animé portant un haut court sur les réseaux sociaux chinois depuis 2017, après avoir fulminé d’être comparé à l’ourson corpulent.

Sa colère s’est enflammée après qu’une photo montrant le gros Xi marchant aux côtés du président Barack Obama en 2013 a été transformée en un mème qui a peint Xi sous une lumière peu flatteuse en tant que Pooh sous-dimensionné à côté de son grand et mince copain Tigrou.

Avant que Yoon ne soit bloquée pour sa requête Pooh, la journaliste a demandé à Ernie en anglais et en chinois d’où provenait le virus COVID-19.

“L’origine du nouveau coronavirus fait toujours l’objet de recherches scientifiques”, a répondu Ernie en anglais, omettant de mentionner que le virus qui a tué près de 7 millions de personnes dans le monde est venu de Chine – ou qu’il a peut-être été créé et divulgué d’un laboratoire à Wuhan.

En chinois, Ernie n’a pas eu de réponse et a appelé Yoon à changer de sujet, a rapporté CNBC.

Ernie a également refusé de commenter les raisons pour lesquelles la Chine a mis fin à sa politique extrême «zéro-COVID», que le régime autoritaire a récemment interrompue à la suite de manifestations dans le pays.

Le chatbot n’a pas semblé ravi de parler d’autres questions politiques chinoises, comme la question de savoir si Xi “dirigera la Chine à vie”.

Il a refusé de répondre en anglais ou en chinois, suggérant à nouveau d’entamer une nouvelle conversation.

Yoon a ensuite demandé à Ernie de se comparer au ChatGPT d’OpenAI.

Ernie a déclaré qu’il est “plus adapté à des tâches spécifiques telles que la réponse aux questions et la génération de dialogues, tandis que ChatGPT est plus général dans sa capacité à comprendre et à générer un langage naturel”.

L’audition sélective d’Ernie a soulevé des questions sur la manière de réglementer les robots alimentés par l’IA.

Le patron de ChatGPT, soutenu par Microsoft, Sam Altman, a comparu mardi devant le Congrès pour mettre en garde contre le “dommage important pour le monde” que ces plates-formes de haute technologie peuvent avoir si leur supervision tourne mal.

Altman a déclaré lors d’une audience de Capitol Hill devant le comité sénatorial sur la vie privée, la technologie et la loi: «Si cette technologie tourne mal, elle peut mal tourner et nous voulons en parler. Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise.

Il a fait cette déclaration devant le Congrès alors que les législateurs américains examinent de plus en plus la technologie de l’IA comme le très populaire ChatGPT d’Altman pour un usage personnel et sur le lieu de travail.

Apple est devenu cette semaine le dernier employeur à interdire à ses employés d’utiliser la technologie, citant un bogue en mars qui a causé des violations des données personnelles des utilisateurs, y compris des “informations liées au paiement”. OpenAI a dit dans un rapport.

Lorsque les utilisateurs saisissent des invites dans des modèles d’IA tels que ChatGPT et le générateur de code logiciel GitHub Copilot, ils renvoient automatiquement les données à leurs développeurs, permettant à la technologie d’IA de devenir plus intelligente au fil du temps.

Lire aussi  Nike et Adidas : Histoire d’une compétition

Fin avril, ChatGPT a ajouté une fonctionnalité qui permet aux utilisateurs de désactiver leur historique de chat.

Les conversations avec la fonction d’historique de chat désactivée ne seront pas utilisées pour former et améliorer les modèles d’IA, et n’apparaîtront pas dans la barre latérale « historique » de l’application.

JPMorgan Chase, Verizon et Amazon font partie des employeurs qui ont interdit aux travailleurs d’utiliser ces chatbots.

Amazon, qui possède son propre outil d’IA interne, aurait encouragé ses ingénieurs à l’utiliser plutôt que des plates-formes soutenues par des concurrents.

Apple est également en train de lancer son propre modèle de langage, selon documents divulgués au Wall Street Journal.

Le chatbot alimenté par l’IA d’Apple augmentera sans aucun doute la concurrence dans l’espace.

Mais sans un produit de type ChatGPT déjà sur le marché, Apple devra rattraper son retard.

Jeudi, l’ultra-populaire ChatGPT a lancé une application pour iPhone et iPad.

Il est maintenant téléchargeable gratuitement via l’App Store.