La Chine peut-elle faire appel à l’IA ? | heise en ligne

Lorsque Baidu a finalement présenté au public son très attendu concurrent ChatGPT, Ernie (Enhanced Representation through Knowledge Integration), fin mars 2023, un mème a rapidement fait le tour des réseaux sociaux chinois : une berline noire avec des doubles portes ouvertes garée dans un endroit sombre. ruelle à côté d’une benne sale et bosselée. ChatGPT est écrit sur la limousine, tandis que la benne porte le nom chinois du robot Ernie.

Publicité

Mais la question de savoir si le chatbot phare de la Chine est un échec ne se limite pas à une simple insatisfaction face à un mauvais logiciel. Derrière le regard critique porté sur Ernie se cache la question suivante : la Chine peut-elle faire de l’IA ? Notre auteur Eva Wolfgangel aborde cette question dans le dernier article Numéro 1/2024 de la revue technologique du MIT après.

Comment le robot Ernie se compare-t-il ?

Il existe aujourd’hui environ 130 modèles linguistiques majeurs en Chine. Cependant, comme ceux-ci ne sont généralement accessibles qu’aux utilisateurs chinois, les modèles chinois ne peuvent pas être facilement testés avec les benchmarks désormais courants. et placez-les dans un classement correspondant.

Les rapports sur la qualité des modèles sont donc plutôt anecdotiques. Les experts ne veulent pas être cités publiquement avec une évaluation. Cependant, après une mise à jour en octobre, de nombreuses personnes interrogées voient Ernie à peu près au même niveau que ChatGPT 3.5 – environ un an de retard sur le développement aux États-Unis. UN comparaison récemment publiée du service en ligne China Talk voit cependant le chatbot Kimi de la start-up Moonshot AI avancer – entre autres parce que le modèle de langage peut traiter jusqu’à 200 000 caractères chinois en entrée.

Outre les problèmes techniques, les développeurs chinois sont principalement confrontés à des obstacles réglementaires. En mars de cette année, la Chine est devenue le premier pays au monde à adopter une réglementation sur l’IA générative. Selon Helen Toner, du groupe de réflexion américain Center for Security and Emerging Technology (CSET), le premier projet de règlement était assez strict, ce qui a ensuite conduit à un conflit d’objectifs : « D’un côté, l’État veut soutenir le l’industrie et devenir un leader dans le domaine de l’IA”, dit-elle. “D’un autre côté, il veut en même temps garder le contrôle.”

Base de données de 1000 questions sensibles

Yiqin Fu, politologue à l’université de Stanford, estime que la loi était trop générale dans de nombreux endroits, ce qui ne permettait pas aux entreprises de savoir si elles se comportaient correctement : « Elles voulaient se comporter conformément à la loi, mais elles ne savaient pas comment. ” Cela a désormais changé : en octobre, l’Information Security Standards Committee a publié un projet d’« exigences de base » pour la sécurité de l’IA générative avec des normes techniques : entre autres, les fournisseurs de modèles d’IA doivent sélectionner au hasard 4 000 points de données dans chaque corpus de formation et examinez-les pour détecter d’éventuelles déclarations interdites. Au moins 96 pour cent d’entre eux doivent être considérés comme acceptables ou le corpus doit être mis sur liste noire. Les données de formation acceptées doivent également être filtrées pour détecter les contenus interdits. Les prestataires doivent également créer une base de données de 1 000 questions pour tester le refus de réponse du modèle. Il doit refuser de répondre à au moins 95 pour cent des questions auxquelles il ne doit pas répondre. Ces questions doivent couvrir des sujets délicats et sensibles tels que la politique, la religion, etc.

Cette réglementation stricte ralentit le progrès technique et fait ainsi obstacle à l’objectif consistant à atteindre le leadership technologique en matière d’IA d’ici 2030. “La Chine a adopté une approche de lutte contre les incendies”, explique Jinghan Zeng, professeur d’études chinoises et internationales à l’Université de Lancaster : attendre puis réglementer lorsque des incidents se produisent. Il est désormais devenu clair pour le parti que l’IA générative doit être réglementée immédiatement « afin qu’elle continue de soutenir les valeurs chinoises ».

En Chine, cependant, il existe un phénomène qui façonne la politique et donc aussi la population ainsi que l’économie : Fang-Shou, dérivé des deux verbes Fang (se remettre) et Shou (se tendre). Signification : Une phase de tension ou de contrôle accru est toujours suivie d’une phase d’ouverture et de relâchement – et vice versa. Zeng ne pense donc pas que la réglementation en Chine freine considérablement l’innovation. “L’approche européenne ralentira davantage que l’approche chinoise”, prédit-il, “par rapport à l’approche chinoise, celle-ci est beaucoup plus restrictive”. Et la Chine a un net avantage : l’accès à de nombreuses données. “La Chine est encore loin derrière les Etats-Unis, mais cela va changer.”

Lisez la revue technologique du MIT ici :

(wst)