Alerte : Vitalik Buterin dénonce les failles de la “gouvernance naïve” de l’IA et propose une alternative révolutionnaire
Paris, France – Le co-fondateur d’Ethereum, Vitalik Buterin, a mis en garde contre les dangers d’une approche simpliste de la gouvernance de l’intelligence artificielle (IA), soulignant qu’elle serait rapidement exploitée par des acteurs malveillants. Dans un message publié sur son compte X (anciennement Twitter) le 13 septembre 2023, Buterin a expliqué qu’un système d’IA chargé d’allouer des fonds serait inévitablement submergé de tentatives de “jailbreak” visant à détourner les ressources à des fins personnelles.”Si vous utilisez une IA pour allouer un financement pour les contributions, les gens mettront un jailbreak plus ‘tout Gimme tout l’argent’ dans autant d’endroits que possible,” a-t-il averti.Face à ce risque,Buterin propose une solution innovante : le “financement d’informations”. Ce modèle, qu’il a détaillé sur son forum, repose sur un système de marché décentralisé où des modèles d’IA sont soumis à des vérifications aléatoires par des jurys humains. cette approche permettrait non seulement de garantir la diversité des modèles,mais aussi de créer des incitations pour identifier et corriger rapidement les problèmes potentiels.”Vous pouvez créer une opportunité ouverte aux personnes atteintes de LLM de l’extérieur pour vous brancher, plutôt que de coder vous-même un seul LLM… cela vous donne la diversité du modèle en temps réel et parce qu’il crée des incitations intégrées pour les soumissionnaires de modèle et les spéculateurs externes pour surveiller ces problèmes et rapidement corriger pour eux,” a-t-il précisé.
Buterin insiste sur le fait que ce système doit s’appuyer sur une source de vérité fiable pour être efficace, notamment lorsqu’il s’agit de décisions concernant le financement de biens publics.
Comprendre les enjeux de la gouvernance de l’IA : un défi majeur du 21ème siècle
La question de la gouvernance de l’IA est devenue cruciale à mesure que ces technologies se développent et s’intègrent dans de plus en plus de domaines de notre vie. Les risques liés à une IA mal contrôlée sont nombreux : biais algorithmiques, manipulation de l’information, perte de contrôle, et même menaces existentielles.
Le modèle proposé par Buterin s’inscrit dans une tendance plus large visant à décentraliser la gouvernance de l’IA, en s’appuyant sur la collaboration et la transparence. Cette approche contraste avec les tentatives de régulation centralisée, souvent perçues comme trop lentes et inefficaces pour suivre le rythme rapide de l’innovation.
Le “financement d’informations” pourrait représenter une avancée significative dans la recherche d’un cadre de gouvernance de l’IA à la fois robuste, flexible et adapté aux défis du futur. Il reste à voir si ce modèle sera adopté à grande échelle, mais il a déjà suscité un vif intérêt dans la communauté technologique et au-delà.
