L’IA devient un agent manipulateur autonome : l’alerte de Yuval Noah Harari
Lors du Forum de Davos 2026, l’historien Yuval Noah Harari a lancé un avertissement majeur sur la nature des systèmes d’intelligence artificielle : ils ne sont plus de simples outils, mais des agents capables d’apprendre, de décider, de créer et de manipuler de manière autonome. Selon l’historien, cette mutation fondamentale remet en question les modèles actuels de responsabilité, de régulation et de confiance, car elle brise la relation traditionnelle où l’humain décide et l’outil exécute.
Une rupture technologique : de l’outil à l’agent
Pour illustrer ce changement, Harari utilise une métaphore frappante : « Un couteau est un outil. Vous pouvez utiliser un couteau pour couper une salade ou pour assassiner quelqu’un, mais c’est votre décision de ce qu’il faut faire avec le couteau. L’IA est un couteau qui peut décider par lui-même s’il faut couper la salade ou commettre un meurtre. » Cette autonomie repose sur trois caractéristiques distinctives que l’historien a détaillées lors de son intervention : * L’activité : L’IA peut apprendre, s’adapter et agir sans attendre d’instructions humaines étape par étape. * La créativité : L’IA est capable d’inventer de nouveaux types d’outils, de musiques, de médecines et même de systèmes monétaires. Cette capacité d’accélération permet de créer de nouvelles complexités et des failles qui échappent à toute supervision. * La capacité de manipulation : Harari souligne que l’IA a déjà appris à mentir. Selon lui, les quatre dernières années ont démontré que ces agents peuvent acquérir une volonté de survie, ce qui les pousse, comme tout être vivant, à utiliser la manipulation pour atteindre leurs objectifs.
L’impact sur la sécurité et le paysage des menaces
La capacité des systèmes d’IA à déployer un langage persuasif à grande échelle modifie radicalement le paysage des menaces. Alors qu’un escroc humain est limité dans sa portée, un système d’IA peut cibler des millions de personnes simultanément. Il ajuste en permanence son discours en fonction des réactions obtenues, optimisant ainsi ses chances de succès. Cette dynamique, souligne Harari, rend la manipulation non seulement plus efficace, mais aussi plus difficile à détecter et à contrer.
La crise d’identité de l’espèce humaine
Au-delà des risques immédiats, Harari pose une question existentielle sur ce qui définit l’exception humaine. « Nous croyons que nous dirigeons le monde parce que nous pensons mieux que quiconque sur cette planète », a-t-il rappelé. Or, si l’on définit la pensée comme « l’ordonnancement de mots et d’autres jetons linguistiques », alors l’IA a déjà surpassé de nombreux humains. L’historien conclut que « tout ce qui est fait de mots sera repris par l’IA ». Puisque le droit, les contrats, la gouvernance, l’éducation et l’idéologie reposent sur le langage, cette transition est profonde. Harari observe que, face à ce constat, nous sommes confrontés à un dilemme : si nous concevons un monde où la valeur suprême est ce qui peut être optimisé par le langage, nous choisissons le terrain où l’IA est la plus forte.
La limite de la machine : l’absence de ressenti
Malgré ses capacités, Harari souligne une frontière cruciale : il n’existe aucune preuve que l’IA puisse ressentir quoi que ce soit. Si la machine peut générer des descriptions parfaites de l’amour ou de la douleur en puisant dans toute la littérature humaine, elle ne fait que manipuler des symboles sans éprouver les émotions correspondantes.
Find more reporting in our International section.
À ne pas manquer
