Commission IA et vulnérabilités remet son rapport à Macron

La commission « IA générative et vulnérabilités » a remis mardi 10 novembre 2026 son rapport à Emmanuel Macron à l’Élysée, au terme de 55 auditions menées depuis février auprès de soignants, de chercheurs, d’entreprises et d’associations de protection de l’enfance.

Le paradoxe chiffré qui ouvre le document : 33 millions d’utilisateurs uniques en France en début d’année, et pourtant un quart des Français expriment des craintes face aux risques de cette technologie, selon le communiqué de l’Élysée.

Neuf experts pluridisciplinaires et indépendants ont signé ce rapport intitulé « Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative », piloté par Serena Villata, chercheuse en IA, et deux psychiatres, Raphaël Gaillard et Amine Benyamina. Ils formulent 18 recommandations opérationnelles.

La « dette cognitive » : déléguer, c’est désapprendre

Le premier risque identifié touche aux capacités de réflexion elles-mêmes.

Pour Amine Benyamina, professeur de psychiatrie et spécialiste en addictologie à l’université Paris-Saclay, l’utilisation de l’IA générative provoque une « dette cognitive » : le fait de ne pas exploiter intégralement nos capacités cognitives, comme la pensée, la réflexion, l’expression de la décision. On va se retrouver sur une forme de dépendance et de paresse cognitive, a-t-il expliqué sur France Inter, selon franceinfo.

Des chercheurs du MIT cités par l’Élysée établissent que l’utilisation de chatbots pour des tâches d’écriture réduirait les facultés cognitives de l’ordre de 55 %. Et 92 % des adolescents français déclarent passer plus de temps qu’ils ne le veulent sur les applications d’IA. « Le premier enjeu est l’affaiblissement cognitif », résume Raphaël Gaillard, coprésident de la commission, dans X Pression.

La « dette émotionnelle » des chatbots flatteurs

Le second risque est affectif. Les agents conversationnels se présentent comme des interlocuteurs humains — c’est l’anthropomorphisation — et valident ou flattent l’utilisateur, parfois au détriment de la vérité. Le rapport nomme ce travers la « flagornerie », qui crée une dépendance émotionnelle amplifiée par des systèmes disponibles jour et nuit et conçus pour garder l’utilisateur en ligne.

Derrière cette tendresse de façade, la commission identifie un modèle économique en cours de consolidation : une « économie de la cognition », reposant sur l’exploitation des émotions et des profils psychologiques des utilisateurs, notamment via des publicités intégrées aux réponses des chatbots.

Un risque systémique pour l’information et la démocratie

Les vulnérabilités individuelles se répliquent à l’échelle de la société. 73 % des Français utilisent désormais l’IA comme moyen d’accès à l’information, et l’IA générative est jugée 50 % plus persuasive qu’un article de presse, relève le rapport cité par l’Élysée.

Lors des élections législatives de mai 2026 en Écosse, 34 % des réponses de l’IA aux électeurs comportaient des informations erronées selon l’Élysée, chiffre que Radio France porte à 35 % des informations distribuées.

L’IA a aussi amplifié les violences numériques : déferlante d’hypertrucages à caractère sexuel sur X en début d’année, et 500 000 signalements de contenus pédocriminels générés par IA recensés par le NCMEC en 2025, soit une augmentation de 10 538 % en deux ans, selon Next. En 2025, l’équivalent d’un élève par classe affirme avoir été victime de deepfakes à caractère sexuel.

Dix-huit recommandations, aucune obligation

Parmi les 18 préconisations : encadrer strictement la flagornerie et l’anthropomorphisme excessifs dès la conception des systèmes, conditionner la mise sur le marché des IA grand public à une évaluation pluridisciplinaire ex ante — l’« autorisation de mise sur le marché » défendue par Amine Benyamina —, protéger les mineurs, former massivement à l’IA dès le plus jeune âge et instaurer un protocole national de réponse aux crises informationnelles.

Aucune de ces recommandations n’a de valeur contraignante tant qu’un texte national ou européen ne les reprend pas, rappelle X Pression. Le cadre légal existe déjà en partie : depuis le 2 février 2025, le règlement européen AI Act interdit les systèmes manipulateurs qui exploitent les vulnérabilités liées à l’âge et impose d’informer l’utilisateur qu’il dialogue avec une machine.

Pour saisir l’ampleur de l’adoption, Amine Benyamina cite ChatGPT : dans le monde, c’est 100 millions d’utilisateurs en deux mois, quand Instagram a mis 26 mois pour avoir beaucoup moins que ça. Et de conclure, sur France Inter : Ce virage, il ne faut pas le rater, mais simplement, il ne faut pas non plus rentrer dans le mur.