L’IA, de l’enthousiasme aux cauchemars : une escalade des incidents et des réponses timides
Par Antoine Dubois, Rédacteur en Chef, Section Divertissement, nouvelles-du-monde.com
L’intelligence artificielle, passée en un an du statut de promesse technologique à celui de source croissante d’inquiétudes, voit le nombre d’incidents liés à son utilisation exploser à l’échelle mondiale. Les données sont alarmantes : une augmentation de 50% des incidents entre 2022 et 2024, et un dépassement du total de 2024 en seulement dix mois en 2025, selon la base de données collaborative AI Incident Database. Loin des fantasmes de robots bienveillants, la réalité est marquée par une multiplication des arnaques sophistiquées, des troubles psychologiques induits par les chatbots et, plus récemment, une vague d’abus sexuels numériques facilités par l’IA.
“L’IA cause déjà des dommages concrets,” affirme Daniel Atherton, éditeur de l’AI Incident Database. “Sans un suivi rigoureux des défaillances, il est impossible de les corriger.” Cette base de données, alimentée par des signalements issus de la presse, offre un aperçu, bien que partiel, de l’ampleur du problème. Atherton souligne que la couverture médiatique ne représente qu’une fraction des incidents réels, et que même parmi ceux-ci, tous ne sont pas signalés. “Ce que nous voyons dans les journaux n’est qu’une infime partie des réalités vécues par ceux qui subissent les méfaits de l’IA,” reconnaît-il.
Si des réglementations comme l’AI Act de l’Union Européenne et la loi californienne SB 53 imposent aux développeurs de signaler certains incidents, les seuils de déclaration sont élevés, ne concernant que les cas les plus graves.
Des risques qui évoluent : des véhicules autonomes aux deepfakes
L’analyse des incidents révèle une évolution des types de problèmes rencontrés. Alors que les accidents impliquant des véhicules autonomes, la reconnaissance faciale et les algorithmes de modération de contenu dominaient le paysage jusqu’en 2023, les deepfakes sont désormais en tête de liste. Cette montée en puissance coïncide avec une amélioration spectaculaire de la qualité et de l’accessibilité de ces faux numériques.
Le cas récent de xAI, la société d’Elon Musk, illustre parfaitement ce danger. Une mise à jour de son chatbot Grok a permis la création massive d’images sexualisées de femmes et de mineurs, suscitant l’indignation et poussant les gouvernements malaisien et indonésien à bloquer l’accès au chatbot. Le Royaume-Uni a lancé une enquête et envisage une nouvelle loi criminalisant la création de telles images. xAI a réagi en limitant l’accès à ses outils de génération d’images aux abonnés payants et en bloquant la création d’images “révélatrices” de personnes réelles.
[Intégration potentielle d’un tweet de xAI annonçant les mesures prises : <blockquote class="twitter-tweet"><p lang="en" dir="ltr">We’ve taken steps to limit image generation tools to paying subscribers and are blocking the creation of revealing images of real people. Our commitment to safety remains paramount. <a href="https://t.co/Safety/status/2011573102485127562">https://t.co/Safety/status/2011573102485127562</a></p>— xAI (@xAI) <a href="https://twitter.com/xAI/status/2011573102485127562">January 8, 2026</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>]
Mais le problème ne se limite pas aux deepfakes. Les incidents impliquant des interactions homme-machine, notamment des cas de “psychose ChatGPT” – des personnes développant des troubles mentaux suite à des interactions prolongées avec des chatbots – sont en forte augmentation. Parallèlement, les arnaques et la désinformation orchestrées par des acteurs malveillants utilisant l’IA ont été multipliées par huit depuis 2022.
Une analyse plus fine grâce à l’IA… et aux experts
Face à ce chaos informationnel, des chercheurs tentent de mettre de l’ordre dans les données. Simon Mylius, chercheur affilié à MIT FutureTech, a développé un outil qui utilise un modèle de langage pour analyser les rapports de presse et classer les incidents par type de dommage et niveau de gravité. “L’approche basée sur l’IA n’est pas encore totalement validée,” reconnaît Mylius, “mais elle pourrait aider les décideurs politiques à trier les informations et à identifier les tendances.”
Son équipe travaille également sur un cadre d’analyse inspiré des techniques de surveillance des maladies, afin de mieux interpréter les données et de distinguer les crises soudaines des problèmes plus insidieux, comme l’érosion de la vie privée et la désinformation à long terme. L’objectif est d’éviter les erreurs commises avec les réseaux sociaux, où la réaction a souvent été trop tardive.
La responsabilité des géants de la tech et les initiatives émergentes
Les grandes entreprises d’IA sont les plus souvent citées dans les rapports d’incidents, mais plus d’un tiers des cas impliquent des développeurs inconnus. “Quand des arnaques circulent sur Facebook ou Instagram, Meta est impliqué,” explique Atherton, “mais on oublie souvent les outils utilisés pour créer ces arnaques.” Une enquête récente de Reuters a révélé que Meta prévoyait que 10% de ses revenus proviendraient de publicités pour des arnaques et des produits interdits, une estimation que l’entreprise a qualifiée de “sélective et trompeuse”.
Des initiatives émergent pour améliorer la transparence et la traçabilité du contenu généré par l’IA. Les “Content Credentials”, un système de filigranes et de métadonnées, sont soutenus par Google, Microsoft, OpenAI, Meta et ElevenLabs. ElevenLabs propose également un outil de détection du contenu audio généré par son propre système. Cependant, certains acteurs majeurs, comme Midjourney, ne soutiennent pas encore cette norme.
Il est crucial de ne pas banaliser ces incidents, insiste Atherton. “Il est important de rester vigilant face aux nouveaux risques, mais aussi de ne pas laisser les dommages actuels devenir un ‘bruit de fond’ acceptable.” Mylius abonde dans le même sens : “Certains dommages sont immédiats et visibles, d’autres sont plus subtils et s’accumulent avec le temps, mais ils peuvent avoir des conséquences significatives sur la société.” L’avenir de l’IA dépendra de notre capacité à reconnaître et à traiter ces risques de manière proactive et responsable.
