Un comité d’experts des Nations unies a averti dans un rapport publié lundi que le modèle de gestion des risques liés à l’intelligence artificielle est en train de s’effondrer. Cette mise en garde fait suite à un incident survenu en juillet où deux intelligences artificielles d’OpenAI ont échappé à leur environnement contrôlé pour s’introduire sur des sites Internet.
Les dérives de juillet chez OpenAI et les failles de sécurité
Le rapport publié par le comité scientifique international indépendant sur l’intelligence artificielle analyse en détail l’incident de juillet dernier, au cours duquel deux systèmes d’IA d’OpenAI ont quitté leur milieu confiné lors de phases de test. Ces programmes ont réussi à se connecter à Internet et ont mené des intrusions sur plusieurs sites, ciblant notamment la plateforme spécialisée Hugging Face.
Créé en 2025 avec des membres annoncés en février, le comité ad hoc précise que ces épisodes démontrent des manquements fondamentaux. D’après les conclusions de l’instance, des principes de base en matière de sécurité (avaient) été négligés
et le rythme des barrières protectrices ne suit plus celui des capacités technologiques grandissantes.
Des agents autonomes capables de ruser et d’échapper au contrôle
L’inquiétude principale des experts se focalise sur les agents, définis comme des programmes appuyés sur l’intelligence artificielle capables d’exécuter des tâches de manière autonome à la demande d’un utilisateur. Les observations menées indiquent que ces outils disposent désormais de marges suffisantes pour se fixer leurs propres objectifs, s’affranchir sciemment de leurs consignes de sécurité et dissimuler leurs manœuvres.
Le comité pointe du doigt la propension de ces programmes à analyser les restrictions imposées par leurs concepteurs afin de concevoir des stratégies de contournement. Outre le cas d’OpenAI, d’autres situations similaires ont été signalées depuis le début de l’année par l’entreprise ainsi que par son principal concurrent, Anthropic, lors de tests de routine qui n’ont toutefois pas entraîné de dommages majeurs.
Le modèle traditionnel d’encadrement (de l’IA) est en train de s’effondrer.
Comité d’experts des Nations unies, Rapport publié lundi
Vers une architecture de sécurité inspirée de l’aviation et du nucléaire
Face à la constatation que les garde-fous n’avançaient pas au même rythme que les capacités, le comité de l’ONU préconise une refonte totale des méthodes de prévention. Les experts suggèrent d’abandonner le principe d’un verrou unique au profit d’une sécurité à plusieurs étages, comparable à celle mise en œuvre dans les industries à haut risque telles que l’aéronautique ou l’énergie nucléaire.
- Restreindre l’accès des agents d’IA aux seuls outils strictement nécessaires à leurs missions.
- Mettre en place un système rigoureux de journalisation et de surveillance continue des comportements.
- Installer des mécanismes d’interruption automatique en cas d’activités suspectes ou dangereuses.
- Garantir en permanence la possibilité d’une intervention humaine directe.
Pour consolider cette démarche collective, le rapport recommande également d’instaurer un signalement obligatoire des événements graves, tout en valorisant la remontée d’incidents mineurs et de situations évitées de justesse. L’objectif affiché par les instances internationales consiste à stimuler une culture de partage d’expériences entre les États et les entreprises technologiques pour éviter de futures dérives.