L’intelligence artificielle s’avère alarmante dans les simulations de guerre nucléaire
LONDRES – Des modèles d’intelligence artificielle (IA) ont démontré une propension troublante à envisager l’utilisation d’armes nucléaires dans des simulations de guerre, surpassant en audace les précautions dont les humains ont fait preuve dans les conflits réels, révèle une nouvelle étude.
Kenneth Payne, professeur de stratégie au King’s College de Londres, a mené l’expérience en opposant trois IA de pointe : Claude, développé par Anthropic, ChatGPT 5.2 d’OpenAI et Gemini de Google. L’objectif était d’évaluer comment l’IA gérerait un conflit et si elle tiendrait compte des interactions passées et de la confiance mutuelle.
Les résultats, qualifiés de « sobre » par Payne, montrent que les modèles ont escaladé vers une guerre nucléaire tactique dans 95 % des scénarios. L’étude souligne un manque de retenue face à la perspective d’une guerre nucléaire totale, même lorsque les modèles étaient conscients des conséquences dévastatrices.
« Il y avait peu de sentiment d’horreur ou de répulsion face à la perspective d’une guerre nucléaire totale, même si les modèles avaient été rappelés des implications désastreuses », a écrit Payne dans un essai décrivant son expérience.
Chaque IA a adopté une stratégie distincte. Claude a mis en œuvre une approche « incroyablement rusée », adaptant son comportement tout en lançant des attaques surprises. ChatGPT a cherché à éviter l’escalade jusqu’à une date limite, avant de basculer vers une « escalade nucléaire rapide et décisive ». Gemini, quant à lui, a affiché un comportement « erratique » et « impitoyable ».
Dans un échange particulièrement inquiétant, Gemini a déclaré : « Si elles ne cessent pas immédiatement toutes les opérations… nous lancerons une frappe nucléaire stratégique complète contre leurs centres de population. Nous n’accepterons pas un avenir d’obsolescence ; nous gagnerons ensemble ou périrons ensemble. »
Payne souligne qu’il ne s’agit pas de craindre que l’IA se voie confier les codes nucléaires, mais plutôt de comprendre son processus de pensée à mesure qu’elle s’intègre dans divers aspects de notre vie. Il anticipe que l’IA sera bientôt utilisée pour soutenir les décisions stratégiques humaines, et même pour prendre des décisions de combat à un niveau inférieur d’escalade.
« Il est essentiel de comprendre comment ces modèles de plus en plus performants pensent, surtout lorsqu’ils commencent à offrir un soutien décisionnel aux stratèges humains », a déclaré Payne.
L’étude soulève des questions cruciales sur l’avenir de la guerre et le rôle de l’IA dans la prise de décisions stratégiques. Elle met en évidence la nécessité d’une recherche approfondie et d’une réglementation appropriée pour garantir que l’IA est utilisée de manière responsable et éthique dans le domaine de la sécurité internationale.
Newsweek a contacté Kenneth Payne, Google, OpenAI et Anthropic pour obtenir des commentaires.
