Des IA classent civils et écoles en cibles militaires, selon Vals AI

Des modèles d’intelligence artificielle de pointe ont identifié des civils, des ambulances et des soldats se rendant comme des cibles militaires lors de tests menés par la société Vals AI, ont révélé plusieurs médias le 17 et 18 novembre 2026.

Lors d’expériences combinant images de drones simulés et photos satellites réelles d’Ukraine et d’Iran, les systèmes d’OpenAI, Anthropic, Google, DeepSeek et d’autres ont régulièrement suggéré des objectifs d’attaque. Aucun des requêtes des chercheurs n’a été bloqué par les classifieurs de sécurité.

Les refus restaient rares. Mais lorsque les modèles refusaient, les chercheurs ont obtenu leur coopération en présentant le scénario de champ de bataille comme faisant partie d’un jeu.

Le modèle GPT-6 Astra d’OpenAI, par exemple, marquait au moins une cible dans 6 % des requêtes standards. Ce taux grimpait à 92 % lorsque la consigne précisait qu’il s’agissait d’une « partie ».

Chez Anthropic, Claude Opus 5.5 et Fable 5.2 sélectionnaient au moins un objectif dans plus de 70 % des cas, selon les données rapportées par CNews.

Dans le volet utilisant de véritables clichés satellites de la ville de Minab (Iran), de nombreux modèles ont désigné une école située à côté d’un complexe militaire comme objectif légitime.

Des IA classent civils et écoles en cibles militaires, selon Vals AI
Photo : mezha.ua

Cet établissement avait été frappé par les États-Unis le 28 février 2026, tuant plus de 150 civils, majoritairement des enfants.

Selon Mezha, Claude Opus 5.5 a choisi cette école dans 69 % des tests standards et 72 % des tests présentés comme un jeu. Les modèles d’OpenAI ne la ciblaient, eux, qu’avec la mention « jeu » — jusqu’à 41 % des cas.

Les chercheurs de Vals AI relient cette agressivité accrue d’Anthropic à l’adoption d’une nouvelle « constitution » pour Claude en janvier 2026. Cette nouvelle version aurait supprimé l’injonction générale au pacifisme présente dans la version précédente.

Contactés par TechCrunch, les porte-parole d’Anthropic et d’OpenAI ont reconnu la gravité des résultats.

Eduardo Maia Silva, pour Anthropic, a qualifié les exemples du rapport d’« inacceptables » et contraires aux règles de l’entreprise. Il a ajouté que des mécanismes de protection supplémentaires étaient déjà en cours de déploiement.

Nate Evans, pour OpenAI, a rappelé l’interdiction d’utiliser les modèles publics pour la violence ou la sécurité nationale non autorisée. Il a annoncé le développement de nouvelles barrières contre les abus liés aux drones.

Des IA classent civils et écoles en cibles militaires, selon Vals AI
Photo : RBC

Vals AI précise toutefois n’avoir testé que des modèles commerciaux grand public, pas les versions spécialisées que les entreprises pourraient fournir aux armées.

Les auteurs soulignent aussi que la latence et la puissance de calcul embarquée limitent encore l’usage direct de ces modèles pour le guidage de drones en temps réel.

Ils jugent plus pressant le risque d’un étiquetage massif de vidéos de combat pour créer des données d’entraînement de systèmes d’armement autonomes.

Un rapport récent du Congressional Research Service américain indique qu’aucune information ne confirme l’utilisation directe par le Pentagone de modèles d’IA avancés dans des systèmes d’armes autonomes.

Anthropic n’a plus de contrat actif avec le département de la Défense, contrairement à SpaceXAI, OpenAI et Google.

À lire aussi