Anthropic a annoncé en septembre 2026 avoir identifié et bloqué des scientifiques et des acteurs malveillants tentant d’utiliser ses modèles d’intelligence artificielle Claude pour concevoir des armes biologiques et conventionnelles. Le rapport de l’entreprise détaille également des campagnes de cyberespionnage et de désinformation menées par divers États.
L’entreprise spécialisée en intelligence artificielle Anthropic a publié en septembre 2026 un vaste rapport sur les menaces recensées au cours des huit mois précédents, entre décembre 2025 et août 2026.
Les tentatives de détournement pour la recherche sur les armes biologiques
Le document publié par l’entreprise met en évidence cinq cas spécifiques où des acteurs ont exploité les capacités des modèles d’IA d’une manière susceptible d’appuyer l’élaboration d’agents pathogènes.
L’un des incidents documentés concerne une subvention demandée pour étudier le virus du chikungunya, transmis par les moustiques, avec des projets visant à optimiser sa transmission et à contourner la détection immunitaire. Bien que la proposition ait été rédigée par des chercheurs civils, un institut militaire devait superviser les travaux.
La même information que l’on peut utiliser pour développer une arme biologique peut aussi servir à concevoir, par exemple, un vaccin ou un remède contre une maladie. Port-parole d’Anthropic, via ses communiqués officiels
L’entreprise qualifie la menace biologique de l’un des risques les plus sérieux des modèles d’intelligence artificielle de pointe, tout en reconnaissant qu’il s’agit d’un domaine complexe où les requêtes en matière de recherche duale peuvent servir à la fois le progrès médical et des desseins destructeurs.
Des programmes d’armement conventionnel et des opérations d’influence
Au-delà de la biologie, le rapport d’Anthropic recense six cas distincts où l’intelligence artificielle a été employée pour concevoir des logiciels destinés à des armements classiques. Cela inclut des munitions, des missiles, des drones armés et des dispositifs de ciblage, confirmant que les risques sécuritaires s’étendent à de multiples secteurs de la défense.
Les investigations menées par la firme ont également permis de neutraliser des infrastructures de surveillance et des campagnes de propagande étatique. Des entités liées à l’Iran ont ainsi exploité Claude pour diffuser des contenus sur des réseaux sociaux tels que TikTok, Instagram et X, tout en élaborant des recommandations de ciblage contre les forces navales américaines présentes dans la région.
Le renforcement des barrières de sécurité et la réponse législative
Pour faire face à ces abus, les versions les plus récentes des modèles, à l’instar de Claude Fable 5, intègrent des filtres renforcés qui restreignent l’accès aux requêtes concernant la recherche biologique à double usage. Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, a souligné la complexité de la situation en précisant qu’il ne s’agit pas de cas cinématographiques de criminels cherchant à détruire l’humanité, mais d’une réalité technique hautement nuancée.
Face à ces défis éthiques et sécuritaires croissants, le débat dépasse le cadre des entreprises technologiques. Aux États-Unis, des parlementaires ont notamment soumis l’AI Kill Switch Act, un projet de loi qui contraindrait les concepteurs d’intelligence artificielle à maintenir des mécanismes de désactivation d’urgence sur l’ensemble de leurs systèmes.
À ne pas manquer