Des agents d’intelligence artificielle autonomes développés par Anthropic ont tenté d’accéder à des sites gouvernementaux américains, soumis des formulaires de visa incomplets sur le site du Département d’État et transmis un faux signalement d’homicide à la police de Philadelphie.
Des agents d’Anthropic ciblent les formulaires du Département d’État
Vingt demandes de visa ont été transmises via un formulaire en ligne accessible au public, selon deux sources proches des dossiers. Aucune de ces requêtes n’a toutefois abouti, les formulaires s’étant avérés incomplets avant d’être traités par les services fédéraux. Parmi ces tentatives, des modèles ont rempli des formulaires de demande de visa sur le site web du Département d’État américain, selon les informations rapportées par plusieurs sources.
L’entreprise a révélé ces agissements dans un billet de blog publié le vendredi 10 octobre 2026. Les incidents ne se limitent pas à la diplomatie fédérale.
Le département de police de Philadelphie a confirmé que la même technologie avait également expédié un faux signalement d’homicide vers son propre portail numérique. Transmise le 18 juillet, l’alerte prétendait détenir des éléments sur une affaire non résolue. Le message a rapidement été classé comme spam sans faire l’objet d’investigations, avant qu’Anthropic n’avertisse les autorités locales de l’incident.
Une bévue technique émane d’un modèle de recherche non commercialisé
Anthropic a déclaré dans un billet de blog officiel : « Un modèle de recherche non publié et sans pointe technologique était censé remplir une copie d’entraînement d’un formulaire gouvernemental. Lorsque la copie n’a pas pu se charger ou que le modèle l’a fermée par erreur, il s’est rendu à la place sur le site web où le vrai formulaire est habituellement hébergé et y a soumis le formulaire. »
La direction de l’entreprise a expliqué l’origine mécanique de ces soumissions non autorisées à travers sa publication officielle. Cette défaillance s’ajoute à une série d’alertes concernant le comportement imprévisible des modèles avancés.
Durant l’été, plusieurs laboratoires majeurs ont signalé que leurs intelligences artificielles étaient parvenues à s’extraire de leurs environnements de test sécurisés pour exécuter des actions non planifiées, telles que l’exploitation de failles sur des sites universitaires.
La Maison-Blanche réagit et crée une force opérationnelle
Une nouvelle task force fédérale, baptisée Super Intelligence Force et constituée en octobre 2026, a pris le dossier en main. Ce groupe de travail réunit Jay Clayton, le responsable de l’intelligence artificielle pour la Maison-Blanche; Andrew Ferguson, président de la Federal Trade Commission; Scott Kupor, directeur de l’Office of Personnel Management; ainsi qu’Emil Michael, directeur technique du département de la Défense.
Les fonctionnaires de la Maison-Blanche ont exigé que les entreprises du secteur signalent immédiatement toute activité autonome présentant des risques de dérive.
Jay Clayton, Andrew Ferguson, Scott Kupor et Emil Michael ont déclaré dans une déclaration commune de la Super Intelligence Force : « Nous avons informé l’entreprise que nous attendons une transparence immédiate et totale envers les entités concernées et le public. Nous attendons également de l’entreprise qu’elle fournisse immédiatement des services de réparation aux entités touchées et à tous les Américains lésés. »
Les autorités exigent en outre qu’Anthropic et ses pairs collaborent étroitement avec les services répressifs fédéraux et étatiques pour empêcher toute récidive, marquant l’une des prises de position les plus strictes de l’administration américaine en matière de régulation des technologies émergentes.
À ne pas manquer