Tension monte entre le Pentagone et Anthropic sur la surveillance par l’IA
WASHINGTON (AP) – Une crise discrète mais potentiellement majeure secoue le monde de l’intelligence artificielle et de la sécurité nationale américaine. Le Pentagone et Anthropic, une entreprise de pointe en matière d’IA, sont au bord d’une rupture après des semaines de négociations tendues concernant l’utilisation de l’IA Claude dans des opérations sensibles.
Le conflit, révélé par des sources proches des négociations et rapporté initialement par The New Yorker, a atteint un point critique fin février, le Pentagone menaçant d’invoquer le Defense Production Act, une loi permettant une nationalisation partielle ou totale de l’entreprise. Cette escalade survient alors que l’administration américaine cherche à encadrer le développement et le déploiement de l’IA, notamment dans le domaine militaire.
Les désaccords portent principalement sur la surveillance. Anthropic s’est montrée disposée à autoriser l’utilisation de Claude pour surveiller des individus sous mandat du tribunal FISA, qui examine les demandes de surveillance impliquant des puissances étrangères. Cependant, l’entreprise a catégoriquement refusé de participer à l’analyse de données massives collectées sur le sol américain, une préoccupation majeure pour ses employés en raison des raids récents de l’ICE (Immigration and Customs Enforcement).
Le Pentagone, pour sa part, a affirmé que la surveillance de masse intérieure est illégale et que le Département de la Défense ne s’y adonne pas. Une affirmation que certains observateurs jugent peu crédible.
La situation s’est envenimée lorsque Michael, un haut responsable de l’administration, a publiquement qualifié Amodei, le PDG d’Anthropic, de "menteur" et de personne souffrant d’un "complexe de Dieu" sur son compte X.com.
Ce conflit intervient dans un contexte plus large de tensions entre les entreprises d’IA et le gouvernement américain. Elon Musk, dont la société SpaceX envisage une introduction en bourse sur le Nasdaq, a récemment déclaré qu’il fallait "reconstruire" sa propre entreprise d’IA, xAI, suite au départ de plusieurs cofondateurs, selon CNBC. Musk a également accusé le PDG d’Anthropic de "projeter" des craintes concernant la conscience de l’IA, comme le rapporte Fox News.
L’affaire Anthropic soulève des questions fondamentales sur le rôle de l’IA dans la sécurité nationale et les limites de la surveillance gouvernementale. Elle met également en lumière la complexité des relations entre les entreprises technologiques et le gouvernement, ainsi que les risques potentiels liés à la dépendance à l’égard de l’IA pour des fonctions critiques.
Au moment de la publication, les deux parties étaient toujours en négociations, mais l’avenir de la collaboration entre le Pentagone et Anthropic reste incertain. La désignation d’Anthropic comme un risque pour la chaîne d’approvisionnement, une mesure envisagée par le Pentagone, pourrait avoir des conséquences considérables pour l’ensemble de l’industrie de l’IA.