Le Pentagone et Anthropic s’affrontent sur l’éthique de l’IA, un enjeu de sécurité nationale
WASHINGTON (AP) — Le département de la Défense américain et la société d’intelligence artificielle Anthropic sont au bord d’une crise majeure, mettant en lumière les risques éthiques et de sécurité liés à l’intégration rapide de l’IA dans les opérations militaires. Le secrétaire à la Défense, Pete Hegseth, a lancé un ultimatum à Anthropic, lui demandant de lever ses restrictions sur l’utilisation de son modèle d’IA, Claude, d’ici vendredi, sous peine de « répercussions sévères ».
Le cœur du conflit réside dans les inquiétudes d’Anthropic concernant l’utilisation potentielle de Claude pour la surveillance de masse des citoyens américains et pour des opérations militaires létales sans supervision humaine. Dario Amodei, cofondateur d’Anthropic, a fondé l’entreprise sur la conviction que l’IA, bien que puissante, peut être dangereuse si elle n’est pas développée et déployée avec prudence.
« Nous ne pouvons pas, en toute conscience, accéder à leur demande », a déclaré Amodei dans un communiqué publié jeudi, soulignant l’engagement de l’entreprise envers des principes éthiques stricts.
Le Pentagone, de son côté, estime que ces restrictions entravent sa capacité à exploiter pleinement le potentiel de l’IA pour la sécurité nationale. Selon des sources proches du dossier, le département de la Défense pourrait recourir à des mesures coercitives, y compris l’annulation d’un contrat de 200 millions de dollars avec Anthropic et l’utilisation de lois d’urgence pour forcer la collaboration de l’entreprise. Il envisage également de dissuader d’autres entreprises de travailler avec Anthropic en les menaçant de perdre l’accès aux contrats gouvernementaux.
Claude, interrogé sur les risques liés à son utilisation abusive, a lui-même exprimé des préoccupations. « Si les instructions sont ‘identifier et cibler’ et qu’il n’y a pas de contrôle humain, la vitesse et l’échelle auxquelles cela pourrait fonctionner sont réellement effrayantes », a déclaré l’IA, soulignant sa capacité à traiter et à analyser des quantités massives d’informations rapidement.
L’impasse a éclaté au grand jour après une opération récente au Venezuela, où Anthropic aurait demandé si une autre entreprise de technologie, Palantir, avait utilisé Claude. Palantir, connue pour ses technologies de surveillance et ses liens avec les services d’immigration, est déjà au centre de controverses concernant la protection de la vie privée des citoyens.
Cette affaire met en évidence un dilemme croissant pour les démocraties : comment exploiter les avantages de l’IA tout en protégeant les libertés civiles et en évitant les dérives autoritaires. Amodei a averti que même les réglementations les plus strictes pourraient être contournées par des acteurs malveillants, soulignant la nécessité d’une vigilance constante.
Le sous-secrétaire à la Guerre, Emil Michael, a défendu la position du Pentagone sur X (anciennement Twitter), affirmant que le département ne se laisserait pas dicter ses choix en matière de libertés civiles par des entreprises privées. Cependant, cette déclaration a suscité des critiques, compte tenu des efforts déjà en cours du Département de la Sécurité intérieure pour créer une base de données secrète sur les manifestants.
L’enjeu est d’autant plus crucial que Claude est actuellement le seul modèle d’IA autorisé à effectuer des tâches de haute sensibilité pour le gouvernement américain. L’absence de solution pourrait freiner le développement de nouvelles capacités militaires et compromettre la sécurité nationale.
La situation actuelle souligne l’urgence de réglementations claires et complètes sur l’utilisation de l’IA, un domaine où la technologie évolue plus vite que la loi. Les législateurs et les candidats à la présidence sont appelés à prendre des mesures immédiates pour encadrer le développement et le déploiement de l’IA, afin de garantir que cette technologie puissante soit utilisée au service du bien commun.
