L’IA de sécurité Anthropic utilisée dans une opération militaire américaine au Venezuela, malgré ses engagements
CARACAS, Venezuela – Anthropic, une entreprise de premier plan dans le domaine de l’intelligence artificielle, connue pour son engagement en faveur de la sécurité et de la limitation de l’utilisation militaire de ses technologies, a vu son modèle d’IA Claude utilisé activement lors de l’opération américaine visant à capturer le président vénézuélien Nicolás Maduro le mois dernier, selon des informations révélées par Axios et le Wall Street Journal. Cette utilisation soulève des questions sur la cohérence des politiques de l’entreprise et sur l’influence croissante de l’IA dans les opérations militaires à l’étranger.
L’implication de Claude ne se limitait pas aux phases préparatoires de l’opération, mais s’étendait à son exécution même, ont précisé les deux médias américains. Bien que le rôle précis de l’IA reste flou, l’armée américaine a déjà utilisé des modèles d’IA pour analyser des images satellites et des renseignements en temps réel.
Anthropic, basée à San Francisco, interdit explicitement dans ses politiques d’utilisation que sa technologie soit employée pour “faciliter la violence, développer des armes ou mener des activités de surveillance”. L’opération, qui s’est soldée par la mort de dizaines de soldats et d’agents de sécurité vénézuéliens et cubains le 3 janvier, met en lumière un potentiel conflit entre les valeurs affichées par l’entreprise et ses applications réelles.
Un porte-parole d’Anthropic a déclaré à Axios que l’entreprise ne pouvait commenter l’utilisation spécifique de Claude ou de tout autre modèle d’IA dans une opération classifiée. Il a toutefois souligné que toute utilisation de Claude devait être conforme à ses politiques d’utilisation.
Cette révélation intervient alors qu’Anthropic, ainsi que ses concurrents OpenAI, Google et xAI d’Elon Musk, ont conclu des accords avec le Pentagone pour lui donner accès à leurs modèles d’IA. Cependant, seul Claude est actuellement déployé sur les plateformes classifiées utilisées par l’armée américaine pour ses opérations les plus sensibles, grâce à un partenariat avec Palantir Technologies.
L’incident est d’autant plus délicat pour Anthropic que l’entreprise a récemment mis l’accent sur son engagement en faveur de la sécurité de l’IA, se positionnant comme une alternative responsable dans un secteur en pleine expansion.
Le PDG d’Anthropic, Dario Amodei, a régulièrement averti des “dangers existentiels” liés à une utilisation incontrôlée de l’intelligence artificielle. Récemment, Mrinank Sharma, responsable de l’équipe de recherche sur la sécurité d’Anthropic, a démissionné de manière abrupte, laissant un message cryptique sur les réseaux sociaux indiquant que “le monde est en péril”. Quelques jours plus tard, l’entreprise a investi 20 millions de dollars dans un groupe de pression politique soutenant une réglementation stricte de l’IA.
Parallèlement, Anthropic serait en négociations avec le Pentagone pour assouplir les restrictions concernant le déploiement de l’IA dans le ciblage autonome d’armes et la surveillance intérieure. Ces négociations sont au point mort, le secrétaire à la Défense Pete Hegseth affirmant qu’il ne soutiendrait pas l’utilisation de modèles d’IA qui “ne vous permettraient pas de mener des guerres”.
L’utilisation de l’IA dans les opérations militaires soulève des questions éthiques et stratégiques cruciales. Selon un rapport de l’ONU publié en mars 2023, l’utilisation croissante de systèmes d’armes autonomes (SAA) pose des défis importants en matière de responsabilité et de respect du droit international humanitaire. Le rapport souligne la nécessité d’une réglementation internationale pour garantir que l’IA soit utilisée de manière responsable et éthique dans le domaine militaire.
Cette affaire met en lumière la complexité croissante de la relation entre les entreprises technologiques, les gouvernements et le secteur militaire, et soulève des interrogations sur la capacité des entreprises à contrôler l’utilisation de leurs technologies, même lorsqu’elles affichent un engagement fort en faveur de la sécurité et de la responsabilité.
