OpenAI sur le point de conclure un accord avec le Pentagone, après le désaccord public entre Anthropic et l’administration Trump
WASHINGTON (AP) – OpenAI, le créateur de ChatGPT, est sur le point de conclure un accord avec le département de la Défense américain pour l’utilisation de ses modèles d’intelligence artificielle, a révélé vendredi son PDG, Sam Altman, lors d’une réunion avec les employés. Cet accord intervient après une rupture spectaculaire entre le Pentagone et Anthropic, un autre acteur majeur de l’IA, et une décision du président Trump de mettre fin à toute collaboration avec cette dernière.
Selon une source présente à la réunion et un résumé de celle-ci consulté par Fortune, le gouvernement américain serait disposé à laisser OpenAI construire son propre système de sécurité – un ensemble de contrôles techniques, politiques et humains – pour encadrer l’utilisation de ses modèles d’IA. L’administration s’engagerait également à ne pas forcer OpenAI à réaliser des tâches que ses propres systèmes refuseraient d’exécuter.
L’accord envisagé prévoit que OpenAI conserve le contrôle sur la mise en œuvre des mesures de sécurité techniques, le déploiement des modèles et leur localisation, limitant leur utilisation aux environnements cloud plutôt qu’aux systèmes embarqués, tels que les avions ou les drones. Un point crucial de l’accord serait l’inclusion des "lignes rouges" d’OpenAI, qui interdisent l’utilisation de l’IA pour alimenter des armes autonomes, la surveillance de masse intérieure et la prise de décision critique.
Cette concession du gouvernement américain est significative, d’autant plus qu’elle fait écho aux préoccupations exprimées par Altman lui-même, qui avait précédemment affirmé qu’OpenAI partageait les mêmes limites éthiques qu’Anthropic.
La rupture entre Anthropic et le Pentagone a été rendue publique cette semaine, après que le secrétaire à la Guerre, Pete Hegseth, ait exigé d’Anthropic qu’elle supprime les protections de son modèle Claude, qui restreignent certaines utilisations controversées, comme la surveillance de masse ou les armes autonomes. Anthropic avait refusé, estimant que ces protections étaient essentielles.
Le président Trump a ensuite annoncé sur son réseau social Truth Social qu’il ordonnait à toutes les agences fédérales de cesser immédiatement d’utiliser la technologie d’Anthropic, justifiant sa décision par le fait que "nous n’en avons pas besoin, nous ne la voulons pas et ne ferons plus affaire avec eux!". Un délai de six mois a été accordé pour la transition.
Lors de la réunion chez OpenAI, les dirigeants de l’entreprise ont souligné les préoccupations liées à la surveillance étrangère et aux menaces potentielles pour la démocratie. Ils ont toutefois reconnu la nécessité pour les services de renseignement de disposer de capacités de surveillance internationale pour faire face aux menaces, citant notamment l’utilisation de l’IA par la Chine pour cibler les dissidents à l’étranger.
Sasha Baker, responsable de la politique de sécurité nationale chez OpenAI, et Katrina Mulligan, responsable de la sécurité nationale pour le gouvernement, ont également participé à la réunion, selon la source. Elles ont évoqué les tensions avec Anthropic, suggérant que le PDG d’Anthropic, Dario Amodei, avait offensé les responsables du département de la Guerre par ses déclarations publiques.
Cet accord potentiel entre OpenAI et le Pentagone marque un tournant dans la course à l’IA militaire, et soulève des questions cruciales sur l’équilibre entre innovation technologique, sécurité nationale et considérations éthiques.
