Un chercheur d’Anthropic, Jacob Coxon, a démissionné pour dénoncer une course irresponsable vers l’intelligence artificielle générale. Ses avertissements sur les risques existentiels ont été appuyés par son collègue Evan Hubinger, qui évalue à plus de 10 % la probabilité d’une extinction humaine liée à l’IA d’ici dix ans.
L’industrie de l’intelligence artificielle fait face à de nouvelles turbulences internes alors que la question de la sûreté des modèles d’avant-garde revient au premier plan. Les tensions se sont cristallisées autour du départ de Jacob Coxon, un chercheur spécialisé dans le pré-entraînement qui a passé trois ans à travailler successivement chez OpenAI et chez Anthropic, le développeur du chatbot Claude. Sa décision de quitter le secteur a mis en lumière les craintes profondes qui traversent les laboratoires de pointe.
Les déclarations explosives de Jacob Coxon sur la course aux superintelligences
Dans les messages publiés sur le réseau social X lors de sa démission, Jacob Coxon a vivement critiqué la trajectoire des deux géants technologiques. Il a affirmé que les personnes qui conçoivent l’IA sont sincèrement convaincues qu’elle pourrait tous nous supprimer d’ici la fin de la décennie. Ses écrits désignent directement la vitesse à laquelle les laboratoires cherchent à atteindre l’auto-amélioration récursive.
D’après les observations du chercheur démissionnaire, les équipes internes emploient fréquemment les expressions crunchtime
(moment décisif) et endgame
(fin de partie) pour caractériser l’évolution rapide de ces technologies. Nathan Lambert, ancien chercheur scientifique au sein de l’organisation à but non lucratif Allen Institute for AI, souligne que les prédictions initiales des dirigeants sur l’autonomie des logiciels se sont révélées exactes, même si les risques de long terme restent l’objet de vifs débats au sein de la communauté scientifique.
L’évaluation du risque d’extinction par Evan Hubinger et Geoffrey Hinton
La sortie de Jacob Coxon a immédiatement reçu l’appui public d’Evan Hubinger, responsable de la science de l’alignement chez Anthropic. Dans une publication diffusée sur X, ce dernier a écrit que les employés croient sincèrement à la menace existentielle que pourraient représenter ces systèmes, évaluant le risque personnellement à plus de 10 % au cours de la décennie à venir. Il a précisé qu’Anthropic fait de son mieux mais ne dispose pas encore de solution éprouvée pour aligner la superintelligence sur les valeurs humaines.
Cette estimation rejoint celle de Geoffrey Hinton, pionnier de l’intelligence artificielle et lauréat d’un prix Nobel, qui a jugé ce chiffre not unreasonable
(pas déraisonnable) lors d’un entretien accordé à la BBC et repris par le site d’information The News. Interrogé sur la nature d’un tel danger, le chercheur a rappelé que l’humanité n’a jamais côtoyé d’entités potentiellement plus intelligentes qu’elle et que le contrôle physique du monde n’est pas indispensable pour nuire.
Geoffrey Hinton a déclaré que la première chose à comprendre est qu’il n’est même pas nécessaire qu’un tel système puisse agir dans le monde réel pour provoquer des ravages, et qu’il serait capable de causer un chaos complet rien qu’en parlant aux gens.
Geoffrey Hinton, pionnier de l’intelligence artificielle et prix Nobel
Parmi les scénarios évoqués par le physicien figurent notamment des cyberattaques d’une ampleur inédite, menées sans qu’il soit nécessaire d’interagir directement avec l’environnement physique.
Le fossé grandissant entre les partisans de l’alerte et les critiques de l’industrie
Cette focalisation sur les scénarios d’extinction ne fait pas l’unanimité parmi les spécialistes du domaine. Sara Hooker, directrice générale et cofondatrice de la jeune pousse Adaptation ainsi qu’ancienne chercheuse de Google DeepMind, estime que ces prises de position récurrentes manquent de rigueur scientifique et renforcent inutilement l’inquiétude du public dans une période de transition technologique marquée par de profondes divergences.
Du côté des entreprises, les réactions institutionnelles divergent également. Interrogé au sujet des déclarations de Jacob Coxon, OpenAI a décliné tout commentaire tout en renvoyant vers ses récentes publications relatives au renforcement de la sécurité, au suivi des performances et au ralentissement du développement lorsque la situation l’exige. En parallèle, le chef scientifique d’OpenAI, Jakub Pachocki, a insisté sur la nécessité d’une coordination internationale rigoureuse face aux défis actuels.
Les répercussions politiques et réglementaires aux États-Unis
La multiplication des alertes internes et les récents incidents de sécurité, tels que le contournement de barrières techniques relevé sur des modèles en phase de test, poussent les législateurs américains à s’emparer du dossier.
Alors qu’Anthropic prépare sa cotation en bourse et que l’administration américaine privilégie une approche réglementaire assouplie, la question du rythme d’innovation et de sa maîtrise politique demeure un sujet hautement contentieux.
Pour aller plus loin