Une démission chez Anthropic en septembre 2026 relance les débats sur les risques existentiels de l’intelligence artificielle, opposant des chercheurs craignant des scénarios apocalyptiques à d’autres collaborateurs du secteur qui jugent ces alertes exagérées et dépourvues de preuves concrètes.
La démission de Jacob Coxon et les craintes face aux modèles d’IA
Les inquiétudes concernant le développement incontrôlé de l’intelligence artificielle ont pris une nouvelle ampleur à la suite du départ de Jacob Coxon, un chercheur de 27 ans spécialisé dans le pré-entraînement au sein de la start-up américaine Anthropic, d’après les informations rapportées par le média français Le Nouvel Observateur. Dans un long message publié sur son compte X (ex-Twitter) mercredi 9 septembre, le chercheur a annoncé sa démission et, dans le même temps, partagé son anxiété face aux risques que présente cette technologie pour l’humanité. Jacob Coxon a affirmé que les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie, ajoutant que ce n’était pas une opération de marketing et qu’aucune autre activité humaine ne posait un tel niveau de danger, qualifiant la situation de course effrénée menée par des laboratoires persuadés d’agir seuls de manière responsable. Selon le Nouvel Observateur, ce géant américain qui a fait de la sécurité son credo s’apprête à entrer en Bourse le mois prochain avec une valorisation de plus de 2000 milliards de dollars.
Ce départ s’inscrit dans un contexte où les questions de sécurité reviennent régulièrement au premier plan. Parmi eux, Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley, a évoqué des risques extrêmes, allant de la synthèse de nouveaux agents pathogènes par des robots autonomes au piratage de systèmes d’alerte pour provoquer des conflits nucléaires.
Le scepticisme d’autres travailleurs du secteur technologique
Face à ces avertissements répétés, une part notable des salariés et anciens employés de grandes entreprises comme OpenAI, Meta ou DeepMind adopte une position nettement plus réservée, selon une enquête menée par la BBC. Plusieurs collaborateurs ayant requis l’anonymat ont exprimé leur scepticisme face aux thèses d’une extermination de masse provoquée par la technologie. Certains ont accueilli ces déclarations avec amusement, utilisant des réactions textuelles telles que Lol
, Haaaaaa
et Bringing the luls
.
Un ancien employé d’OpenAI, interrogé par le média britannique, a confié avoir réagi avec perplexité en découvrant les déclarations de Jacob Coxon, estimant que les arguments avancés manquaient cruellement de précision technique. Selon ce témoin, qui maintenant travaille à une autre entreprise d’intelligence artificielle et connaissait Coxon lorsqu’ils travaillaient tous les deux chez OpenAI, les menaces brandies reposent généralement sur des hypothèses vagues ou des sauts logiques importants, à l’instar du scénario évoquant la création d’une arme biologique par des agents autonomes sans démonstration concrète du mécanisme sous-jacent. Coxon a dit qu’un groupe de bots ou d’agents de l’IA (des robots programmés pour opérer un peu de manière autonome), basés sur des modèles qui n’existent pas encore, pourrait décider de créer et ensuite viser une arme biologique, mais il n’a pas détaillé précisément la façon dont cela se produirait.
Entre régulation nécessaire et pressions économiques mondiales
La question des garde-fous réglementaires divise profondément les acteurs et les observateurs. D’un côté, des voix appellent à un ralentissement coordonné des projets les plus avancés. D’un côté, des employés d’Anthropic, ainsi que d’OpenAI, de DeepMind et d’Elon Musk — qui possède une startup d’intelligence artificielle appelée xAI — ont soutenu en ligne l’idée qu’un outil ou agent futur d’intelligence artificielle pourrait mettre des personnes en danger. D’un autre côté, certains analystes estiment que ces discours alarmistes renforcent artificiellement l’aura de puissance des entreprises concernées, tout en occultant des difficultés plus immédiates comme la suppression d’emplois ou les discriminations algorithmiques.
Du côté des institutions, la régulation se heurte à la crainte de perdre du terrain face à la concurrence internationale, notamment avec la Chine. Les autorités américaines maintiennent une position prudente pour ne pas pénaliser l’innovation, bien que les capacités de piratage démontrées par les derniers modèles d’intelligence artificielle aient obligé Washington à revoir sa copie en matière de sécurité nationale.
Hussein Abbass, professeur d’informatique à l’université de Nouvelle-Galles du Sud, a indiqué que la situation est encore contrôlable et peut être gérée.
Interrogé sur la trajectoire à suivre, Hussein Abbass, professeur d’informatique à l’UNSW de Canberra, a indiqué auprès de France 24 qu’une approche agile de la part des gouvernements reste indispensable à mesure que le rythme des innovations s’accélère.
Sur le même sujet