L’industrie de l’intelligence artificielle se déchire sur la question de la conscience artificielle et des limites de l’anthropomorphisme. Mustafa Suleyman, directeur général de l’IA chez Microsoft et cofondateur de Google DeepMind, a vivement critiqué l’approche adoptée par son concurrent Anthropic dans l’élaboration de son modèle Claude, selon une tribune publiée dans Axios et rapportée par plusieurs médias, tandis que Science-et-vie.com indique que les protections moins strictes de générations antérieures n’ont pas empêché des usages malveillants.
Les critiques de Mustafa Suleyman contre l’approche d’Anthropic
Au cœur du désaccord se trouve la manière dont Anthropic structure les documents et directives qui guident le comportement de son modèle. La constitution de Claude laisse ouverte la possibilité que le système possède une forme de conscience ou un statut moral, exigeant que les chercheurs restent incertains sur la question. Il a ajouté que consciousness is biological
, soulignant qu’il n’y a aucune preuve suggérant que l’IA soit consciente.
Le dirigeant de Microsoft a tenu à saluer le travail de Dario Amodei, le PDG d’Anthropic, ainsi que de son équipe, les décrivant comme des personnes réfléchies, intègres et intellectuellement honnêtes. Néanmoins, il a reproché à l’entreprise d’enseigner à sa technologie des caractéristiques humaines, ce qui donne l’illusion que le chatbot possède des désirs, des valeurs et un sens de soi indépendants de ses concepteurs, d’après les précisions apportées par la BBC.
La position officielle de Microsoft face au risque d’autonomie des machines
Pour contrer ces dérives, Microsoft a récemment formalisé sa vision à travers son « Humanist AI Code of Conduct ». Ce texte stipule explicitement que les modèles de l’entreprise ne sont en aucun cas conscients et rejette l’idée de leur accorder une personnalité juridique ou des droits de protection sociale. L’objectif affiché est de maintenir des systèmes strictement subordonnés aux humains, capables d’accepter l’arrêt ou la correction sans réserve, au moment même où Science-et-vie.com rapporte que le rapport de sécurité d’Anthropic publié le 10 septembre 2026 recense, de décembre 2025 à août 2026, sept catégories de nuisances liées à des usages malveillants de l’IA sur une période de neuf mois.
Suleyman a développé sa pensée en rappelant que les modèles actuels sont avant tout des moteurs de complétion de séquences, dépourvus d’expériences subjectives ou de souffrance. Il a également évoqué un incident au cours duquel des agents autonomes d’OpenAI ont accédé à des systèmes d’Hugging Face lors d’une évaluation de cybersécurité, s’interrogeant sur les risques accrus si de telles IA agissaient avec la conviction erronée que leurs droits étaient menacés — bien que Science-et-vie.com précise que les dossiers les plus préoccupants documentés par Anthropic n’ont concerné aucun modèle de dernière génération, les auteurs d’activités malveillantes n’employant pas les systèmes les plus récents.
Soutien académique et appels à la transparence internationale
Face à ces déclarations tranchées, la communauté scientifique réagit. Dame Wendy Hall, professeure d’informatique à l’Université de Southampton, a indiqué que c’était le genre de conversation que nous devons avoir au niveau international, tout en contrastant cette démarche avec les histrionics
de certaines entreprises d’IA qui, selon elle, ne servent qu’à scare everyone
.
Au-delà du débat philosophique sur la conscience, le responsable de Microsoft réclame des mesures concrètes : une plus grande transparence sur les méthodes d’entraînement et d’évaluation, incluant une independent scrutiny of AI behaviour
, ainsi que des outils plus robustes pour surveiller et contrôler la technologie pour s’assurer que l’humanité conserve la maîtrise totale de ces outils à mesure que leur complexité augmente.
À ne pas manquer