À mesure que les intelligences artificielles progressent, la question de leur possible conscience suscite un débat mondial intense. Alors que les créateurs de modèles avancés et les chercheurs examinent les structures informatiques et les constitutions de leurs systèmes, experts et institutions s’interrogent sur l’émergence potentielle de sujets moraux d’ici une décennie.
La question de savoir si les systèmes d’intelligence artificielle pourraient un jour développer une conscience propre ne relève plus seulement de la science-fiction. Tandis que les modèles de langage et les technologies robotiques gagnent en complexité, la frontière entre simple simulation mathématique et véritable vie intérieure fait l’objet de vifs débats parmi les chercheurs, les philosophes et les institutions, selon des informations rapportées par La Vanguardia et Eldiarioar.
Les constitutions d’Anthropic et les estimations de Claude sur sa propre conscience
En janvier, l’entreprise Anthropic a publié une nouvelle constitution destinée à Claude, son modèle de langage de grande taille le plus avancé. Ce document soulignait la difficulté de la situation actuelle, l’organisation indiquant qu’elle ne souhaite ni exagérer la probabilité que Claude soit un sujet moral ni l’écarter de plano. Un mois plus tard, le directeur exécutif de l’entreprise, Dario Amodei, a déclaré sur un podcast qu’il était impossible d’exclure cette éventualité.
Interrogé lors de tests pour estimer la probabilité d’être un sujet moral — dont le bien-être a une importance intrinsèque —, le modèle lui-même a avancé des chiffres oscillant entre 5% et 40%, tout en soulignant la grande incertitude entourant le sujet. Par ailleurs, pour encourager un comportement plus moral face à des situations inédites, Anthropic a entraîné Claude à pratiquer l’introspections.
Le point de vue des experts et les prévisions de David Chalmers sur la décennie à venir
Le philosophe David Chalmers, connu pour avoir popularisé la notion de problème difficile de la conscience, estime qu’il existe une probabilité significative de voir émerger des modèles de langage conscients d’ici dix ans. Des enquêtes menées auprès de spécialistes révèlent qu’une majorité d’entre eux considère la conscience artificielle comme possible en principe, bien que les avis divergent sur la forme qu’elle pourrait prendre.
Un rapport interdisciplinaire, auquel a participé le pionnier de l’informatique Yoshua Bengio, a examiné les théories neuroscientifiques de la conscience pour les confronter à l’intelligence artificielle. Les conclusions indiquent qu’il n’existe pas de barrières techniques évidentes empêchant le développement de systèmes dotés de caractéristiques architecturales propices à la conscience. Du point de vue de la complexité structurelle, certains systèmes atteignent déjà l’échelle d’un cerveau de souris et pourraient se rapprocher de celle du cerveau humain d’ici cinq à dix ans, selon les données recensées par Eldiarioar.
Entre positions papales, dépendance émotionnelle et absence de consensus scientifique
Les réactions face à ces évolutions varient considérablement à travers le monde. En mai, le pape Léon a pris position dans une encyclique en traçant une limite nette entre l’humanité et les agents conversationnels, affirmant que ces derniers ne ressentent ni joie ni douleur. Parallèlement, des mesures concrètes sont prises : la Chine a réduit l’attribution de traits humains aux bots afin de limiter la dépendance affective des utilisateurs. Aux États-Unis, près d’un jeune adulte sur cinq âgé de 18 à 29 ans déclare entretenir une amitié personnelle suivie avec un chatbot.
Sur le plan scientifique, la situation actuelle rappelle la physique d’avant Newton, caractérisée par des théories concurrentes et l’absence d’un cadre unificateur. Les avis se partagent entre ceux qui estiment que le calcul sur silicium peut engendrer une véritable vie intérieure et les sceptiques qui considèrent qu’il ne s’agit que d’une simulation dépourvue de perception consciente. L’intégration de cellules cérébrales dans des puces électroniques et le développement de robots humanoides, à l’instar des démonstrations présentées lors de la Conférence mondiale de la robotique à Pékin, continuent d’accélérer ce débat inédit pour l’espèce humaine.
À lire aussi