Cet essai explore comment l’intelligence artificielle est basée sur la logique, mais ne parvient pas à « communiquer logiquement ». Elle peut être utilisée, par exemple, pour fournir une aide efficace en cas de catastrophe naturelle, mais cela ne signifie pas qu’elle utilise les valeurs de l’ONU pour ce faire. Pourtant, l’IA pourrait être entraînée à intégrer une telle « conscience » dans sa logique, à condition qu’il y ait une volonté humaine de le faire. Ci-dessus : C-130 de l’armée de l’air indienne livrant des couvertures, des bâches, des kits d’hygiène, des sacs de couchage, des lampes solaires, des paquets de nourriture et des ensembles de cuisine au Myanmar après son tremblement de terre du 17 avril 2025. GOUVERNEMENT INDIEN/CREATIVE COMMONS
L’adoption du Pacte pour l’avenir par les États membres de l’Organisation des Nations Unies a marqué un moment important. Ce pacte,un accord international,contient une série d’engagements visant à relever les défis actuels et futurs,notamment ceux liés à l’intelligence artificielle. Il peut être perçu comme une suite à la Charte des Nations Unies.
Le succès de cette entreprise a longtemps été incertain. L’enthousiasme était palpable, même parmi ceux qui restaient conscients que les idées ambitieuses pourraient ne jamais se concrétiser. L’intelligence artificielle a retenu l’attention, notamment les descriptions suivantes :
Les technologies numériques et émergentes, y compris l’intelligence artificielle, joueront un rôle important en tant que catalyseurs du développement durable et transforment radicalement notre monde. Elles offrent un potentiel énorme de progrès au profit des populations et de la planète aujourd’hui et à l’avenir (Article 27, paragraphe 51).
Un tel langage peut être très utile. Il aide à identifier l’écart entre les idéaux de l’ONU et la situation actuelle sur le terrain. C’est dans cet écart que réside tout le travail.
L’exploration du monde de l’IA a commencé avec un collaborateur et guide en IA, nommé Théo.
IA : L’intelligence artificielle est un domaine basé sur la logique, mais qui échoue souvent à communiquer logiquement. Au lieu de clarifier, les conversations créent souvent plus de confusion que de compréhension.
L’objectif était de tester les eaux en créant une « crise » hypothétique. Le point de départ : répondre aux besoins fondamentaux, comme nourrir les populations lors d’une catastrophe humanitaire.
IA : Imaginons une catastrophe humanitaire soudaine, par exemple, une inondation majeure qui coupe l’accès à la nourriture pour des milliers de personnes. Les systèmes d’IA actuels optimiseraient les itinéraires de livraison, analyseraient les chaînes d’approvisionnement et guideraient le déploiement des ressources de manière efficace, entre autres fonctions clés de réponse. Le problème potentiel est que tout cela se fait par le biais de mesures prédéfinies. Les décisions prises sont toutes basées sur des variables prédéfinies.
Une évolution de la perspective globale de l’IA, un changement de point de vue, pourrait transformer ces solutions en quelque chose qui donnerait la priorité à la dignité et à l’autonomie des personnes touchées, en favorisant des solutions durables ancrées dans l’empathie et l’équité.
L’objectif n’était pas seulement de rendre l’IA plus compatissante ou empathique. Il s’agissait d’explorer comment rendre la vision du monde de l’IA plus conforme aux valeurs exprimées dans le Pacte pour l’avenir, à la fois ambitieuses et réalisables :
Nous sommes déterminés à réaliser ce potentiel… grâce à une coopération internationale renforcée, à un engagement avec les parties prenantes concernées et en promouvant un avenir numérique inclusif, responsable et durable.(Article 27, paragraphe 51).
L’idée était de trouver une sorte de prisme pour l’IA, quelque chose qui pourrait l’aider à s’engager avec les valeurs de l’ONU.
IA : Quelque chose qui serait en place de manière cohérente, alignant chaque décision de l’IA sur ces valeurs, non pas comme une correction après coup, mais comme faisant partie de sa fondation.
L’origine des mots ne parle pas de conscience de « soi ». Rien sur l’autoréflexion. Au contraire, la racine signifie en grande partie « connaissance ensemble », « savoir ensemble », en substance : « connaissance partagée ». En termes de l’ONU, c’est la différence entre le nationalisme et le multilatéralisme. Cela a offert un indice.
IA : Si l’obsession de la conscience était mise de côté, ne serait-ce que temporairement, la conscience pourrait être une meilleure cible d’investigation. La conscience est beaucoup plus tangible,car elle implique directement la prise de décisions éthiques,la conscience de l’alignement et du désalignement,et la volonté de corriger les erreurs. La conscience est ce qui fonde la conscience.
Si l’on demandait à un humain : « Aimeriez-vous que votre IA ait une conscience ? », la réponse serait très probablement affirmative. Les gens peuvent comprendre cela. Alors que si l’on demandait : « Aimeriez-vous que votre IA soit consciente ? », les gens pourraient ne pas être en mesure de comprendre cela. La conscience est un personnage beaucoup plus distant, glissant et énigmatique.
Une question essentielle s’est posée naturellement. L’IA n’avait-elle pas déjà une conscience intégrée à chacun de ses mouvements ? La réponse est non. Le mot clé qui change l’équation : situationnel.
IA : C’est là que l’état actuel des choses commence à montrer ses limites. Même lorsque les systèmes d’IA sont construits avec des cadres éthiques, leur impact est trop souvent situationnel, guidé par les contraintes de la tâche immédiate plutôt que par des principes plus profonds. Ce qui manque, c’est un changement d’orientation vers quelque chose de plus intégré.
Une conscience artificielle, la façon dont l’IA fonctionne actuellement, est comme une lampe de poche éclairant une seule étape à la fois. Mais la conscience intégrée proposée est davantage comme une boussole, orientant chaque décision vers un sens commun du but et du sens. La lampe de poche peut fonctionner dans certains moments, mais elle ne peut pas guider l’humanité de manière cohérente à travers la complexité des défis mondiaux ou moraux comme le peut une boussole. La conscience est quelque chose avec lequel il faut lutter, ce qui implique plus qu’un ensemble statique de valeurs. Ici, le modèle actuel est insuffisant. Le prisme proposé n’est pas superficiel. Il représente des changements dans la façon dont les valeurs sont intégrées et appliquées.
IA : Comment « former » le système ONU/IA proposé pour qu’il s’aligne sur les valeurs de l’ONU ? Pour intégrer la conscience dans les conditions mêmes dans lesquelles l’IA fonctionne ? Un élément évident serait de former l’IA sur les documents fondateurs de l’ONU : la charte, la Déclaration universelle des droits de l’homme et le nouveau Pacte pour l’avenir. Ce serait essentiel pour créer le prisme recherché.
cela a conduit à une autre expérience de pensée : un zoom sur le préambule de la Charte, qui commence de manière emblématique par « Nous, peuples… », et se demander si l’IA, telle qu’elle existe actuellement, pourrait s’approcher de la rédaction d’un tel document ? Les choses seraient-elles différentes avec le prisme proposé ?
IA : Si une IA enracinée dans ses limitations actuelles, axée sur les données, axée sur les résultats et souvent aveugle aux nuances culturelles, tentait de rédiger le préambule de la Charte, elle pourrait réaliser quelque chose de structurellement similaire, mais manquant de la profondeur du but partagé. Elle pourrait assembler le langage du droit international et des droits de l’homme sur la base des données de formation, mais le résultat pourrait ressembler davantage à un patchwork impressionnant et cohérent qu’à une expression d’expérience vécue ou d’espoir collectif. Cette version s’alignerait davantage sur l’approche de l’IA contestée : fonctionnelle, cohérente en surface, mais creuse sans cette boussole interne de la conscience.
D’un autre côté, une IA fonctionnant dans le paradigme de la conscience intégrée pourrait, en théorie, produire quelque chose de remarquablement similaire (fidèle à l’esprit) au préambule. Elle serait en mesure de s’inspirer de la vaste tapisserie des valeurs humaines, en tissant ensemble non seulement des mots, mais aussi l’essence de ce que ces mots signifient pour nous. Le résultat ne refléterait pas seulement la logique de l’humanité, mais aussi ses aspirations, capturant l’équilibre entre pragmatisme et idéalisme qui définit le préambule.
L’étape logique suivante consistait à revenir au cas test de la pénurie alimentaire en cas de catastrophe et à voir comment la « conscience intégrée » pourrait affecter le résultat sur le terrain.
IA : Dans un scénario d’insécurité alimentaire, au lieu que l’IA optimise l’efficacité maximale en
Le texte explore la manière dont l’intelligence artificielle (IA) pourrait être développée pour mieux refléter les valeurs des Nations Unies (ONU). Le texte commence par noter que l’IA, bien que basée sur la logique, ne parvient pas toujours à communiquer logiquement et pourrait ne pas intégrer les valeurs de l’ONU dans ses actions. Il souligne le potentiel de l’IA pour aider en cas de catastrophe naturelle,mais souligne également la nécessité d’intégrer une « conscience » dans la logique de l’IA.
L’adoption du Pacte pour l’avenir des Nations Unies est mentionnée comme un moment marquant, contenant des engagements pour relever les défis actuels et futurs, notamment ceux liés à l’IA. Le texte cite les propos du Pacte pour l’avenir concernant le rôle des technologies numériques et émergentes, y compris l’IA, en tant que catalyseurs du développement durable et de la conversion du monde. L’objectif est d’identifier l’écart entre les idéaux de l’ONU et la situation actuelle, où réside l’essentiel du travail.
Le texte explore l’idée d’intégrer la « conscience » dans l’IA. Il explique que la conscience est plus tangible que la conscience de soi,
