c’est pourquoi aucun algorithme ne peut nous dire si une IA agira contre l’humanité

Nous sommes à la mi-janvier 2021 lorsqu’un rapport de l’Institut Max Planck paraît dans le Journal of Artificial Intelligence Research qui met en évidence comment une Super IA dotée de capacités d’auto-apprentissage (super algorithme) pourrait échapper au contrôle de ses programmeurs et, virtuellement/ hypothétiquement, diriger le genre Homo Sapiens menacé d’extinction. Dans cet article, nous entendons souligner l’inexistence théorique (théorème d’incomplétude d’Alan Turing) d’un algorithme capable de décider si une IA peut agir contre l’humanité.

Théorème de Turing : prémisse

Cet emplacement est probablement inapproprié, même pour une illustration élémentaire des théorèmes de Gödel et Turing, en raison de leur complexité logique intrinsèque ; ce qui, en revanche, est intéressant, c’est la façon dont les deux théorèmes utilisent l’autoréférentialité.

Utiliser: Autoréférentialité = À Dialle (diallelos du grec = raisonnement circulaire) indique une pseudo-démonstration logique où les conclusions dérivent des hypothèses initiales qui, à leur tour, sont obtenues directement à partir des conclusions. Dans le lexique courant : « serpent qui mange sa propre queue »

Paradoxe du menteur

Les informations rapportées sur ce site sont toujours fausses.

Il est bien connu, depuis son énonciation (Eubulide de Milet, IVe siècle avant JC), à quel point cette affirmation conduit inévitablement au paradoxe du menteur. Il est ici intéressant de souligner son contenu autoréférentiel-circulaire (potentiellement récursif) qui conduit à des étapes ultérieures du type :

• si (l’information est toujours fausse = A) alors (l’information selon laquelle l’information est toujours fausse = B est également fausse)
• si (l’information selon laquelle l’information est toujours fausse est également fausse = B) alors (il est vrai que l’information est toujours fausse = A)

0 = faux 1 = vrai

si A= 0 alors B = 0

si B = 0 alors A = 0

Symboliquement, A mène à B et B mène à son tour à A.

Le paradoxe du menteur a été proposé, au fil du temps, sous diverses formes logiquement identiques bien que formellement différentes par une grande variété d’auteurs : Aristote, Diogène, Buridan, Cervantes, etc. La solution au paradoxe proposée par Aristote suppose qu’il est généré par la confusion entre un terme (falsifier) ​​et sa citation (faux) (ce qui n’apporte aucune contribution logique) au premier terme.

Guillaume d’Ockham soutient que le paradoxe est généré par la fusion entre langage et métalangage où la phrase « l’information est toujours fausse » est écrite en métalangage. De même pour Alfred Tarski (1944) que le Paradoxe est généré par l’autonymie (un métalangage qui s’indique encore soi-même).

Le paradoxe de Richard

Le paradoxe de Richard (Jules Antoine Richard – 1905) est bien plus important. Envisagez de définir rigoureusement et complètement toutes les propriétés des entiers rationnels. Par exemple:

• nombre premier = divisible uniquement par lui-même et par l’unité
• carré parfait = produit d’un nombre par lui-même
• nombre pair = divisible par deux
• nombre irrationnel = ne peut pas être représenté comme une fraction d’entiers rationnels
• etc.

Pour toute axiomatisation de l’arithmétique, le nombre de propriétés des entiers rationnels est en quantité finie de sorte que leur classement selon un critère arbitraire et la numérotation progressive qui en résulte conduiront à une séquence numérotée finie. Par exemple:

• 1-entier = union entre les naturels positifs et négatifs
• 2 carrés parfaits = produit d’un nombre par lui-même
• Nombre impair à 3 = non divisible par deux (ensemble ℕ)
• 4- …………………………………………………………………………………………………………………
• ………………………………………………………………………………………………………………………
• 17- nombre premier = divisible uniquement par l’unité et par le sexe

On remarque immédiatement que certains nombres de la suite possèdent exactement la propriété à laquelle ils sont associés. Par exemple:

• 1 possède exactement la propriété d’être un positif naturel
• 3 n’est pas divisible par deux (restant dans l’ensemble ℕ)
• 17 a la propriété d’être divisible uniquement par lui-même et par l’unité

tandis que d’autres numéros sont associés à des propriétés qu’ils ne possèdent pas. Par exemple : 2 ≠ « est un carré parfait ». Or, les nombres qui ne possèdent PAS la propriété à laquelle ils sont associés sont définis comme Richardiens tandis que, évidemment, ceux qui la possèdent sont définis comme NON Richardiens.

La propriété d’être ou de ne pas être richardien est une propriété des nombres naturels donc elle aussi peut faire partie de la liste des propriétés des nombres naturels et dans cette liste elle aura un nombre R = étant un nombre richardien. R est-il un nombre richardien ou non ? C’est le problème paradoxal de Jules Richard.

Si R était Richardien, il ne devrait pas être associé à la propriété d’être Richardien tandis que s’il n’était pas Richardien, il ne pourrait pas être associé à la propriété « d’être un nombre Richardien ». Naturellement, « être ou ne pas être richardien » est une propriété NON arithmétique des nombres naturels, donc elle ne pourrait pas être admise dans la liste dénombrable et numérotée des propriétés mathématiques (de toute axiomatisation de l’arithmétique) ; cela réduit la pseudo-preuve de Jules Richard à un paradoxe.

Si R est richardien alors il n’a pas de propriétés richardiennes

s’il n’a pas les propriétés des Richardiens alors il ne peut pas entrer dans la liste des Richardiens

L’autoréférentialité apparaît évidente lorsque R = Richardien est utilisé pour démontrer que R ≠ Richardien tandis que la circularité est mise en évidence par le mini-graphique précédent.

Théorème de Turing

Théorème d’Alan Turing affirme l’existence d’algorithmes dont la calculabilité (la vérité) ne peut être établie car ils génèrent une boucle infinie (Stopping Problem).

Soit A un algorithme opérant sur une entrée donnée ; le théorème concerne la possibilité d’établir si A(d) (calculabilité de A sur d donné) s’arrête en un temps fini, c’est-à-dire après un nombre fini d’étapes). Soit alors un deuxième algorithme AR implémenté sur un méta-langage numérique, tel que :

AR (A(d)) a comme sortie V= vrai ou F= faux

c’est-à-dire un algorithme AR qui établit via une sortie (Vrai) que A(d) se terminera dans un temps fini, ou établit via la sortie (False) que A(d) produira une boucle infinie.

Prochainement

1. si AR (A(d)) = vrai alors A(d) se termine (s’arrête dans un temps fini)
2. si AR (A(d)) = false alors A(d) ne se termine pas (ne s’arrête pas en temps fini).

Puisque A et d sont tous deux des chaînes de symboles d’un métalangage ayant pour alphabet 0, 1 (dans le cas d’un alphabet numérique binomial) et donc mutuellement échangeables (non reconnaissables comme programme et entrée mais uniquement comme signaux numériques), il est possible d’opérer sur l’algorithme AR obtenant AR ((A,(A))

• AR (A(A)) vrai si A(A) se termine par la relation (1)
• AR (A(A)) faux si A(A) ne s’arrête pas dans un temps fini pour la relation (2)

Répétez maintenant la même opération effectuée pour la création de (A,A) créant NW(AR, AR) qui donne la sortie “true” si AR (A (A(d)) = ne se termine pas (selon (2)) donc : NW (AR, AR) est un programme qui se définit comme « vrai » si AR se définit comme « faux » qui, à son tour par la relation (2) définit A(d) comme un algorithme qui ne se termine pas (boucle infinie ). Conclusion: Il ne peut pas y avoir d’algorithme qui se termine par un vrai ou un faux (Stop).

La technique de démonstration est celle de l’autoréférentialité, puissamment utilisée dans l’évaluation de AR(AA) et NW(AR, AR) où l’algorithme AR s’auto-évalue en fonction de l’algorithme A et de l’algorithme NW.

Conclusion sur le théorème de Turing

(Où, comme d’habitude, rien n’est conclu mais met simplement en évidence quelques curiosités de la pseudo logique humaine et du pseudo pouvoir d’une SuperIA).

À la fin des années 1930, Alonzo Church et Alan Turing publièrent le résultat de leurs travaux. (mené séparément et indépendamment mais finalement unifié avec un résultat identique) visant à résoudre le désormais ancien problème du 10e problème de Hilbert et, en parallèle, le problème de la Super AI. Leur conjecture est la suivante :

Si un problème est humainement calculable, il existera alors une machine de Turing capable de le résoudre.

Alan Turing a prouvé qu’il n’existe aucun algorithme, et encore moins aucune machine, capable de résoudre tout ce que l’esprit humain peut résoudre. De manière encore plus analytique : si l’on voulait créer un algorithme qui établit a priori si les programmes de traitement de données et d’auto-apprentissage de SuperIA pourraient être un danger pour le genre Homo Sapiens, on obtiendrait comme résultat que cet hypothétique algorithme (implémenté sur un La machine de Turing n’est pas déterministe) cela continuerait éternellement sans jamais donner de réponse Vrai ou Faux.

Dr.ing. Alberto Sacchi, diplômé en ingénierie électrique en 1962 à Polimi, ancien directeur général de nombreuses PME de groupes américains et suisses, communicateur scientifique passionné, auteur de dizaines de publications techniques dans des revues sectorielles et d’essais scientifiques et populaires en mathématiques et périodiques mathématiques physique et science histoires et livres de fiction. L’expérience acquise tant dans les domaines de l’ingénierie que de la gestion lui permet d’apporter une contribution unique dans le domaine de la diffusion scientifique.