Pourquoi l’IA ne dominera jamais le monde

Appelez cela l’hypothèse Skynet, l’intelligence générale artificielle ou l’avènement de la singularité – pendant des années, les experts et les non-experts de l’IA se sont inquiétés (et, pour un petit groupe, ont célébré) l’idée que l’intelligence artificielle pourrait un jour devenir plus intelligente que les humains .

Selon la théorie, les progrès de l’IA – en particulier du type apprentissage automatique capable de prendre de nouvelles informations et de réécrire son code en conséquence – finiront par rattraper le wetware du cerveau biologique. Dans cette interprétation des événements, chaque IA avance de Péril– gagner des machines IBM au modèle de langage d’IA massif GPT-3 rapproche l’humanité d’une menace existentielle. Nous construisons littéralement notre successeurs bientôt sensibles.

Sauf que ça n’arrivera jamais. Au moins, selon les auteurs du nouveau livre Pourquoi les machines ne domineront jamais le monde : l’intelligence artificielle sans peur.

Co-auteurs Professeur de philosophie à l’Université de Buffalo Barry Smith et Jobst Landgrebe, fondateur de la société allemande d’IA Cognotekt affirment que l’intelligence humaine ne sera pas dépassée par “un dictateur immortel” de si tôt – ou jamais. Ils ont dit Tendances numériques leurs raisons pourquoi.

Digital Trends (DT) : Comment ce sujet est-il arrivé sur votre radar ?

Jobst Landgrebe (JL): Je suis médecin et biochimiste de formation. Au début de ma carrière, j’ai fait des expériences qui ont généré beaucoup de données. J’ai commencé à étudier les mathématiques pour pouvoir interpréter ces données, et j’ai vu à quel point il est difficile de modéliser des systèmes biologiques à l’aide des mathématiques. Il y a toujours eu ce décalage entre les méthodes mathématiques et les données biologiques.

Au milieu de la trentaine, j’ai quitté le milieu universitaire et je suis devenu consultant en affaires et entrepreneur travaillant dans les systèmes logiciels d’intelligence artificielle. J’essayais de construire des systèmes d’IA pour imiter ce que les êtres humains peuvent faire. J’ai réalisé que je rencontrais le même problème que j’avais eu des années auparavant en biologie.

Les clients m’ont dit : “Pourquoi ne construisez-vous pas des chatbots ?” J’ai dit, ‘parce qu’ils ne fonctionneront pas; nous ne pouvons pas modéliser correctement ce type de système. Cela m’a finalement conduit à écrire ce livre.

Professeur Barry Smith (BS): J’ai pensé que c’était un problème très intéressant. J’avais déjà des idées sur des problèmes similaires avec l’IA, mais je n’y avais jamais réfléchi. Initialement, nous avons écrit un article intitulé ‘Redonner du sens à l’intelligence artificielle.’ (C’était à l’époque de Trump.) Il s’agissait de savoir pourquoi les réseaux de neurones échouent pour la modélisation du langage. Ensuite, nous avons décidé de développer l’article dans un livre explorant ce sujet plus en profondeur.

DT : Votre livre exprime un scepticisme quant à la manière dont les réseaux de neurones, qui sont cruciaux pour l’apprentissage en profondeur moderne, imitent le cerveau humain. Ce sont des approximations, plutôt que des modèles précis du fonctionnement du cerveau biologique. Mais acceptez-vous la prémisse de base selon laquelle il est possible que, si nous comprenions le cerveau de manière suffisamment détaillée, il puisse être reproduit artificiellement – et que cela donnerait naissance à l’intelligence ou à la sensibilité ?

JL : Le nom « réseau de neurones » est un abus de langage complet. Les réseaux de neurones que nous avons actuellement, même les plus sophistiqués, n’ont rien à voir avec le fonctionnement du cerveau. L’idée que le cerveau est un ensemble de nœuds interconnectés dans la manière dont les réseaux de neurones sont construits est complètement naïve.

Si vous regardez la cellule bactérienne la plus primitive, nous ne comprenons toujours même pas comment cela fonctionne. Nous comprenons certains de ses aspects, mais nous n’avons aucun modèle de son fonctionnement – ​​encore moins un neurone, ce qui est beaucoup plus compliqué, ou des milliards de neurones interconnectés. je crois que c’est scientifiquement impossible pour comprendre le fonctionnement du cerveau. Nous ne pouvons comprendre que certains aspects et traiter ces aspects. Nous n’avons pas, et nous n’obtiendrons pas, une compréhension complète du fonctionnement du cerveau.

Si nous comprenions parfaitement le fonctionnement de chaque molécule du cerveau, nous pourrions probablement la reproduire. Cela reviendrait à tout mettre en équations mathématiques. Ensuite, vous pouvez reproduire cela à l’aide d’un ordinateur. Le problème est simplement que nous sommes incapables d’écrire et de créer ces équations.

BS : Bon nombre des choses les plus intéressantes au monde se produisent à des niveaux de granularité que nous ne pouvons pas approcher. Nous n’avons tout simplement pas l’équipement d’imagerie, et nous n’aurons probablement jamais l’équipement d’imagerie, pour capturer la plupart de ce qui se passe aux niveaux très fins du cerveau.

Cela signifie que nous ne savons pas, par exemple, ce qui est responsable de la conscience. Il y a, en fait, une série de problèmes philosophiques assez intéressants, qui, selon la méthode que nous suivons, seront toujours insolubles – et donc nous devrions simplement les ignorer.

Une autre est la liberté de la volonté. Nous sommes très fortement en faveur de l’idée que les êtres humains ont une volonté ; nous pouvons avoir des intentions, des objectifs, etc. Mais nous ne savons pas s’il s’agit ou non d’un libre arbitre. C’est une question qui a à voir avec la physique du cerveau. En ce qui concerne les preuves dont nous disposons, les ordinateurs ne peuvent pas avoir de testament.

DT : Le sous-titre du livre est « l’intelligence artificielle sans peur ». Quelle est la peur spécifique à laquelle vous faites référence ?

BS : Cela a été provoqué par la littérature sur la singularité, que je sais que vous connaissez. Nick Bostrom, David Chalmers, Elon Musk, etc. Lorsque nous avons discuté avec nos collègues du monde réel, il nous est apparu clairement qu’il y avait en effet une certaine peur parmi la population que l’IA finirait par prendre le dessus et changer le monde au détriment des humains.

Nous avons beaucoup de choses dans le livre sur les arguments de type Bostrum. L’argument central contre eux est que si la machine ne peut pas avoir de volonté, alors elle ne peut pas non plus avoir de mauvaise volonté. Sans mauvaise volonté, il n’y a rien à craindre. Maintenant, bien sûr, nous pouvons toujours avoir peur des machines, tout comme nous pouvons avoir peur des armes à feu.

Mais c’est parce que les machines sont gérées par des personnes mal intentionnées. Mais alors ce n’est pas l’IA qui est mauvaise ; ce sont les gens qui construisent et programment l’IA

DT : Pourquoi cette notion de singularité ou d’intelligence artificielle générale intéresse-t-elle tant les gens ? Qu’ils en soient effrayés ou fascinés, il y a quelque chose dans cette idée qui résonne chez les gens à un niveau général.

JL : Il y a cette idée, commencée au début du XIXe siècle, puis déclarée par Nietzsche à la fin de ce siècle, que Dieu est mort. Puisque les élites de notre société ne sont plus chrétiennes, elles avaient besoin d’un remplaçant. Max Stirner, qui était, comme Karl Marx, un élève de Hegel, a écrit un livre à ce sujet, disant que « je suis mon propre dieu ».

Si vous êtes Dieu, vous voulez aussi être un créateur. Si vous pouviez créer une superintelligence, alors vous êtes comme Dieu. Je pense que cela a à voir avec les tendances hyper-narcissiques de notre culture. Nous n’en parlons pas dans le livre, mais cela m’explique pourquoi cette idée est si séduisante à notre époque où il n’y a plus d’entité transcendante vers laquelle se tourner.

DT : Intéressant. Donc, pour suivre cela, c’est l’idée que la création de l’IA – ou l’objectif de créer l’IA – est un acte narcissique. Dans ce cas, le concept que ces créations deviendraient en quelque sorte plus puissantes que nous sommes une tournure cauchemardesque à ce sujet. C’est l’enfant qui tue le parent.

JL : Un peu comme ça, oui.

DT : Quel serait pour vous le résultat final de votre livre si tout le monde était convaincu par vos arguments ? Qu’est-ce que cela signifierait pour l’avenir du développement de l’IA ?

JL : C’est une très bonne question. Je peux vous dire exactement ce que je pense qu’il se passerait – et se passera. Je pense qu’à moyen terme, les gens accepteront nos arguments, et cela créera des mathématiques mieux appliquées.

Tous les grands mathématiciens et physiciens sont parfaitement conscients des limites de ce qu’ils peuvent réaliser mathématiquement. Parce qu’ils en sont conscients, ils se concentrent uniquement sur certains problèmes. Si vous êtes bien conscient des limites, alors vous parcourez le monde et recherchez ces problèmes et les résolvez. C’est ainsi qu’Einstein a trouvé les équations du mouvement brownien ; comment il est venu avec ses théories de la relativité; comment Planck a résolu le rayonnement du corps noir et a ainsi lancé la théorie quantique de la matière. Ils avaient un bon instinct pour savoir quels problèmes peuvent être résolus avec les mathématiques et lesquels ne le sont pas.

Si les gens apprennent le message de notre livre, nous pensons qu’ils seront en mesure de concevoir de meilleurs systèmes, car ils se concentreront sur ce qui est vraiment faisable – et cesseront de gaspiller de l’argent et des efforts sur quelque chose qui ne peut pas être réalisé.

BS : Je pense qu’une partie du message passe déjà, non pas à cause de ce que nous disons, mais à cause des expériences que les gens ont lorsqu’ils donnent de grosses sommes d’argent à des projets d’IA, puis les projets d’IA échouent. Je suppose que vous connaissez le Centre conjoint d’intelligence artificielle. Je ne me souviens pas de la somme exacte, mais je pense que c’était quelque chose comme 10 milliards de dollars, qu’ils ont donnés à un entrepreneur célèbre. Au final, ils n’en ont rien retiré. Ils ont annulé le contrat.

(Note de l’éditeur : JAIC, une subdivision des forces armées des États-Unis, avait pour but d’accélérer la “livraison et l’adoption de l’IA pour obtenir un impact de mission à grande échelle”. Il a été intégré dans une organisation unifiée plus large, le Chief Digital and Artificial Intelligence Officer , avec deux autres bureaux en juin de cette année. JAIC a cessé d’exister en tant qu’entité propre.)

DT : Quel est selon vous, en termes généraux, l’argument le plus convaincant que vous avancez dans le livre ?

BS : Chaque système d’IA est de nature mathématique. Parce que nous ne pouvons pas modéliser mathématiquement la conscience, la volonté ou l’intelligence, celles-ci ne peuvent pas être émulées à l’aide de machines. Par conséquent, les machines ne deviendront pas intelligentes, encore moins superintelligentes.

JL : La structure de notre cerveau ne permet que des modèles limités de la nature. En physique, nous choisissons un sous-ensemble de la réalité qui correspond à nos capacités de modélisation mathématique. C’est ainsi que Newton, Maxwell, Einstein ou Schrödinger ont obtenu leurs fameux et beaux modèles. Mais ceux-ci ne peuvent décrire ou prédire qu’un petit ensemble de systèmes. Nos meilleurs modèles sont ceux que nous utilisons pour concevoir la technologie. Nous sommes incapables de créer un modèle mathématique complet de la nature animée.

Cette interview a été modifiée pour plus de longueur et de clarté.

Recommandations des éditeurs