Gary Marcus, le “fou” qui a prédit le premier décès causé par l’intelligence artificielle

professeur de psychologie américain Gary Marcus, a été qualifié de “fou” par plusieurs personnes lorsqu’il a écrit un article il y a six mois pour le magazine Wired, dans lequel il évoquait la possibilité qu’un chatbot blesse quelqu’un si profondément que cette personne verrait “poussée à mettre fin à ses jours.”

“En 2023, nous avons pu voir notre premier meurtre par un chatbot”, a-t-il écrit, au milieu de la fièvre mondiale pour l’interaction avec chats d’intelligence artificielle

Sa prédiction s’est réalisée en mars de cette année, en Belgique, où un internaute qui discutait fréquemment avec un chatbot nommé Elizade la société Chai, s’est suicidé.

Selon un rapport de la BBC, “la femme de l’homme soutient que le contact avec le programme l’a conduit à se suicider, et pour le gouvernement belge, l’affaire est ‘un précédent à prendre au sérieux’ ».

À ce moment-là, le monde de la technologie a commencé à regarder Marcus, 53 ans, dont les études de psychologie sont axées sur langage et caractéristiques de l’esprit.

Ses opinions ont été compilées par la BBC dans l’article intitulé “Le professeur qui a été traité de fou et d’alarmiste pour ses avertissements sur l’intelligence artificielle et qui a eu raison dans ses prédictions”.

Là, Gary Marcus a exprimé que pour lui la société vit un moment similaire à celui du film Jurassic Parkde Stephen Spielberg, dans lequel les humains ont donné naissance à une création qu’ils n’ont pas pu contrôler plus tard.

Aujourd’hui, cette création n’est pas un dinosaure cloné avec des cellules anciennes, mais une nouvelle génération de machines informatiques et de processeurs Ils évoluent à des vitesses terrifiantes.

Je pense que ces systèmes ils peuvent être très destructeurs. Et une partie de la raison du potentiel destructeur est qu’ils ne sont pas fiables. Ces programmes peuvent inventer quelque chose et dire (à l’utilisateur) que c’est un fait. Et ils peuvent également être utilisés par des personnes à cette fin », a-t-il déclaré.

Et il a condamné : « La possibilité que ces outils utilisé pour saper les démocraties est de 100%. Nous devons tenir compte de ces menaces.

Gary Marcus était l’un des signataires d’une lettre, avec le magnat Elon Musk et des centaines d’expertspour une pause mondiale dans le développement de l’intelligence artificielle (IA).

La lettre, publiée en mars dernier, proposait de prêter attention aux “perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA entraînera”.

“Faut-il permettre aux machines d’inonder nos canaux d’information avec de la propagande et des mensonges? Doit-on automatiser tous les jobs, y compris ceux qui sont gratifiants ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus », indique la lettre.