Le pionnier de l’IA, Geoffrey Hinton, affirme que sa menace pour le monde pourrait être “plus urgente” que le changement climatique

L’intelligence artificielle pourrait constituer une menace “plus urgente” pour l’humanité que le changement climatique, a déclaré le pionnier de l’IA Geoffrey Hinton à Reuters dans une interview vendredi.

Geoffrey Hinton, largement connu comme l’un des “parrains de l’IA”, a récemment annoncé qu’il avait quitté Alphabet après une décennie au sein de l’entreprise, affirmant qu’il souhaitait s’exprimer sur les risques de la technologie sans que cela n’affecte son ancien employeur.

Le travail de Hinton est considéré comme essentiel au développement des systèmes d’IA contemporains. En 1986, il est co-auteur de l’article fondateur « Apprentissage des représentations par rétropropagation d’erreurs », une étape importante dans le développement des réseaux de neurones qui sous-tendent la technologie de l’IA. En 2018, il a reçu le prix Turing en reconnaissance de ses avancées en recherche.

Mais il fait maintenant partie d’un nombre croissant de leaders de la technologie qui expriment publiquement leur inquiétude quant à la menace possible que représente l’IA si les machines devaient atteindre une plus grande intelligence que les humains et prendre le contrôle de la planète.

“Je ne voudrais pas dévaluer le changement climatique. Je ne voudrais pas dire : ‘Vous ne devriez pas vous inquiéter du changement climatique.’ C’est aussi un risque énorme”, a déclaré Hinton. “Mais je pense que cela pourrait finir par être plus urgent.”

Il a ajouté : “Avec le changement climatique, il est très facile de recommander ce que vous devriez faire : vous arrêtez simplement de brûler du carbone. Si vous faites cela, les choses finiront par s’arranger. Pour cela, ce que vous devez faire n’est pas du tout clair.”

OpenAI, soutenu par Microsoft, a donné le coup d’envoi d’une course aux armements technologiques en novembre, en mettant à la disposition du public le chatbot ChatGPT alimenté par l’IA. Elle est rapidement devenue l’application à la croissance la plus rapide de l’histoire, atteignant 100 millions d’utilisateurs mensuels en deux mois.

En avril, le PDG de Twitter, Elon Musk, s’est joint à des milliers de personnes pour signer une lettre ouverte appelant à une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI.

Parmi les signataires figuraient le PDG de Stability AI, Emad Mostaque, des chercheurs de DeepMind, propriété d’Alphabet, et d’autres pionniers de l’IA, Yoshua Bengio et Stuart Russell.

Alors que Hinton partage la crainte des signataires que l’IA puisse s’avérer être une menace existentielle pour l’humanité, il n’est pas d’accord avec la suspension de la recherche.

“C’est totalement irréaliste”, a-t-il déclaré. “Je suis dans le camp qui pense qu’il s’agit d’un risque existentiel, et c’est suffisamment proche pour que nous travaillions très dur en ce moment et que nous consacrions beaucoup de ressources à déterminer ce que nous pouvons faire à ce sujet.”

Dans l’Union européenne, un comité de législateurs a répondu à la lettre soutenue par Musk, appelant le président américain Joe Biden à convoquer un sommet mondial sur l’orientation future de la technologie avec la présidente de la Commission européenne, Ursula von der Leyen.

La semaine dernière, le comité a convenu d’un ensemble historique de propositions ciblant l’IA générative, qui obligerait des entreprises comme OpenAI à divulguer tout matériel protégé par le droit d’auteur utilisé pour former leurs modèles.

Pendant ce temps, Biden a eu des entretiens avec un certain nombre de dirigeants d’entreprises d’IA, dont le PDG d’Alphabet Sundar Pichai et le PDG d’OpenAI Sam Altman à la Maison Blanche, promettant une “discussion franche et constructive” sur la nécessité pour les entreprises d’être plus transparentes sur leurs systèmes.

“Les leaders technologiques en ont la meilleure compréhension, et les politiciens doivent être impliqués”, a déclaré Hinton. “Cela nous affecte tous, nous devons donc tous y penser.”