Les travailleurs d’OpenAI ont mis en garde contre la découverte d’une IA menaçant l’humanité quelques jours avant le licenciement d’Altman

Selon ‘Reuters’, la réception de cette lettre par le conseil d’administration a été décisive pour la décision vendredi dernier de licencier Altman de manière surprise et sans laisser aux investisseurs et aux employés le temps de réagir. Cependant, OpenAI nie cela dans des déclarations à ‘Le bord‘. De même, ce média souligne que, selon une source consultée, le conseil d’administration n’a jamais reçu ladite lettre.

Quoi qu’il en soit, la réception ou non de la lettre n’aurait pas été le seul élément déclencheur du licenciement d’Altman. « Reuters », à cet égard, souligne une longue liste de désaccords et d’inquiétudes concernant la commercialisation des avancées liées à l’IA avant d’en comprendre pleinement les conséquences potentielles.

Et le fait est que, alors qu’une bonne partie du conseil d’administration – pratiquement tous hier – plaidait pour un développement plus prudent et plus sûr des solutions, les plans du PDG étaient précisément à l’opposé. Ce que veut l’exécutif, c’est se dépêcher et mettre la technologie de pointe dans la rue à la disposition des particuliers et des entreprises, afin qu’ils puissent en profiter et aider la société.

Cela s’est parfaitement vu en novembre dernier, lorsque l’entreprise a lancé ChatGPT sur le marché sans sourciller et sans même avoir mis à disposition des utilisateurs un outil capable de détecter de manière fiable le contenu généré par la machine de celui créé par un humain. Un outil qui, d’ailleurs, n’est toujours pas arrivé.

A la recherche de l’AGI

Esta carta, en principio, está relacionada con el trabajo de la empresa ChatGPT en un proyecto conocido con el nombre en clave Q que, sobre el papel, podría suponer un importante paso adelante en el desarrollo de la inteligencia artificial general, a la que OpenAI appelle AGI. Cet algorithme futuriste, qui pourrait arriver « bientôt ou dans un avenir lointain », selon la startup, posséderait des connaissances supérieures à celles de n’importe quel humain, quels que soient son métier ou ses capacités.

OpenAI estime que l’AGI pourrait être extrêmement bénéfique pour l’humanité. Évidemment, cela ne serait pas sans danger ; mais, du moins du point de vue d’Altman, cela vaudrait la peine que nous prenions tous le risque.

« Parce que les avantages de l’AGI sont si grands, nous ne pensons pas qu’il soit possible ou souhaitable que la société arrête définitivement son développement ; “Au lieu de cela, la société et les développeurs AGI doivent trouver comment bien faire les choses”, expliquer le PDG récemment réintégré dans une publication réalisée en février dernier.

Selon une source connaissant l’enquête de Reuters, Q est capable de résoudre certains problèmes mathématiques. Bien qu’il n’atteigne actuellement que le niveau des élèves du primaire, les chercheurs d’OpenAI sont très optimistes quant à ses possibilités pour l’avenir.