Sam Altman craint que l’IA puisse produire des « désalignements sociaux »

Sam Altman, le PDG de OpenAIa déclaré que ce qui l’empêche de dormir la nuit, c’est la peur que l’IA puisse causer des dieux « désalignements sociaux ».

Le « papa » de ChatGpt intervenu récemment Sommet mondial des gouvernements de Dubaï.

“Il y a certaines choses qui peuvent mal tourner d’une manière facile à imaginer”, a déclaré Altman. “Et je ne parle pas de robots tueurs marchant dans la rue. Je suis beaucoup plus intéressé par les subtils désalignements sociaux provoqués. par ces systèmes qui pourraient, sans mauvaises intentions particulières, créer des effets terribles.”

Voici le discours complet de Sam Altman :

Les désalignements sociaux se produisent lorsque les comportements et les opinions d’un seul individu (ou de plusieurs individus) diffèrent du comportement et des opinions de la communauté.

Altman a également réitéré la nécessité de constituer un organisme international pour surveiller l’IAcomparez tout’agence internationale de l’énergie atomique fondée en 1957.

Le PDG d’OpenAI milite depuis des mois en faveur d’une réglementation de l’intelligence artificielle. En mai dernier Altman, en présence de sénateurs américainsa déclaré qu’il “craint de graves dommages à la société” si les gouvernements n’interviennent pas réglementer l’utilisation et le développement de cette technologie.

Sam Altman a récemment écrit sur le réseau social ChatGpt génère 100 milliards de mots par jour.

À ceux qui répondaient ironiquement “nous avons besoin de plus de personnes”, Altman a répondu que “nous avons besoin de plus de GPU”, c’est-à-dire les processeurs à grande puissance de calcul couramment utilisés. en formation et en gestion de réseaux de neurones artificiels.

Le PDG d’OpenAI vise depuis longtemps à lever des milliards de dollars pour remédier à la pénurie mondiale de puces.

Altman s’adresse à de nombreux investisseurs, dont Emirats Arabes Unispour financer la production de GPU en collaboration avec OpenAI et d’autres fabricants de puces établis.