Le père de ChatGPT prévient à Madrid que l’IA doit être “contrôlée comme une arme nucléaire”

“Avec l’IA, vous devez être aussi prudent qu’avec une arme nucléaire”, a-t-il déclaré. plus précisément, l’exécutif, qui a attiré l’attention sur l’importance de créer un organisme international, similaire à l’Agence internationale de l’énergie atomique (AIEA) de l’ONU, pour aider à contrôler la technologie. Chose qu’il a déjà exprimée la semaine dernière lors de sa comparution devant les législateurs du Sénat américain.

“Je pense que nous pouvons créer une organisation qui nous aide à suivre l’utilisation excessive de puces ou d’énergie, etc. Cela pourrait nous aider à savoir qui crée des systèmes qui pourraient être catastrophiques au niveau mondial. Il doit y avoir un processus d’audit, des tests de sécurité et des évaluations des risques », a déclaré le PDG d’OpenAI à cet égard.

L’irruption rapide de ChatGPT, un outil qui, en seulement six mois, a réussi à franchir la barrière des 100 millions d’utilisateurs mensuels, a amené les États du monde entier à commencer à étudier comment réglementer cette technologie. De l’avis de Sam Altman, cette régulation doit être réalisée rapidement et être aussi uniforme que possible à l’échelle mondiale. Concrètement, l’objectif devrait être de mettre “les plus grandes entreprises” sous contrôle. Et c’est que, comme l’a reconnu Altman, l’histoire de la Silicon Valley montre que vous ne pouvez pas laisser toute la responsabilité, en ce qui concerne la création de normes de sécurité, sur les technologies.

Au cours des derniers mois, OpenAI a été sévèrement critiqué par de nombreux universitaires et experts en IA pour avoir mis une technologie imparfaite entre les mains de l’utilisateur commun qui est pleine de préjugés et peut désinformer. Altman justifie la sortie de son outil qui, admet qu’il est “imparfait”, notant qu'”il est important que les gens aient le temps de revoir la technologie et de s’adapter” au changement qu’elle apporte le plus tôt possible : “Cela nous permet aussi de savoir comment les utilisateurs l’utilisent, à la fois pour le meilleur et pour le pire avant qu’ils n’aient un plus grand impact sur le monde. Nous avons encore le temps de les adapter ».

L’exécutif a reconnu qu’il comprend que de nombreuses voix ont souligné que ChatGPT peut provoquer un tremblement de terre qui affecte des milliers d’emplois et, en particulier, l’éducation. « Les gens réagissent de la même manière que les professeurs de mathématiques l’ont fait lorsque la calculatrice a été inventée. En fin de compte, cela a simplement amélioré les capacités de l’étudiant, et je pense que la même chose se produira avec ChatGPT. Ce sera un outil pour les étudiants, et ceux qui n’en profitent pas risquent d’être laissés pour compte », a déclaré Altman.

Le PDG a également souligné les grandes opportunités commerciales que l’avancement de l’IA apporte avec elle. Il a même fait remarquer que dans un avenir proche et immédiat, nous commencerons à voir “des entreprises d’un milliard de dollars contrôlées par une seule personne”.

Rencontre avec Sanchez

L’exécutif d’OpenAI a également rencontré ce lundi matin le président du gouvernement, Pedro Sánchez, et la ministre de l’Économie Nadia Calviño. Au cours de la réunion, le développement récent de l’intelligence artificielle a été discuté, ainsi que son énorme potentiel et ses risques potentiels. Rappelons que l’Espagne présidera le Conseil de l’UE à partir de juillet prochain, et que la loi IA, qui imposera des limites aux solutions telles que ChatGPT sur le sol communautaire, sera approuvée avant la fin de l’année.