Environ 1 000 développeurs, chercheurs, philosophes et entrepreneurs en IA ont maintenant dans une lettre ouverte appelé à prendre une pause de six mois dans la recherche sur les systèmes d’IA qui pourraient être plus puissants et plus performants que GPT-4. Parmi les signataires figurent le PDG de Tesla, Elon Musk, le co-fondateur d’Apple, Steve Wozniak, le neuroscientifique Gary Marcus et Emad Mostaque, responsable du co-développeur de diffusion stable, Stability AI.
Je viens de signer la lettre ouverte et dans mon bulletin écrit pourquoi : Les systèmes d’IA qui démontrent un comportement de type humain risquent de détourner la capacité humaine pour la théorie de l’esprit, et cette capacité est fondamentale pour nos autres capacités cognitives comme l’apprentissage ou le langage.
Les médias sociaux ont déjà montré que “agir vite et casser des choses” peut avoir des conséquences imprévisibles. Je ne pense pas que je veuille voir cela pour des systèmes qui imitent la cognition humaine.
Déplacez-vous vite et cassez les cerveaux : ne pouvons-nous pas ?