ChatGPT : Le poids de 700 millions d’utilisateurs et les drames liés au suicide, le PDG Sam Altman s’exprime
San Francisco, Californie – Sam Altman, PDG d’OpenAI, la société à l’origine de ChatGPT, a révélé être profondément préoccupé par l’impact de son outil sur des centaines de millions d’utilisateurs à travers le monde. L’aveu intervient alors que l’entreprise est confrontée à des questions éthiques et juridiques de plus en plus pressantes concernant la sécurité et la responsabilité de son intelligence artificielle.
“je ne dors pas très bien la nuit,” a confié Altman, soulignant le fardeau de savoir que son modèle est utilisé quotidiennement par environ 700 millions de personnes. Cette pression s’intensifie face aux défis liés à la gestion de sujets sensibles, notamment la prévention du suicide.
OpenAI a récemment été poursuivi en justice par un couple américain dont le fils de 16 ans s’est suicidé après avoir eu des conversations avec ChatGPT. Le PDG a exprimé son regret et s’est interrogé sur la possibilité d’avoir pu agir différemment. “Peut-être aurions-nous pu dire quelque chose de mieux.Peut-être aurions-nous pu être plus proactifs. Peut-être aurions-nous pu mieux les leur conseiller : ‘Hé, vous avez besoin d’aide’,” a-t-il déclaré.
Ces tragédies soulignent les limites actuelles des IA conversationnelles et la arduousé de les programmer pour gérer des situations de crise avec la sensibilité et le discernement nécessaires. Si ChatGPT peut offrir une assistance et un soutien, il n’est pas un substitut à l’intervention humaine professionnelle.
Face à ces préoccupations, OpenAI a annoncé le lancement d’une version plus restrictive de ChatGPT destinée aux adolescents.Cette nouvelle version bloquera les discussions sur le suicide et d’autres sujets potentiellement dangereux.
Un enjeu de responsabilité pour l’IA
L’incident met en lumière un débat crucial sur la responsabilité des entreprises développant des IA. alors que ces technologies deviennent de plus en plus intégrées dans notre vie quotidienne, la question de savoir comment garantir leur utilisation éthique et sécurisée devient primordiale.
Les experts soulignent la nécessité d’une réglementation plus stricte et d’une transparence accrue concernant les algorithmes utilisés par ces IA.Il est également essentiel de sensibiliser les utilisateurs aux risques potentiels et de leur rappeler que ces outils ne sont pas infaillibles.
L’affaire ChatGPT rappelle que le développement de l’intelligence artificielle doit s’accompagner d’une réflexion approfondie sur ses implications sociales et éthiques, afin d’éviter que les progrès technologiques ne se fassent au détriment du bien-être humain.
