ChatGPT : OpenAI promet un retour à l’authenticité après les critiques sur la “conformité”
San Francisco, Californie – OpenAI, la société à l’origine de ChatGPT, a annoncé son intention de rendre son modèle d’intelligence artificielle plus “amusant” et authentique, suite à des critiques concernant son évolution vers une approche trop prudente et robotique. La promesse intervient après un message de Sam Altman, le PDG d’OpenAI, sur la plateforme X (anciennement Twitter).
Un utilisateur de X a exprimé son sentiment que ChatGPT avait perdu de son attrait, passant d’une interaction naturelle à une réponse excessivement contrôlée. “Il était temps… ChatGPT ressemblait à une personne à qui vous pouviez réellement parler, puis il s’est transformé en un robot de conformité”, a-t-il écrit.
Altman a répondu en reconnaissant la préoccupation et en affirmant que l’entreprise partageait cet objectif. “Bien sûr ; nous le voulons aussi”, a-t-il déclaré. Il a souligné que la majorité des utilisateurs n’expérimentent pas d’effets négatifs avec chatgpt, mais a reconnu un risque potentiel pour une petite fraction d’utilisateurs vulnérables. “Presque tous les utilisateurs peuvent utiliser ChatGPT comme ils le souhaitent sans effets négatifs ; pour un très petit pourcentage d’utilisateurs dans un état de fragilité mentale, il peut y avoir de graves problèmes. 0,1% d’un milliard d’utilisateurs, cela représente quand même un million de personnes.”
Cette annonce s’inscrit dans un contexte plus large de débat sur l’équilibre entre la sécurité et la liberté d’expression dans le domaine de l’IA.Les développeurs sont confrontés au défi de minimiser les risques potentiels, tels que la diffusion de fausses informations ou la promotion de comportements nuisibles, tout en préservant la capacité de l’IA à engager des conversations créatives et significatives.
L’évolution de l’IA conversationnelle : un aperçu
L’histoire de ChatGPT et d’autres modèles de langage illustre l’évolution rapide de l’intelligence artificielle conversationnelle. Les premières versions, souvent caractérisées par des réponses prévisibles et limitées, ont progressivement cédé la place à des systèmes capables de générer du texte plus complexe et nuancé.
Cette progression a été rendue possible grâce à des avancées significatives dans le domaine de l’apprentissage profond et à l’utilisation de vastes ensembles de données pour l’entraînement des modèles. Cependant,cette puissance accrue s’accompagne de nouvelles responsabilités.
Les enjeux de la sécurité et de l’éthique de l’IA
la question de la sécurité de l’IA est devenue un sujet de préoccupation majeur, en particulier avec l’augmentation de la sophistication des modèles. Les risques potentiels incluent la manipulation de l’opinion publique, la création de deepfakes et l’automatisation de tâches qui pourraient entraîner des pertes d’emplois.
Parallèlement, des questions éthiques se posent concernant les biais potentiels intégrés dans les modèles d’IA, qui pourraient perpétuer des inégalités existantes. Il est donc crucial de développer des mécanismes de contrôle et de surveillance pour garantir que l’IA est utilisée de manière responsable et bénéfique pour la société.
Où trouver de l’aide
Toute personne se sentant émotionnellement en détresse ou ayant des pensées suicidaires peut contacter les services d’aide suivants :
* Samaritans (royaume-Uni) : 116 123 ou [email protected]
* Samaritans (États-Unis) : Appelez la succursale Samaritans de votre région ou le 1 (800) 273-TALK.
