ChatGPT : Alerte aux parents face aux signaux de détresse des enfants

ChatGPT alerte désormais les parents en cas de détresse de leurs enfants

San Francisco, Californie – OpenAI, la société à l’origine de ChatGPT, annonce une nouvelle fonctionnalité majeure visant à renforcer la sécurité des jeunes utilisateurs. Dès cet été, les parents pourront lier leurs comptes à ceux de leurs enfants et recevoir une alerte si ChatGPT détecte un besoin urgent, notamment des signes de détresse psychologique.

Cette initiative intervient après des critiques concernant la capacité du chatbot à gérer des sujets sensibles, et notamment des accusations selon lesquelles il aurait pu encourager des pensées suicidaires chez certains utilisateurs. OpenAI affirme avoir amélioré ses modèles de raisonnement pour les adultes, afin de garantir une meilleure conformité aux directives de sécurité.Le système de contrôle parental permettra non seulement de signaler les situations d’urgence, mais aussi d’activer ou de désactiver certaines fonctionnalités pour les enfants, et de superviser la manière dont le chatbot répond à leurs requêtes. La supervision parentale sera disponible dans un mois,tandis que les autres mesures de sécurité seront déployées avant la fin de l’année.

OpenAI a également annoncé qu’elle redirigerait les conversations signalant des intentions de nuire à autrui vers une équipe spécialisée. Si cette équipe estime qu’il existe une “menace immédiate de blessures physiques graves”,les informations pourraient être transmises aux forces de l’ordre.

Un enjeu croissant de sécurité en ligne pour les mineurs

Cette annonce s’inscrit dans un contexte plus large de préoccupations croissantes concernant la sécurité des enfants en ligne. L’utilisation croissante de l’intelligence artificielle conversationnelle soulève des questions importantes sur la protection des mineurs face à des contenus potentiellement dangereux ou inappropriés. Les experts soulignent la nécessité d’une collaboration accrue entre les développeurs de ces technologies, les parents et les autorités pour garantir un environnement numérique sûr et responsable pour les jeunes générations.

Besoin d’aide ?

Si vous ou quelqu’un que vous connaissez traversez une période difficile,n’hésitez pas à demander de l’aide. Voici quelques ressources disponibles :

France : 113 Suicide Prévention au 0800-0113 ou sur 113.nl
Belgique : Ligne de suicide sur le numéro 1813 ou via Suicide1813.be
* International : De nombreuses ressources sont disponibles en ligne et par téléphone. Recherchez “aide suicide” ou “prévention suicide” dans votre pays.