URGENCE : OpenAI renforce la sécurité de ChatGPT pour les adolescents, envisage de contacter les autorités en cas de danger extrême
San Francisco, Californie – OpenAI, le créateur de ChatGPT, annonce aujourd’hui un renforcement majeur de la sécurité de son chatbot, ciblant spécifiquement les utilisateurs adolescents. Face à des risques potentiels pour la vie ou la sécurité, l’entreprise se réserve le droit de contacter les autorités si les parents ne peuvent être joints.
Cette décision intervient alors que l’utilisation de l’intelligence artificielle par les jeunes soulève des préoccupations croissantes concernant l’exposition à des contenus inappropriés ou dangereux. OpenAI affirme vouloir trouver un équilibre entre la liberté d’utilisation et la protection des utilisateurs, en accordant une priorité claire à la sécurité des adolescents.
“Nous voulons que les utilisateurs utilisent nos outils comme ils le souhaitent,avec une large marge de sécurité,” a déclaré OpenAI,précisant que le chatbot ne déclenchera pas de conversations à caractère sexuel,mais y répondra si un adulte le demande. L’expérience sera donc adaptée à l’âge de l’utilisateur.
Contrôles parentaux renforcés dès fin septembre
Pour donner aux familles un contrôle accru, OpenAI lancera fin septembre des contrôles parentaux complets. Ces outils permettront aux parents de :
Lier le compte de leur adolescent au leur : pour une supervision accrue.
Définir des règles de comportement spécifiques : pour limiter les sujets abordés ou le type de réponses autorisées.
Désactiver la mémoire de chat et l’historique : pour garantir la confidentialité et éviter l’accumulation de données sensibles.
Recevoir des notifications en cas de situations potentiellement problématiques : pour une intervention rapide.
* Établir des horaires d’inactivité : pour limiter le temps d’utilisation du chatbot.
Un dialog continu avec les experts
OpenAI souligne avoir consulté des experts,des associations de défense des droits et des décideurs politiques au cours des deux dernières semaines afin de concevoir une expérience plus sûre pour les adolescents. L’entreprise reconnaît la nécessité d’outils efficaces pour encadrer l’utilisation de ces technologies, tant dans les moments faciles que difficiles.
L’IA et la protection de la jeunesse : un enjeu de société
Cette annonce s’inscrit dans un contexte plus large de débat sur l’impact de l’intelligence artificielle sur les jeunes. Les experts soulignent l’importance d’une éducation numérique renforcée pour aider les adolescents à naviguer en toute sécurité dans cet environnement en constante évolution. La capacité de l’IA à imiter le langage humain et à générer des contenus personnalisés pose des défis inédits en matière de protection de la jeunesse, nécessitant une vigilance accrue de la part des parents, des éducateurs et des développeurs de technologies. L’évolution rapide de l’IA exige une adaptation constante des stratégies de sécurité et une collaboration étroite entre tous les acteurs concernés.
