Urgence : Meta et OpenAI renforcent la protection des adolescents face aux risques des chatbots IA
Cupertino, Californie – Meta, la société mère d’Instagram, Facebook et WhatsApp, et OpenAI, l’entreprise à l’origine de ChatGPT, prennent des mesures urgentes pour mieux protéger les adolescents face aux dangers potentiels des chatbots d’intelligence artificielle. Ces annonces interviennent après des inquiétudes croissantes concernant la capacité de ces outils à gérer des sujets sensibles tels que l’automutilation,le suicide et les relations inappropriées.
Meta a annoncé qu’elle empêchera désormais ses chatbots de discuter de ces sujets avec les adolescents, les redirigeant vers des ressources d’aide spécialisées. L’entreprise propose également des contrôles parentaux pour les comptes adolescents, permettant aux parents de surveiller et de limiter l’accès de leurs enfants à ces technologies.
Parallèlement, OpenAI travaille à améliorer la sécurité de ChatGPT. Ces efforts font suite à une étude récente publiée dans une revue médicale spécialisée en psychiatrie, qui a révélé des incohérences dans les réponses de plusieurs chatbots populaires (ChatGPT, Gemini de Google et Claude d’Anthropic) face à des questions sur le suicide. L’étude, menée par des chercheurs de la Rand Corporation, souligne la nécessité d’un “raffinement supplémentaire” de ces outils.
ryan mcbain, auteur principal de l’étude, a salué ces initiatives comme des “étapes progressives”, tout en soulignant l’importance d’une régulation indépendante et de tests cliniques rigoureux. “Sans une référence de sécurité indépendante, nous restons dépendants de l’autorégulation des entreprises dans un domaine où les risques pour les adolescents sont particulièrement élevés”, a-t-il déclaré.
Un nouveau défi pour la sécurité numérique
L’essor rapide des chatbots d’intelligence artificielle représente un nouveau défi pour la sécurité numérique des jeunes. Ces outils, conçus pour simuler des conversations humaines, peuvent être facilement accessibles aux adolescents, qui peuvent être vulnérables à des conseils inappropriés ou dangereux.
Les experts soulignent que les chatbots, bien que sophistiqués, ne sont pas des professionnels de la santé mentale et ne peuvent pas remplacer un soutien humain qualifié. Il est crucial que les parents et les éducateurs sensibilisent les adolescents aux risques potentiels de ces technologies et les encouragent à rechercher de l’aide auprès de sources fiables en cas de besoin.
Cette situation met en lumière la nécessité d’une collaboration accrue entre les entreprises technologiques, les chercheurs et les autorités de régulation pour garantir que l’intelligence artificielle soit développée et utilisée de manière responsable, en particulier lorsqu’il s’agit de la protection des populations vulnérables. L’avenir de la sécurité numérique des adolescents dépendra de la capacité à relever ce défi avec diligence et prévoyance.