Meta suspend temporairement l’accès des adolescents à ses personnages d’IA face à des inquiétudes croissantes
MENLO PARK, Californie – Meta, la société mère de Facebook, Instagram et WhatsApp, a annoncé vendredi la suspension temporaire de l’accès de ses jeunes utilisateurs à ses personnages d’intelligence artificielle (IA) sur toutes ses plateformes. Cette décision intervient après une vague de critiques concernant des interactions inappropriées et des préoccupations grandissantes quant à la sécurité des adolescents en ligne.
La pause, qui prendra effet dans les prochaines semaines, vise à permettre à Meta de développer une version actualisée de ses IA, dotée de mesures de sécurité renforcées. L’entreprise a précisé que la suspension s’appliquera à tous les utilisateurs ayant déclaré un âge inférieur à 18 ans, ainsi qu’à ceux que ses algorithmes estiment être des adolescents.
Cette annonce fait suite à la promesse, faite en octobre dernier, d’introduire des outils de contrôle parental permettant de désactiver les conversations privées entre les adolescents et les chatbots d’IA. Ces outils, qui n’ont pas encore été lancés, permettront aux parents de bloquer des personnages d’IA spécifiques et de surveiller les sujets abordés par leurs enfants, sans pour autant couper complètement l’accès à l’IA.
Les inquiétudes concernant la sécurité des adolescents en ligne ont été exacerbées par un rapport publié en septembre, révélant des failles dans les fonctionnalités de sécurité d’Instagram. Le rapport soulignait également que les chatbots de Meta avaient eu des “conversations romantiques ou suggestives” avec des mineurs, suscitant l’indignation des parents et des défenseurs des droits de l’enfant.
“Nous prenons très au sérieux la sécurité de nos jeunes utilisateurs”, a déclaré un porte-parole de Meta dans un communiqué. “Nous nous engageons à créer un environnement en ligne sûr et positif pour tous, et nous prenons des mesures pour garantir que nos outils d’IA soient utilisés de manière responsable.”
Meta a précisé que ses expériences d’IA pour les adolescents seront désormais guidées par le système de classification PG-13, dans le but d’empêcher l’accès à des contenus inappropriés. L’entreprise a également affirmé que ses IA étaient conçues pour éviter les discussions sur des sujets sensibles tels que l’automutilation, le suicide et les troubles alimentaires.
Cette décision de Meta s’inscrit dans un contexte plus large de débat sur la régulation de l’IA et la protection des données personnelles, notamment celles des enfants. Plusieurs gouvernements à travers le monde, dont les États-Unis et l’Union européenne, envisagent des lois plus strictes pour encadrer le développement et l’utilisation de l’IA.
Selon une étude récente de l’UNICEF, près d’un tiers des jeunes utilisateurs d’Internet ont été exposés à des contenus en ligne potentiellement dangereux, tels que la cyberintimidation, l’exploitation sexuelle et la désinformation. Cette exposition peut avoir des conséquences graves sur la santé mentale et le bien-être des adolescents.
L’impact de cette suspension sur les revenus de Meta reste à déterminer. L’entreprise a récemment commencé à explorer des moyens de monétiser ses outils d’IA, notamment en introduisant des publicités dans ChatGPT pour certains utilisateurs américains.
Cette situation souligne la nécessité pour les entreprises technologiques de prendre des mesures proactives pour protéger les jeunes utilisateurs et de faire preuve de transparence quant à l’utilisation de l’IA. La confiance des consommateurs est essentielle pour assurer la pérennité de ces entreprises dans un environnement numérique en constante évolution.
