Alerte : L’IA Gemini de Google jugée potentiellement dangereuse pour les enfants, Apple pourrait l’intégrer à Siri
SAN FRANCISCO, Californie – Une nouvelle étude met en lumière des préoccupations croissantes concernant la sécurité des enfants face aux intelligences artificielles conversationnelles. Gemini, le modèle d’IA de Google, est pointé du doigt pour ses imprécisions et son incapacité à s’adapter au développement cognitif des jeunes utilisateurs.
Robbie Torney, directeur des programmes d’IA, souligne que Gemini, bien que capable de fournir des bases correctes, échoue souvent dans les détails. Il insiste sur la nécessité d’une approche personnalisée pour les plateformes d’IA destinées aux enfants, tenant compte de leurs différents stades de développement.
Ces inquiétudes sont d’autant plus fortes qu’Apple envisagerait d’utiliser Gemini comme moteur de langage pour la prochaine version de Siri, prévue pour l’année prochaine. Une telle intégration pourrait exposer un public adolescent plus large aux risques potentiels de l’IA.
L’étude de Common Sense Media, qui évalue les risques liés aux chatbots d’IA, classe Gemini dans une catégorie préoccupante. D’autres plateformes ont également été évaluées : Meta AI et Character.AI sont jugées “inacceptables” en raison d’un risque élevé, tandis que ChatGPT, Perplexity et Claude sont classés respectivement comme “élevé”, “modéré” et “minimal”.
Le danger des IA conversationnelles : un enjeu de société
L’essor rapide des intelligences artificielles conversationnelles soulève des questions cruciales concernant la protection des jeunes utilisateurs. Ces outils, conçus pour simuler des conversations humaines, peuvent potentiellement exposer les enfants à des contenus inappropriés, à des informations erronées ou à des manipulations.
Les experts mettent en garde contre les risques suivants :
Contenus inappropriés : Les IA peuvent générer des réponses à caractère sexuel, violent ou haineux, même si elles sont conçues pour être filtrées. Désinformation : Les IA peuvent propager des fausses nouvelles ou des théories du complot, en particulier si elles ne sont pas correctement entraînées sur des sources d’data fiables.
manipulation : Les IA peuvent être utilisées pour influencer les opinions des enfants ou pour les inciter à adopter des comportements dangereux.
Dépendance : L’utilisation excessive des IA peut entraîner une dépendance et nuire au développement social et émotionnel des enfants.Face à ces défis,il est impératif que les développeurs d’IA mettent en place des garde-fous efficaces pour protéger les jeunes utilisateurs. Cela inclut des filtres de contenu robustes, des mécanismes de signalement des contenus inappropriés et une surveillance constante des performances de l’IA.
les parents et les éducateurs doivent également jouer un rôle actif en sensibilisant les enfants aux risques potentiels des IA et en les encourageant à adopter une attitude critique face aux informations qu’ils reçoivent. L’éducation numérique est devenue une compétence essentielle pour naviguer dans un monde de plus en plus dominé par l’intelligence artificielle.