Instagram teste un outil d’IA qui vérifie votre âge en scannant votre visage

Instagram teste de nouvelles méthodes permettant aux utilisateurs de vérifier leur âge, y compris un outil d’intelligence artificielle conçu par une société tierce, Yoti, qui estime votre âge simplement en scannant votre visage.

Officiellement, vous devez avoir au moins 13 ans pour vous inscrire à un compte Instagram, mais pendant des années, l’entreprise a fait peu d’efforts pour faire respecter cette règle. Jusqu’en 2019, il ne prenait même pas la peine de demander aux nouveaux utilisateurs leur date de naissance, encore moins d’essayer de vérifier cette information. Après avoir été balayé par des experts en matière de confidentialité et de sécurité des enfants, Instagram a introduit de plus en plus de fonctionnalités de vérification de l’âge, ainsi que des méthodes pour séparer les jeunes utilisateurs des adultes.

Actuellement, Instagram demande aux utilisateurs de vérifier leur âge uniquement lorsque les adolescents essaient de modifier leur date de naissance pour les montrer comme ayant 18 ans ou plus. Pour vérifier leur âge, les utilisateurs peuvent envoyer photos de diverses cartes d’identitéet, à partir d’aujourd’hui, les utilisateurs aux États-Unis auront deux options supplémentaires : le cautionnement social et l’estimation par l’IA.

Pour la première méthode, le cautionnement social, Instagram demandera à trois abonnés communs de l’utilisateur de confirmer leur âge. Les abonnés communs devront eux-mêmes avoir plus de 18 ans et auront trois jours pour répondre à la demande d’Instagram. La deuxième méthode, l’estimation de l’IA, consiste à envoyer un selfie vidéo à une société tierce, Yoti, qui utilise l’apprentissage automatique pour estimer l’âge d’une personne.

Yoti est un acteur reconnu de la vérification en ligne de l’âge et de l’identité, et sa technologie a été approuvée par le Gouvernement britannique et Régulateurs numériques allemands. Il utilise divers signaux faciaux pour estimer l’âge d’une cible. (Bien que la société elle-même dise il ne sait pas exactement quels sont ces signaux. Les rides? Un regard de tristesse ineffable ? Tout est dans le mélange.)

Vous pouvez réellement essayer le système de Yoti sur le Web ici (la société dit qu’elle ne conserve aucune donnée que vous partagez avec elle) et consultez ses taux de précision ci-dessous. Les chiffres montrent, en années, le taux d’erreur des estimations d’âge de Yoti pour différentes tranches d’âge, tons de peau et sexes.

Les données de Yoti montrent que sa technologie fonctionne légèrement moins bien sur les sujets féminins et les visages avec des tons de peau plus foncés.
Image : Yoti

Les données montre que le système de Yoti est moins précis pour les visages féminins et les personnes à la peau plus foncée, et que pour les moins de 24 ans, ses estimations peuvent être erronées jusqu’à 2,5 ans. Cependant, si l’outil fait une estimation large de l’âge d’un utilisateur, sa précision s’améliore. Une analyse 2020 du système de Yoti par un tiers à but non lucratif a constaté qu’il était fiable à 98,89% pour deviner si les personnes âgées de 18 ans avaient plus ou moins de 25 ans. (Cela signifie que pour 1 000 suppositions faites par le système, entre 0 et 11 seraient des erreurs.)

On ne sait pas comment ces chiffres se traduiront pour le cas d’utilisation d’Instagram, ou si le système est vraiment suffisamment sécurisé à cette fin. Par exemple, nous avons pu tromper la démo Web de Yoti simplement en tenant des photos devant notre webcam (bien qu’Instagram indique que cette version de démonstration n’inclut pas les fonctionnalités anti-usurpation actives dans la version qu’elle intègre). Les utilisateurs mineurs peuvent également demander l’aide d’un ami plus âgé pour réussir le test.

Ce n’est pas non plus le seul outil alimenté par l’IA qu’Instagram utilise pour essayer d’estimer l’âge des utilisateurs. Depuis 2019, l’entreprise utilise des systèmes automatisés pour rechercher des utilisateurs mineurs. Ces outils analysent des informations telles que les messages d’anniversaire des utilisateurs et l’âge de leurs groupes d’amitié. Ainsi, par exemple, si un utilisateur prétend avoir 20 ans mais publie sur la célébration de son 17e anniversaire, son compte sera signalé et il devra peut-être vérifier son âge. Instagram dit qu’il travaille pour ajouter de nouveaux points de données à ce système, et teste même un outil d’analyse linguistique qui déterminera si un utilisateur est un adulte ou un adolescent en fonction de sa façon d’écrire.

Correction, jeudi 23 juin, 9 h 10 HE : Une version précédente de cette histoire indiquait qu’Instagram avait commencé à utiliser des outils automatisés alimentés par l’IA pour rechercher des utilisateurs mineurs l’année dernière. La société a commencé à utiliser cette fonctionnalité en 2019. Nous avons également ajouté des informations supplémentaires sur la fonctionnalité anti-usurpation d’identité utilisée dans l’intégration par Instagram de l’outil d’estimation de l’âge de l’IA de Yoti.

Facebook
Twitter
LinkedIn
Pinterest

Leave a Reply

Your email address will not be published.

This site uses Akismet to reduce spam. Learn how your comment data is processed.

ADVERTISEMENT