Cette “cape d’invisibilité” réelle vous cachera des caméras AI

Les capes d’invisibilité ont toujours fait partie de la science-fiction, mais maintenant, les gens pourraient bientôt pouvoir vivre leurs rêves Harry Potter. Récemment, une équipe de chercheurs de Université du MarylandCollege Park, en collaboration avec Facebook Artificial Intelligence, a développé une “cape d’invisibilité” réelle. La cape est en fait un chandail coloré qui vous exclut de la vision d’une machine.

Notamment, l’équipe de recherche a utilisé des motifs contradictoires sur le chandail qui échappent aux détecteurs d’objets les plus courants, rendant la personne indétectable, selon un Gagadget rapport. En termes simples, le pull rend une personne “invisible” devant les modèles d’IA qui détectent les personnes.

Les développeurs ont commencé avec l’objectif initial de tester les vulnérabilités des systèmes d’apprentissage automatique, cependant, le résultat a été une impression sur les vêtements que les caméras AI ne peuvent pas voir. Un utilisateur de Reddit a partagé une vidéo de la séquence de test, avec une légende qui se lit comme suit : “Ce pull développé par l’Université du Maryland utilise des “modèles contradictoires” pour devenir une cape d’invisibilité contre l’IA”.

Regardez la vidéo ici :

“Ce pull élégant est un excellent moyen de rester au chaud cet hiver, que ce soit au bureau ou en déplacement. Il est doté d’une doublure en micropolaire qui reste au sec, d’une coupe moderne et d’un motif contradictoire qui échappe aux détecteurs d’objets les plus courants. [our] démonstration, le détecteur YOLOv2 est éludé à l’aide d’un modèle formé sur l’ensemble de données COCO avec un objectif soigneusement construit”, l’équipe a écrit.

Alors, comment ça marche?

Les chercheurs ont expliqué qu’ils ont utilisé l’ensemble de données SOCO sur lequel l’algorithme de vision par ordinateur YOLOv2 est formé et ont identifié un modèle qui aide à reconnaître une personne. Le même a créé un motif opposé et l’a transformé en une image – une impression sur un pull. En conséquence, le propriétaire d’un tel pull peut se cacher des systèmes de détection.

Expliquer le travail, l’équipe a écrit sur le site Web de l’Université du Maryland“La plupart des travaux sur les attaques adverses dans le monde réel se sont concentrés sur les classificateurs, qui attribuent une étiquette holistique à une image entière, plutôt que sur les détecteurs qui localisent les objets dans une image. Les détecteurs fonctionnent en considérant des milliers de ‘prieurs’ (boîtes englobantes potentielles) dans l’image avec des emplacements, des tailles et des rapports d’aspect différents. Pour tromper un détecteur d’objet, un exemple contradictoire doit tromper tous les a priori de l’image, ce qui est beaucoup plus difficile que de tromper la sortie unique d’un classificateur.

Bien que beaucoup sur Reddit aient été fascinés par le ” pull magique ”, d’autres ont remis en question son efficacité. Un utilisateur a plaisanté à ce sujet et a déclaré : « Si moche que même l’IA ne veut pas le voir. » Un autre a commenté : « Je veux dire. l’invisibilité semble un peu la pousser. La caméra le reconnaît toujours, mais pas à 100 %… Ai-je tort de penser, disons, si la police utilisait cela pour trouver des criminels ?”

Selon un Hackster rapportles sweat-shirts antagonistes ciblant YOLOv2 n’ont atteint qu’environ 50 % de taux de réussite lors du test portable.