Microsoft a récemment annoncé la suppression progressive de l’accès public aux fonctionnalités d’analyse faciale basées sur l’IA dans plusieurs services Azure.
La décision s’inscrit dans un cadre plus large examen des politiques d’éthique de Microsoft en matière d’IA. La société est mise à jour Normes d’IA responsableannoncés pour la première fois en 2019, mettent l’accent sur la responsabilité pour déterminer qui utilise ses services ainsi que sur une surveillance humaine accrue de l’endroit où ces outils sont utilisés.
Les nouveaux clients devront désormais demander un accès pour utiliser les opérations de reconnaissance faciale dans API Visage Azure, Vision par ordinateuret Indexeur vidéo. Pendant ce temps, les clients existants ont un an pour postuler et recevoir l’approbation d’un accès continu aux services de reconnaissance faciale en fonction de leurs cas d’utilisation fournis.
Certaines fonctionnalités de détection faciale telles que la détection du flou, de l’exposition, des lunettes, de la pose de la tête, des points de repère, du bruit, de l’occlusion et de la zone de délimitation du visage resteront généralement disponibles et ne nécessitent pas d’application. Cependant, la société retirera la capacité d’Azure Face à identifier des attributs tels que le sexe, l’âge, le sourire, les poils du visage, les cheveux et le maquillage.
Sarah Oiseauchef de produit principal du groupe, Azure AI, explique dans un Azure article de blog que certaines fonctionnalités seront disponibles dans un autre service :
Bien que l’accès API à ces attributs ne soit plus disponible pour les clients à des fins générales, Microsoft reconnaît que ces fonctionnalités peuvent être utiles lorsqu’elles sont utilisées pour un ensemble de scénarios d’accessibilité contrôlés. Microsoft reste déterminé à soutenir la technologie pour les personnes handicapées et continuera d’utiliser ces fonctionnalités à l’appui de cet objectif en les intégrant dans des applications telles que Seeing AI.
Le concurrent de Microsoft, AWS, dispose également d’un ensemble de fonctionnalités d’analyse faciale alimentées par l’IA avec son Service de reconnaissancequi, par exemple, était largement utilisé par l’Internal Revenue Service (IRS) des États-Unis via le ID.moi système encore chuté en raison de la précision de la technologie et des problèmes de confidentialité. On ne sait pas si AWS suivra Microsoft en limitant l’accès aux opérations de reconnaissance faciale.
Chris Garrodresponsable FinTech chez Conyers, tweeté en réponse à l’annonce du retrait par Microsoft de l’accès public aux opérations de reconnaissance faciale :
De toutes les BigTechs, j’ai l’impression que Microsoft (et probablement Apple) semblent juste avoir besoin d’une IA plus responsable et éthique. C’est bien de voir au moins une certaine forme d’acceptation.
En outre, Microsoft imposera également des restrictions similaires sur sa fonction Custom Neural Voice, permettant aux clients de créer des voix IA à partir d’enregistrements de personnes réelles, également appelées audio deepfake. Natasha Cramptonresponsable de l’intelligence artificielle chez Microsoft, a écrit dans un article de blog:
Cette technologie a un potentiel passionnant dans l’éducation, l’accessibilité et le divertissement, et pourtant il est également facile d’imaginer comment elle pourrait être utilisée pour se faire passer pour des locuteurs et tromper les auditeurs de manière inappropriée.
Enfin, plus de détails sur les limitations sont disponibles sur le documentation.
