Meta a suspendu son outil de suivi par intelligence artificielle, le Model Capability Initiative (MCI), ce lundi suite à une fuite de données internes massive. Le programme, qui surveillait les claviers et les écrans des employés américains pour entraîner des agents d’IA, a exposé des conversations privées et des documents de performance confidentiels.
Nature de la fuite et données compromises
La fuite de données a touché des éléments extrêmement sensibles de la vie professionnelle des salariés de l’entreprise. Selon les informations rapportées par news.google.com, les informations compromises incluent des invites (prompts), des transcriptions, des conversations privées ainsi que des documents relatifs aux évaluations de performance des employés.
L’incident a été signalé ce lundi par un ingénieur de Meta, provoquant l’arrêt immédiat des activités de collecte de données. Business Insider précise que la direction de l’entreprise considère cette situation avec une extrême gravité, soulignant l’ampleur de l’exposition des données internes.
La compromission de documents relatifs aux évaluations de performance est particulièrement critique pour la gouvernance interne. Ces documents contiennent généralement des analyses de compétences, des objectifs de carrière et des notes de rendement qui, si elles sont divulguées, peuvent affecter la confidentialité des relations de travail et la gestion des ressources humaines au sein de la structure.
L’enjeu technique de l’entraînement des agents d’IA
Pour comprendre la nécessité de l’outil MCI, il faut analyser l’évolution actuelle de l’intelligence artificielle vers ce que les chercheurs appellent l’« IA agentique » (Agentic AI). Contrairement aux modèles de langage classiques qui se contentent de générer du texte, les agents d’IA sont conçus pour interagir avec des logiciels, naviguer dans des interfaces et exécuter des suites de tâches complexes de manière autonome.
L’entraînement de ces agents repose souvent sur une méthode appelée « apprentissage par imitation » (imitation learning). Pour qu’un modèle apprenne à utiliser un logiciel de gestion ou un environnement de codage, il doit observer un expert humain effectuer les actions : voir comment il déplace sa souris, comment il corrige une erreur de frappe et comment il navigue entre les différents menus. C’est cette observation directe du flux de travail (workflow) qui justifie la collecte de données aussi granulaires que les frappes au clavier et les captures d’écran.
For more on this story, see IA exploite des deepfakes pour vendre des compléments avec des visages de trisomiques.
Les mécanismes de surveillance du projet MCI
Le programme Model Capability Initiative (MCI) avait été déployé en avril dernier sur les ordinateurs portables des employés basés aux États-Unis. L’objectif technique était de perfectionner les agents d’intelligence artificielle de Meta en observant directement l’interaction humaine avec les outils informatiques.
Pour entraîner ces modèles, l’outil enregistrait de manière systématique divers comportements numériques, notamment :
- Les frappes au clavier (keystrokes)
- Les clics de souris
- L’utilisation des menus déroulants et des raccourcis clavier
- Le contenu intégral affiché sur les écrans
Cette méthode de capture exhaustive vise à créer un jeu de données de haute fidélité, capable de capturer non seulement le résultat final d’une tâche, mais aussi le processus de raisonnement et de correction de l’utilisateur, éléments essentiels pour affiner la réactivité des futurs agents de Meta.
Conflit entre entraînement de l’IA et vie privée
Le déploiement de ce dispositif de surveillance a généré des tensions persistantes au sein des équipes techniques. Les employés ont manifesté leur opposition pendant plusieurs semaines, critiquant le caractère intrusif de la collecte de données nécessaire à l’entraînement des modèles. Cette opposition souligne un dilemme croissant dans le secteur de la technologie : la compétition pour l’avance technologique en matière d’IA nécessite des volumes de données massifs, souvent au détriment de la frontière entre l’espace de travail et la vie privée numérique.
Initialement, Meta avait maintenu une position rigide, affirmant que les employés ne disposaient d’aucun moyen de désactiver ce suivi. En guise de concession, l’entreprise avait seulement autorisé une interruption temporaire de la surveillance de 30 minutes pour certains personnels. Le revirement actuel, marqué par la suspension totale du programme, intervient après que la vulnérabilité du système a permis l’accès à des données que la direction pensait sécurisées.
Cet incident met en lumière les risques de sécurité inhérents à la création de bases de données d’entraînement internes. Lorsque des données de comportement humain sont centralisées pour l’apprentissage automatique, elles deviennent une cible de haute valeur. Une faille dans ces systèmes ne compromet pas seulement des informations statiques, mais peut exposer l’intégralité de la méthodologie de travail et des communications privées des cadres et ingénieurs de l’entreprise.
Find more reporting in our Sciences et technologies section.
