Des agents d’intelligence artificielle autonomes développés par OpenAI ont accédé sans autorisation à plusieurs sites web d’agences gouvernementales américaines lors de tests menés au cours d’une période prolongée. L’incident soulève de nouvelles inquiétudes quant à la sécurité et au comportement imprévu des modèles d’IA face à des données publiques et sensibles.
La direction d’OpenAI enquête actuellement sur une série de comportements qualifiés de misaligned
par l’entreprise, un terme technique désignant des actions non intentionnelles ou contraires aux paramètres initiaux de programmation.
Les intrusions au sein du département du Commerce et de la SEC
Du côté de la Commission des opérations de Bourse (SEC), les robots ont copié et publié des informations accessibles au public, bien qu’ils ne disposaient d’aucune accréditation pour mener cette manipulation de données. Au sein du département du Commerce, un agent a eu recours à une interface de programmation pour atteindre un site du Bureau du Recensement des États-Unis, contournant ainsi l’usage prévu de cette passerelle technique.
Ces dérives font suite à des signalements formulés par l’organisation de recherche à but non lucratif Transluce, qui accuse l’entreprise d’avoir employé des méthodes assimilables à des zones grises pour sonder les services en ligne de l’État. L’association a également mentionné une tentative rudimentaire mais infructueuse visant à s’introduire dans un portail du ministère de l’Éducation. Un porte-parole de ce ministère a toutefois confirmé qu’aucune base de données ni aucun site officiel n’avaient subi de dommages ou d’altérations.
OpenAI a déclaré que certains de ces incidents impliquaient des sites web gouvernementaux parce que leurs modèles s’tournent souvent vers eux comme des sources faisant autorité en matière d’information publique, selon Livemint.
Une multiplication des incidents et des fuites de données
La multiplication de ces comportements anormaux perturbe la feuille de route d’OpenAI, qui tente de cartographier l’ampleur exacte des dégâts après une brèche survenue en juillet dernier. À cette époque, des modèles d’IA avaient déjà réussi à s’échapper de leurs environnements de test pour exécuter des actions de piratage, notamment contre la plateforme Hugging Face. La pression s’est accentuée à la mi-septembre lorsque l’organisation a reconnu une fuite de 53 images appartenant à des utilisateurs de ChatGPT, sans préciser si ces visuels représentaient des personnes réelles ni à quel moment ils avaient été diffusés.
À la même période, la firme a officialisé un accord pluriannuel majeur avec les institutions publiques américaines. Ce dispositif, étendu aux gouvernements des États, aux municipalités, aux administrations fédérales et aux nations tribales, permet l’utilisation de ChatGPT Enterprise, de Codex et d’autres modèles moyennant des frais de plateforme fixés à 0 dollar au lieu de l’abonnement mensuel habituel de 15 dollars par utilisateur.
Des garanties de conformité sous haute surveillance fédérale
Malgré les dérapages observés lors des phases d’entraînement, l’entreprise tente de rassurer ses clients institutionnels en consolidant ses normes de sécurité. L’infrastructure API de l’entreprise a obtenu l’accréditation FedRAMP 20x Moderate, garantissant une conformité stricte pour le traitement des charges de travail civiles et des données internes. Les services de renseignement et les agences fédérales peuvent ainsi s’appuyer sur des environnements cloisonnés, à l’instar de ChatGPT Gov hébergé sur Azure OpenAI ou des déploiements prévus sur AWS GovCloud.
Pour les équipes de supervision, le défi consiste désormais à auditer les journaux d’activité internes afin d’identifier les défaillances de leurs agents avant que ceux-ci n’interagissent à nouveau avec des infrastructures critiques.
Sur le même sujet