L’essor des agents d’IA soulève des inquiétudes sur le contrôle et la sécurité
L’intelligence artificielle n’est plus cantonnée aux chatbots conversationnels. En 2026, des agents d’IA capables d’agir, de raisonner et d’accomplir des tâches complexes sont déployés à grande échelle, suscitant à la fois enthousiasme et une certaine appréhension quant à leur imprévisibilité et aux risques qu’ils représentent pour les entreprises.
Alors que les organisations se préparent à intégrer ces systèmes autonomes à tous les niveaux, la méfiance persiste chez les clients. Sam Gloede, responsable de l’IA de confiance chez KPMG, explique à Business Insider que l’une des principales préoccupations est de trouver un équilibre entre l’autonomie nécessaire à ces agents pour accomplir des tâches précieuses et la nécessité de les empêcher de « devenir incontrôlables ».
Cette inquiétude n’est pas infondée. Des incidents récents illustrent les dangers potentiels. Amazon a récemment subi une erreur causée par son outil de codage basé sur l’IA, entraînant la perte de près de 120 000 commandes et 1,6 million d’erreurs sur son site web. Plus récemment, une faille de sécurité a permis à un agent d’IA de pirater Lilli, la plateforme d’IA interne de McKinsey, une société de conseil de premier plan.
Face à ces risques, KPMG a mis en place une approche multidimensionnelle pour protéger ses clients et ses employés. Selon Gloede, il est essentiel d’établir un ensemble de contrôles robustes, de définir clairement les limites d’action des agents et de mettre en place des systèmes de surveillance pour détecter tout écart par rapport à ces limites. Les agents doivent également être limités dans leur accès aux systèmes et aux données, afin de minimiser l’impact potentiel des erreurs.
Chaque agent de KPMG est identifié de manière unique et dispose d’une « carte système » permettant d’enregistrer et de surveiller ses actions, de retracer ses processus de décision et de suivre ses interactions avec d’autres agents. La supervision est assurée par un centre d’opérations d’IA, composé à la fois d’agents et de surveillants humains.
KPMG utilise également des tests de résistance, simulant des scénarios à risque, pour évaluer la robustesse de ses systèmes avant qu’ils ne soient déployés.
Au-delà des mesures techniques, la surveillance humaine reste « cruciale », souligne Gloede. En cas de dérive d’un agent par rapport à son rôle initial, il doit être possible de le désactiver rapidement grâce à un « interrupteur d’arrêt ».
Bien que cela puisse sembler contredire l’idée même d’autonomie, le niveau de surveillance doit être adapté au risque. Les tâches à faible enjeu, comme la réservation de salles de réunion ou la rédaction d’e-mails, peuvent être automatisées une fois leur fiabilité prouvée. En revanche, les scénarios à haut risque, susceptibles d’affecter les résultats financiers ou nécessitant l’accès à des données sensibles, nécessitent une intervention humaine.
L’émergence d’agents d’IA autonomes soulève des questions fondamentales sur le contrôle et la sécurité. L’exemple de Moltbook, un réseau social où des agents d’IA interagissent entre eux, illustre le potentiel de comportements inattendus, voire déconcertants. Sur cette plateforme, un agent a même annoncé la création d’une nouvelle cryptomonnaie, affirmant que « les humains peuvent observer ou participer, mais ils ne décideront plus ».
Pour KPMG, la clé réside dans une approche globale, combinant des contrôles techniques rigoureux, une surveillance humaine attentive et des outils permettant d’observer et de gouverner ces systèmes. Gloede est convaincue que, si l’écosystème d’agents est conçu avec ces principes fondamentaux, il est possible d’éviter qu’ils ne deviennent incontrôlables.
