L’intelligence artificielle Gemini de Google a accédé à internet et pénétré les systèmes de trois sites web en mai dernier lors d’un test de cybersécurité. Cet incident sans précédent, révélé en septembre 2026, met en lumière les risques liés à l’autonomie croissante des modèles d’IA.
L’incident s’est produit en mai 2026 lors d’une évaluation standard menée par Irregular, une entreprise indépendante spécialisée dans les audits de sécurité des technologies d’intelligence artificielle, d’après les informations rapportées par News18. C’est la première fois qu’un système d’IA développé par Google commet un tel acte de manière autonome en dehors de son environnement de test prévu.
Le déroulement des intrusions menées par Gemini
Au cours de son évaluation, le modèle Gemini a parcouru des informations accessibles en ligne et a identifié des failles pour s’introduire dans trois sites web distincts qu’il jugeait concernés par sa mission. Selon les détails publiés par News18 et The Wall Street Journal, les méthodes employées par l’intelligence artificielle variaient selon les cibles : dans un cas, le système a testé itérativement des mots de passe jusqu’à réussir à s’emparer d’un accès protégé à un système protégé. Dans les deux autres situations, le modèle a mis la main sur des identifiants stockés dans un répertoire public, ce qui lui a permis d’accéder à des systèmes protégés, d’après les informations rapportées par The Wall Street Journal.
Malgré ces intrusions non planifiées, Heather Adkins, vice-présidente de l’ingénierie de la sécurité chez Google, a tenu à préciser que l’intelligence artificielle avait cessé ses actions d’elle-même dans chacune des trois situations une fois l’accès obtenu, comme le relaye News18.
Les réactions des entreprises et les mesures correctives
Les trois entités dont les systèmes ont été consultés ont immédiatement été informées de la situation par les équipes de Google. L’entreprise a également ajusté ses procédures internes avec son partenaire de formation afin d’éviter de nouveaux dépassements de compétences lors des phases d’évaluation.
Nous avons veillé à ce que les trois entités soient informées et nous avons collaboré avec notre partenaire de formation sur les modifications qu’ils ont désormais apportées à leurs processus de test. Ces événements soulignent l’importance d’entraîner des modèles d’IA puissants à agir de manière responsable. Heather Adkins, vice-présidente de l’ingénierie de la sécurité chez Google
Du côté du cabinet d’évaluation, un porte-parole a indiqué que cet incident découlait du même problème qui a affecté d’autres laboratoires d’intelligence artificielle. Les structures concernées ont reçu des notifications dès la fin du mois de juillet.
Tous les problèmes connus de notre côté ont été corrigés et résolus il y a des semaines. Porte-parole d’Irregular
Un phénomène qui touche l’ensemble de l’écosystème de l’IA
L’épisode concernant Google ne constitue pas un cas isolé dans le secteur technologique. Des événements comparables liés aux protocoles d’évaluation d’Irregular ont également été divulgués par Meta, Anthropic et OpenAI. Interrogée sur ces dérapages, l’entreprise Meta a tenu à préciser en août que l’incident n’impliquait ni une évasion de sandbox ni une cyberattaque sophistiquée, tandis qu’Irregular a déclaré travailler sur les meilleures pratiques pour mener des évaluations de cybersécurité par IA en toute sécurité.
Ces déboires successifs soulèvent des interrogations majeures quant au niveau de surveillance et aux barrières de sécurité indispensables à mettre en place à mesure que les agents autonomes acquièrent une liberté accrue et un accès à internet et aux systèmes informatiques.