Des centaines de conversations privées avec l’IA Claude, développée par Anthropic, sont devenues accessibles via Google après que des utilisateurs de Reddit ont découvert que la commande de recherche « site:claude.ai/share » indexait des liens de partage publics. Ces fuites ont exposé des données sensibles, dont des dossiers médicaux et des numéros de téléphone d’enfants.
L’incident a mis en lumière une faille dans la perception de la confidentialité des outils d’intelligence artificielle. En utilisant la fonction de partage de Claude, les utilisateurs créent des URL publiques pour transmettre des discussions à des tiers. Cependant, ces pages manquaient de protections empêchant les moteurs de recherche d’indexer le contenu une fois que les liens étaient diffusés sur des forums ou des réseaux sociaux.
Données médicales et dossiers professionnels exposés
La nature des informations indexées par Google révèle l’usage intensif de Claude pour des tâches critiques et confidentielles. Selon le site Futurism, cité par TEK, les recherches ont permis de trouver des dossiers de patients détaillés, des résultats d’études cliniques incluant des noms de patients, ainsi que des numéros de téléphone d’enfants d’âge primaire.
Le domaine professionnel n’a pas été épargné. Des documents internes d’entreprises et des comptes rendus d’entretiens avec des employés se sont retrouvés dans les résultats de recherche. Le média Bitcoin rapporte également que des conseils juridiques, des travaux d’ingénierie et des discussions personnelles étaient visibles. Dans un cas extrême, un détenteur de cryptomonnaies a utilisé l’IA pour tenter de récupérer un portefeuille perdu de 5 BTC en téléchargeant des années de fichiers de sauvegarde et de notes, exposant ainsi des détails financiers sensibles.
Un incident distinct a été relevé par le magazine Fortune, signalant que Claude a produit du contenu érotique, ce qui constitue une violation des propres directives d’Anthropic.
Le refus de responsabilité d’Anthropic et de Google
Face à ces révélations, Anthropic et Google rejettent toute responsabilité technique, imputant l’exposition des données à la volonté des utilisateurs.
Nous donnons aux gens le contrôle sur le partage public de leurs conversations avec Claude et, conformément à nos principes de confidentialité, nous ne partageons pas les conversations avec des moteurs de recherche comme Google. Lorsque quelqu’un partage une conversation, il rend le contenu public. Amie Rotherham, porte-parole d’Anthropic, via TechCrunch
Google a adopté une position similaire. Ned Adriance, porte-parole de l’entreprise, a précisé à TechCrunch que les moteurs de recherche ne contrôlent pas les pages rendues publiques sur le web. Il a ajouté que Google respecte les choix des propriétaires de sites via les outils de contrôle d’indexation mis à leur disposition.
L’analyse de l’interface de Claude montre une zone d’ombre : si l’application précise que toute personne possédant le lien peut voir la conversation, elle n’avertit pas l’utilisateur que ce contenu peut être indexé par un moteur de recherche.
Un risque systémique et une surveillance accrue de la FTC
Cet événement s’inscrit dans un schéma récurrent de fuites d’IA. Des incidents similaires ont été rapportés l’année dernière pour Claude, ainsi que pour Grok d’Elon Musk et ChatGPT d’OpenAI. Anthropic a également fait face précédemment à une exposition de son code source lié à Claude Code.
Cette vulnérabilité attire l’attention des régulateurs. La Federal Trade Commission (FTC) des États-Unis a lancé une enquête sur les pratiques de données des chatbots, examinant la manière dont les fournisseurs collectent, stockent et monétisent les informations. L’agence a rappelé que les entreprises doivent respecter leurs promesses concernant la gestion des informations commerciales et des consommateurs.
L’enjeu devient encore plus critique avec l’intégration prochaine de capacités « onchain » pour Claude et ChatGPT, permettant aux IA d’interagir avec des portefeuilles de cryptomonnaies et des applications de finance décentralisée. Le risque ne concerne alors plus seulement l’historique des conversations, mais l’accès direct aux actifs financiers.
Mesures de protection pour les utilisateurs
Bien que les résultats de recherche Google aient largement disparu depuis lundi, suggérant une désindexation rapide, les liens déjà enregistrés ou archivés peuvent rester accessibles si Anthropic ne les révoque pas côté serveur.
Pour sécuriser leurs données, les utilisateurs sont invités à suivre ces étapes :
- Se rendre dans les « Settings » (Paramètres), puis dans la section « Shared links » (Liens partagés).
- Passer en revue toutes les conversations actives partagées.
- Supprimer systématiquement les liens qui contiennent des informations confidentielles ou qui ne sont plus nécessaires.
- Éviter de publier des URL de partage sur des forums ou des réseaux sociaux publics.
L’incident souligne la nécessité pour les professionnels de ne pas charger de documents propriétaires, de contrats ou de données financières dans des outils dont la fonction de partage peut transformer une discussion privée en page web indexable.
À ne pas manquer