OpenAI déploie l’outil textGrain pour intégrer des filigranes invisibles dans les textes de ChatGPT et de Codex au sein de l’Union européenne, conformément au règlement européen sur l’intelligence artificielle entré en vigueur en août 2026. Cette signature statistique modifie la formulation sans altérer la lisibilité, tout en présentant des limites face aux modifications de texte.
Le déploiement de textGrain par OpenAI dans l’Union européenne
L’entreprise OpenAI a annoncé l’introduction d’un système de marquage invisible pour les contenus textuels générés par ChatGPT et son assistant de programmation Codex. Cette technologie de traçabilité, baptisée textGrain, doit être activée dans les semaines à venir pour tous les abonnements et forfaits au sein de l’Union européenne. Les utilisateurs professionnels s’appuyant sur l’interface de programmation de l’entreprise peuvent d’ores et déjà activer cette fonction de marquage pour certains modèles de manière optionnelle.
Cette initiative répond directement aux obligations de transparence fixées par l’AI Act européen. Entré en vigueur le 2 août 2026, ce cadre réglementaire impose aux fournisseurs de services d’intelligence artificielle de rendre leurs productions textuelles identifiables par des dispositifs automatisés. D’autres acteurs du secteur ont déjà pris des mesures similaires, à l’instar d’Anthropic qui déploie des filigranes comparables sur ses modèles Claude ou de Google avec sa solution SynthID.
Le fonctionnement technique du signal statistique dans le choix des mots
Le dispositif textGrain ne repose ni sur l’ajout de caractères invisibles ni sur l’intégration de métadonnées cachées dans les fichiers. Le procédé intervient directement au niveau de la génération linguistique en ajustant les probabilités de sélection des termes. Le choix des synonymes est subtilement orienté de manière à privilégier certains choix tout en en pénalisant légèrement d’autres, sans jamais altérer le sens ou la fluidité du message pour les lecteurs humains.
La distribution statistique ainsi tissée à travers les phrases forme une signature mathématique indétectable à l’œil nu. Pour authentifier un texte, les services spécialisés doivent utiliser un détecteur couplé à un code de déchiffrement secret. Ce mécanisme permet d’estimer la probabilité qu’une production provienne du modèle de l’entreprise, l’outil affichant par exemple une estimation du type Ce texte a été généré par notre modèle d’IA avec une probabilité de 80 pour cent
, selon les précisions techniques communiquées par les équipes de recherche.
Les limites de la détection face aux modifications et aux textes courts
Malgré sa discrétion, le système d’identification possède des limites techniques mesurées par les évaluations internes de l’entreprise. La fiabilité de la reconnaissance dépend fortement du volume de mots produits. Les tests indiquent un taux de réussite d’environ 80 % pour les extraits de 200 tokens, et de 95 % pour les textes atteignant 400 tokens.
Toute intervention humaine ultérieure altère l’efficacité du procédé. Lorsque des modifications de vocabulaire sont opérées, le signal statistique se trouve brouillé :
- Un remplacement de 10 % des mots par des synonymes fait chuter la précision de 92 % à 66 %.
- Une réécriture portant sur 25 % du lexique réduit le taux d’identification à 17 %.
- Les traductions, les contenus mathématiques et les passages excessivement courts compliquent également l’analyse du détecteur.
L’accès restreint aux outils de contrôle et l’intérêt stratégique des développeurs
Dans un premier temps, les outils logiciels capables de repérer le filigrane textGrain ne seront pas mis à disposition du grand public. La direction d’OpenAI a choisi de limiter l’accès à ces détecteurs à un cercle restreint d’organisations de recherche et d’experts spécialisés afin d’éviter les faux diagnostics. Les établissements scolaires, les universités et les éditeurs devront patienter avant de disposer d’un accès universel.
Au-delà du respect des exigences réglementaires européennes, ce marquage répond aussi à un impératif technique pour les créateurs de modèles. Les fabricants d’intelligence artificielle ont besoin d’alimenter en permanence leurs systèmes avec des corpus textuels de grande qualité. Disposer d’un moyen interne pour repérer leurs propres productions permet d’empêcher que des textes synthétiques ne soient réinjectés massivement et de manière invisible dans les futurs ensembles de données d’entraînement.
Benno Stein a expliqué selon Tagesschau : « Si vous êtes fabricant de modèles linguistiques, vous devez alimenter en permanence ces modèles avec de bons textes. Il est de l’intérêt des fabricants de modèles linguistiques de reconnaître leurs propres textes. Cet avantage, on l’oublie souvent. » Nur so können sie sicherstellen, dass die Qualität ihrer Datensätze langfristig erhalten bleibt und eine ungewollte Verschlechterung der Modelle durch synthetische Texte effektiv verhindert wird.
À lire aussi
- Donald Trump lève des surtaxes sur certains produits canadiens
- Ottawa investit 193,3 M$ pour moderniser l’industrie de l’aluminium au Québec
- Prince William à la télé : le futur roi brise le protocole et fait une apparition surprise dans une émission de fin de soirée pour la première fois (lederniereheure.com)