ChatGPT s’apprête à modifier discrètement la manière dont ses textes sont générés dans l’UE. OpenAI a annoncé l’arrivée prochaine d’un filigrane invisible destiné à rendre les contenus produits par son intelligence artificielle identifiables par des outils informatiques.
Baptisé textGrain, ce dispositif doit permettre à l’entreprise de répondre aux nouvelles obligations de transparence imposées par la réglementation européenne sur l’intelligence artificielle.
ChatGPT va marquer ses textes dans l’UE
Le changement sera progressivement appliqué au cours des prochaines semaines. OpenAI prévoit d’intégrer textGrain aux textes éligibles produits par ChatGPT et Codex dans l’UE. Tous les forfaits de ChatGPT sont concernés par ce déploiement européen.
Le filigrane restera totalement invisible pour la personne qui lit la réponse. Il ne prendra donc pas la forme d’une mention « généré par ChatGPT », d’un symbole ajouté au texte ou de caractères cachés. Le principe repose plutôt sur un signal statistique intégré directement dans les choix de mots effectués par le modèle pendant la génération.
Cette approche répond aux règles de transparence de l’AI Act. La législation de l’UE prévoit notamment que les fournisseurs de systèmes d’intelligence artificielle générative rendent leurs productions identifiables sous une forme lisible par une machine.
Le filigrane textGrain fonctionne sans modifier visiblement le texte
Pour mettre en place ce mécanisme dans l’UE, OpenAI a développé une technologie capable de laisser une empreinte statistique dans les réponses de ChatGPT. Son fonctionnement repose sur deux éléments complémentaires.
TextGrain agit directement sur les choix de mots
TextGrain modifie subtilement la manière dont ChatGPT choisit entre différents mots ou fragments de mots possibles lorsqu’il construit une réponse. Ces décisions créent progressivement un motif statistique particulier dans le texte. Celui-ci reste invisible pour le lecteur et n’ajoute ni caractère caché, ni espace invisible, ni ponctuation inhabituelle. Selon OpenAI, cette méthode permet ainsi de conserver une lecture normale tout en laissant un signal susceptible d’être reconnu par un système informatique spécialisé.
Un détecteur recherche ensuite le signal de ChatGPT
OpenAI utilise un détecteur conçu pour rechercher le signal laissé par textGrain dans un passage. L’outil peut alors estimer si le contenu contient le filigrane associé à ChatGPT. Son accès ne sera toutefois pas ouvert au grand public au lancement. OpenAI prévoit d’abord de le proposer à des chercheurs approuvés et à des organisations expertes afin d’évaluer son efficacité, ses erreurs possibles et ses limites dans des conditions réelles d’utilisation.
Le filigrane de ChatGPT présente encore des limites
La présence de textGrain ne permettra pas d’affirmer avec une certitude absolue qu’un texte vient de ChatGPT. OpenAI reconnaît que les technologies de filigrane textuel et de détection restent imparfaites. Un détecteur peut signaler un filigrane absent ou, à l’inverse, ne pas reconnaître un signal réellement présent.
La longueur du contenu influence aussi les résultats. Les textes courts ou très contraints sont plus difficiles à identifier. Une réécriture importante, une paraphrase ou une traduction peut également affaiblir le signal statistique intégré par ChatGPT. L’absence de détection ne constituera donc pas une preuve qu’un texte a été écrit uniquement par un humain.
L’UE devient le premier terrain de déploiement pour ChatGPT
Le lancement concernera d’abord l’UE et OpenAI ne prévoit pas, pour le moment, de faire du filigrane textuel une fonction activée mondialement par défaut. Une option est toutefois proposée aux clients de l’API OpenAI à travers le monde. Ceux-ci peuvent choisir d’activer le marquage sur des modèles compatibles, tandis qu’il reste désactivé par défaut dans l’API.
Le filigrane ne permettra pas non plus d’identifier la personne ayant utilisé ChatGPT, de connaître ses requêtes ou de déterminer qui possède juridiquement un contenu. Il signalera uniquement la présence d’une empreinte associée à la génération ou au traitement du texte par un système OpenAI. Le dispositif ne pourra pas davantage garantir que les informations contenues dans le texte sont exactes.
L’arrivée de textGrain marque ainsi une nouvelle étape pour ChatGPT dans l’UE. Le texte affiché à l’écran restera visuellement identique pour l’utilisateur, mais sa structure pourra contenir un signal statistique détectable par une machine. OpenAI cherche ainsi à répondre aux exigences européennes de transparence sans ajouter de mention visible aux réponses. Le système reste toutefois soumis à des limites techniques, notamment après une réécriture ou sur des passages courts, ce qui empêche d’en faire une preuve absolue d’origine.
