La méthode d’Anthropic pour répérer les textes produits par l’intelligence artificielle : un processus fragile ?

L’entreprise à l’origine de l’assistant conversationnel Claude vient de dévoiler une nouvelle technique destinée à identifier les textes produits par ses modèles. Anthropic entend ainsi permettre de déterminer, a posteriori, si Claude a probablement participé à la rédaction d’un texte, sans en modifier l’apparence ni la lisibilité.

Le principe repose sur un filigrane numérique. Il ne s’agit pas d’une marque visible, ni de caractères cachés que l’on pourrait repérer dans le texte : Anthropic insère, au moment même de la génération, une signature statistique dans les choix de mots effectués par le modèle. Cette signature est conçue pour rester invisible au lecteur, tout en pouvant être reconnue ultérieurement par un système de détection. On trouvera plus de détails sur ces filigranes ci-dessous. 

Une réécriture suffisamment profonde pourrait toutefois effacer ou affaiblir cette signature, tandis que la mise à disposition d’un outil permettant de la détecter risquerait de faciliter la mise au point de contre-mesures. Une course pourrait ainsi s’engager entre les concepteurs de ces filigranes et ceux qui chercheront à les contourner.

Depuis plusieurs mois, différents systèmes tentent de détecter les textes générés par l’intelligence artificielle. Leur efficacité reste inégale : certains commettent des erreurs manifestes, tandis que d’autres fournissent des indices parfois pertinents. Ces outils doivent désormais composer avec des modèles toujours plus performants, comme ceux de ChatGPT, Claude ou Gemini, dont les productions, une fois retravaillées par les utilisateurs, se rapprochent de plus en plus des textes humains.

Le 10 août 2026, Anthropic a annoncé son intention d’intégrer ce type de marquage aux textes produits par les futurs modèles Claude. La mesure s’inscrit dans le contexte de l’entrée en application, le 2 août, des obligations de transparence prévues par l’article 50 du règlement européen sur l’intelligence artificielle. Celles-ci imposent notamment aux fournisseurs de systèmes d’IA générative produisant des contenus synthétiques — texte, image, son ou vidéo — de mettre en place des marques lisibles par machine permettant de détecter que ces contenus ont été générés ou manipulés par une IA, sous réserve des exceptions prévues par le règlement et ses lignes directrices.

Anthropic affirme appliquer ce principe à l’échelle mondiale. Pour les modèles Claude concernés, le marquage n’est donc pas destiné au seul marché européen.

Comment fonctionne le filigrane statistique

« Lorsqu’un modèle Claude compatible génère un texte, il y intègre un filigrane imperceptible », explique Anthropic. Celui-ci ne modifie ni le sens, ni la qualité, ni la lisibilité de la réponse. Rien n’est ajouté au texte et aucun caractère invisible n’est inséré : la signature est créée par les choix effectués par le modèle pendant la génération. Elle accompagne donc le texte lorsqu’il est copié et collé et peut résister à certaines modifications.

Contrairement aux procédés fondés sur l’insertion de caractères invisibles, tels qu’on peut en utiliser pour certains documents numériques, le filigrane d’Anthropic est intégré au processus même de génération du texte.

Anthropic a depuis précisé que sa méthode est une variante de SynthID-Text, une technique mise au point par Google DeepMind. Le principe général consiste à intervenir sur la part aléatoire du processus de génération : lorsque plusieurs mots ou formulations sont possibles, le système modifie légèrement les probabilités de sélection de manière à créer, sur un texte suffisamment long, un motif statistique reconnaissable.

Imaginons que le modèle puisse choisir, dans un contexte donné, entre « cependant », « toutefois » et « en revanche ». Ces trois formulations étant sémantiquement compatibles, il dispose d’une certaine latitude. Le mécanisme de filigranage peut alors modifier très légèrement les probabilités de sélection de ces différentes possibilités, selon une clé secrète.

Pris isolément, chaque choix paraît parfaitement normal. Mais répété des centaines ou des milliers de fois, ce léger biais peut produire un motif statistique suffisamment marqué pour qu’un détecteur puisse déterminer si le texte présente la signature recherchée.

Le texte peut sembler entièrement ordinaire à un lecteur humain tout en présentant, pour un système de détection, une structure statistique particulière.

La longueur du texte joue ici un rôle déterminant. Le filigrane repose sur l'accumulation de très nombreux choix de génération : plus le modèle dispose de latitude et plus le texte est long, plus le signal statistique peut se distinguer du hasard. À l'inverse, quelques lignes offrent trop peu d'observations pour garantir une détection fiable. Une réponse courte ou fortement contrainte — une réponse factuelle, par exemple — laisse également moins de possibilités au système d'introduire son biais sans risquer d'altérer le contenu. Le concepteur du filigrane doit donc trouver un équilibre délicat : renforcer suffisamment la signature pour qu'elle soit détectable, sans modifier assez les choix du modèle pour rendre le texte peu naturel et rendre visible son caractère forcé.

Touradj Ebrahimi, spécialiste du traitement du signal et responsable du Groupe de traitement des signaux multimédias à l’EPFL iterrogé dans Le Temps, adopte néanmoins une attitude prudente :

Anthropic n’a révélé aucun détail sur l’algorithme de filigranage employé. Le code source n’est pas accessible, et aucune interface de programmation n’a été publiée pour permettre la détection. Ce que l’on sait, c’est que l’algorithme modifie subtilement les statistiques des caractères et des mots durant la phase de génération du texte. Il ne s’agit pas d’un post-traitement classique, où l’on superposerait une information à un texte déjà existant. Par ailleurs, l’insertion de ce filigrane — et donc sa détection — comporte une part d’aléatoire, ce qui complique son analyse. 

Le filigrane ne constitue par ailleurs pas une preuve absolue de l’origine du texte. Anthropic précise que son système permet d’estimer la probabilité que Claude ait participé à la rédaction du passage examiné. Il ne permet pas d’établir que Claude en est nécessairement l’auteur initial, ni d’exclure une intervention humaine ou celle d’un autre système d’IA.

Le filigrane résiste à certaines modifications

Invisibilité. Rien ne permet au lecteur inavisé de distinguer visuellement un texte filigrané d’un texte non filigrané.

Intégration au texte. Le filigrane n’est pas un élément extérieur au contenu : il résulte des choix lexicaux effectués lors de sa génération. Un simple copier-coller ne suffit donc pas à le supprimer.

Résistance aux modifications mineures. Des corrections orthographiques ou grammaticales, ou de légers changements stylistiques, peuvent laisser subsister suffisamment d’éléments du motif pour qu’une détection reste possible.

Renforcement avec la longueur. Plus le texte contient de choix effectués par le modèle, plus le détecteur dispose d’informations statistiques. À l’inverse, un texte très court fournit trop peu de données pour permettre une détection fiable.

Quelles sont les limites de cette approche ?

La principale faiblesse tient précisément à la nature statistique du procédé. Une modification importante du texte peut supprimer une grande partie des choix lexicaux qui constituaient la signature.

Une réécriture profonde peut ainsi effacer ou affaiblir le filigrane. De même, une traduction automatique peut modifier suffisamment la structure lexicale et syntaxique du texte pour perturber la signature d’origine.

Mais il faut ici éviter une confusion importante : effacer le filigrane d’Anthropic ne revient pas à rendre le texte « humain » ni à le rendre indétectable comme production d’une IA. Le filigrane constitue seulement une méthode particulière d’identification. Un texte dépourvu de cette signature pourrait encore présenter des caractéristiques statistiques ou stylistiques permettant à d’autres méthodes de soupçonner une origine artificielle.

Les contre-mesures possibles : comment contourner un filigrane ?

Aussi élaboré soit-il, un filigrane textuel n’est pas une preuve inviolable de l’origine d’un texte. Plusieurs transformations peuvent théoriquement en réduire la détectabilité.

1. La réécriture

Une réécriture suffisamment importante modifie les mots et les structures syntaxiques choisis par le modèle initial. Plus elle est profonde, plus elle risque de détruire la signature statistique.

Une réécriture humaine complète constitue donc une contre-mesure particulièrement simple, même si elle exige du temps et ne garantit pas nécessairement la disparition de toutes les caractéristiques permettant de soupçonner une origine artificielle.

2. La traduction automatique

Faire passer un texte par un système de traduction — par exemple du français à une autre langue puis de cette langue au français — pourrait affaiblir ou supprimer le filigrane laissé par Claude, puisque le système de traduction effectue ses propres choix lexicaux et syntaxiques. On peut aussi demander à une IA de produire le texte dans une langue étrangère puis de traduire la réponse en français. Cela réduirait sans doute l'accumulation d'erreurs de traduction toujours possibles.

Un traducteur automatique comme DeepL peut produire du texte au moyen de l’IA, mais ses caractéristiques statistiques ne constituent pas automatiquement un filigrane destiné à identifier ses productions. Le règlement européen ne dit d’ailleurs pas que tout système de traduction automatique doit apposer un filigrane : l’obligation de marquage de l’article 50 concerne les systèmes d’IA générative qui produisent des contenus synthétiques entrant dans son champ d’application, avec plusieurs exceptions et précisions.

Le résultat peut donc être paradoxal : le filigrane de Claude aura disparu, mais le texte ne sera pas devenu humain pour autant.

Il n'est pas impossible qu'il puisse toujours être identifié comme une production ou une transformation effectuée par une IA grâce à d’autres méthodes. L'UE pourrait aussi simplement imposer à tous les traducteurs automatiques d'apposer un système de signature.

3. La paraphrase automatique

Un autre système d’IA peut également reformuler le texte. Cette opération modifie les choix lexicaux et syntaxiques du texte original et peut donc perturber le motif statistique recherché.

Mais, là encore, supprimer le filigrane d’un premier modèle ne supprime pas nécessairement les traces laissées par le second. Une analyse stylométrique ou un autre système de détection pourrait encore relever des caractéristiques propres au texte reformulé.

4. Les perturbations ciblées

En théorie, un utilisateur avisé connaissant le principe général du filigrane pourrait également chercher à perturber la signature en modifiant certains mots, en reformulant certaines phrases ou en introduisant suffisamment de changements pour faire disparaître le motif statistique.

La difficulté, pour l'attaquant, est de savoir exactement quels éléments modifier sans dégrader inutilement le texte. Et, pour le concepteur du filigrane, de rendre la signature suffisamment robuste pour résister à des modifications raisonnables.

Les alternatives aux filigranes

Le filigranage n’est qu’une méthode parmi d’autres pour tenter de déterminer l’origine d’un contenu.

1. L’analyse stylométrique

La stylométrie consiste à examiner les caractéristiques stylistiques de surface d’un texte — longueur des phrases, fréquence des mots, ponctuation, constructions syntaxiques, répétitions, etc. — afin d’en dégager les particularités.

Les modèles de langage peuvent présenter certaines habitudes récurrentes, même si celles-ci varient selon les modèles, les langues et les consignes qui leur sont données.

Avantage : aucune marque délibérée préalable n’est nécessaire.

Limite : une réécriture, une traduction ou une paraphrase peut modifier suffisamment ces caractéristiques pour rendre l’analyse beaucoup moins fiable.

2. La classification automatique

Des modèles d’apprentissage automatique peuvent être entraînés à distinguer les textes humains des textes produits par une IA en analysant de grandes quantités d’exemples.

Avantage : cette méthode peut être efficace lorsque le texte ressemble aux productions sur lesquelles le classificateur a été entraîné.

Limite : elle peut rapidement devenir dépassée lorsque de nouveaux modèles apparaissent et produire des faux positifs.

3. Les métadonnées et la provenance

Une autre stratégie consiste à ne pas chercher à deviner l’origine d’un contenu à partir de son texte, mais à conserver une trace de sa provenance.

Pour les images et certains fichiers, des standards comme C2PA permettent d’associer au contenu des informations signées décrivant son origine et les transformations qu’il a subies.

Avantage : lorsqu’elle est correctement conservée, une chaîne de provenance est potentiellement beaucoup plus fiable qu’une simple analyse statistique.

Limite : elle dépend de la conservation de ces informations tout au long de la chaîne de traitement et de diffusion.

 4. La combinaison des méthodes

À terme, la solution la plus robuste pourrait ne pas reposer sur une technique unique, mais sur la combinaison de plusieurs signaux : filigrane statistique, métadonnées de provenance, informations sur le logiciel utilisé et méthodes d’analyse du contenu.

Que change réellement le règlement européen ?

Il serait réducteur de présenter le Règlement sur l'intelligence artificielle et comme un texte imposant simplement aux « grands modèles de langage » d’ajouter une signature à leurs textes.

L’article 50 concerne plus largement les fournisseurs de systèmes d’IA générative, y compris les systèmes fondés sur des modèles d’IA à usage général. Lorsqu’un tel système génère du contenu synthétique — texte, image, son ou vidéo — le fournisseur doit mettre en œuvre des marques lisibles par machine permettant d’en détecter l’origine artificielle, sous réserve des exceptions prévues par les lignes directrices.

Les règles sont applicables depuis le 2 août 2026. Pour les systèmes déjà mis sur le marché avant cette date, une période transitoire limitée reporte au 2 décembre 2026 l'obligation de marquage et de détection des contenus générés par IA.

Le règlement ne dit donc pas que tout contenu ayant été traité par une IA doit nécessairement porter la même sorte de filigrane, ni qu’un traducteur automatique comme DeepL doit obligatoirement produire une signature comparable à celle de Claude. Les lignes directrices prévoient notamment des exceptions pour certaines fonctions d’assistance à l’édition standard.

Il faut également distinguer cette obligation technique de l’obligation, qui incombe dans certains cas aux utilisateurs professionnels, de signaler clairement certains contenus générés ou manipulés par IA, notamment les textes publiés dans le but d’informer le public sur des questions d’intérêt général lorsqu’ils ne font pas l’objet d’un contrôle humain ou éditorial répondant aux critères du règlement.

Une course qui risque de durer

On peut donc s’attendre à voir progresser simultanément les systèmes de marquage et les techniques destinées à les perturber.

Mais il serait excessif de présenter cette confrontation comme une lutte entre deux systèmes capables de déterminer infailliblement l’origine d’un texte. C’est également ce qui rend les faux positifs particulièrement problématiques. Un système qui attribuerait à tort un texte à une IA pourrait discréditer un auteur humain et, dans certains contextes — universitaire, professionnel ou éditorial — avoir des conséquences importantes.

Les filigranes statistiques constituent néanmoins une piste intéressante. Leur principal intérêt est de déplacer le problème : plutôt que d’essayer de reconnaître après coup le « style » d’une intelligence artificielle, on demande au modèle lui-même de laisser, au moment de générer son texte, une trace que l’on pourra rechercher ultérieurement.

La course entre les techniques de marquage et les moyens de les contourner ne fait probablement que commencer.

Voir aussi

Le parti pris de 25 modèles d'IA, leurs valeurs sont très différentes de celles de la plupart des gens

Les IA corrompent insidieusement les documents qu’on leur soumet

L’IA fragilise les indices superficiels de sérieux scientifique