SynthID Text : Comment fonctionne le watermark invisible de Google pour les textes générés par IA
Peut-on savoir si un texte a été généré par une IA comme Gemini ?
ou plutôt
Est-ce-que Google peut griller vos contenus IA copiés-collés ?-)
Un algo de Google s'appelle "SynthID Text".
C'est une technologie permettant d'intégrer un watermark directement dans les textes générés par une IA.
Il ne s'agit pas d'un code caché dans le HTML, de caractères invisibles ou d'une mystérieuse signature que l'on pourrait repérer en examinant simplement le texte. Cela sera un peu trop trivial / simpliste ^^
Copier un texte dans un éditeur comme le bloc notes, supprimer son HTML ou modifier sa police... ne suffit pas à supprimer ce type de watermark...
Le fonctionnement de SynthID Text est beaucoup plus "subtil" : Le watermark est statistique et intervient directement au moment de la génération des tokens.
Comment un modèle d'IA génère-t-il un texte ?
Pour comprendre SynthID Text, il faut d'abord comprendre rapidement comment fonctionne un LLM comme Gemini.
Lorsqu'une IA génère une phrase, elle ne rédige pas immédiatement l'intégralité du texte. Elle "produit" successivement des tokens. Un token peut correspondre à un mot, une partie de mot ou un signe de ponctuation.
À chaque étape, le LLM calcule une distribution de probabilités pour déterminer quels tokens pourraient logiquement suivre la séquence précédente.
Imaginons par exemple que le modèle commence la phrase suivante :
« Google utilise une technologie de... »
Le modèle pourrait obtenir une distribution simplifiée ressemblant à ceci :
- « watermarking » : 35 %
- « marquage » : 25 %
- « détection » : 15 %
- « protection » : 10 %
- autres possibilités : 15 %
Le modèle sélectionne ensuite un token, puis recommence exactement le même processus pour produire le suivant.
Cette opération est répétée jusqu'à obtenir le texte complet.
À quel moment intervient SynthID Text ?
C'est précisément pendant cette sélection des tokens que SynthID Text intervient.
Au lieu de laisser le LLM sélectionner les tokens uniquement à partir de sa distribution habituelle, SynthID introduit une modification subtile dans le processus de génération.
Un mécanisme pseudo-aléatoire associé au système de watermarking permet d'attribuer certaines propriétés aux différents tokens possibles. Le processus de génération peut alors favoriser statistiquement certains choix plutôt que d'autres, tout en cherchant à préserver la qualité, la cohérence et le sens du texte.
On peut schématiser le mécanisme de cette manière :
Distribution des tokens possibles
↓
Calcul des probabilités
↓
Intervention de SynthID
↓
Légère influence statistique
↓
Sélection d'un token
↓
Passage au token suivant
Cette opération est répétée tout au long de la génération.
Le watermark apparaît grâce à l'accumulation des tokens
Un seul token ne permet évidemment pas de déterminer qu'un texte contient un watermark SynthID.
C'est l'accumulation d'un grand nombre de décisions statistiques qui finit par produire un signal détectable.
On pourrait représenter le principe ainsi :
Token 1 → petit signal statistique
Token 2 → petit signal statistique
Token 3 → petit signal statistique
Token 4 → petit signal statistique
...
Token 500 → petit signal statistique
↓
Accumulation des signaux
↓
Score permettant d'évaluer la présence du watermark
Le détecteur peut donc analyser la séquence complète et rechercher cette structure statistique.
Vous avez donc compris : La quantité de texte disponible et les transformations qu'il a subies peuvent avoir une influence sur la capacité à détecter le watermark.
La signature provient des choix effectués par le LLM pendant la génération du texte.
Que se passe-t-il lorsqu'on réécrit le texte ?
C'est là que les choses deviennent intéressantes.
Prenez une phrase générée par une IA :
« Les entreprises doivent désormais prendre en compte l'impact croissant de l'intelligence artificielle sur leur stratégie numérique. »
On pourrait la reformuler ainsi :
« L'IA occupe aujourd'hui une place de plus en plus importante dans la stratégie digitale des entreprises. »
Le sens général est quasiment identique. Pourtant, la séquence de tokens est très différente.
Or, le watermark repose justement sur les décisions prises lors de la génération de ces tokens. Une modification importante du texte peut donc perturber ou affaiblir le signal statistique.
Une traduction, une réécriture importante, des suppressions ou d'autres transformations... peuvent ainsi rendre la détection plus difficile.
Cela constitue l'une des limites inhérentes aux systèmes de watermarking appliqués au texte.
Google peut-il détecter tous les textes écrits par Gemini ?
Il faut être prudent avec cette affirmation.
SynthID Text montre qu'il est techniquement possible d'intégrer un signal statistique dans certains textes générés par une intelligence artificielle afin de permettre ensuite sa détection.
En revanche, cela ne signifie pas qu'il suffit de donner n'importe quel texte à Google pour obtenir une réponse certaine du type :
« Ce contenu a été généré par Gemini. »
La détection reste statistique et dépend notamment du texte disponible, du système utilisé lors de sa génération et des éventuelles transformations effectuées par la suite.
Il faut également distinguer la technologie SynthID de son éventuelle utilisation par les différents produits et services de Google.
L'existence d'un mécanisme permettant de détecter un watermark ne signifie pas automatiquement que Google Search l'utilise comme signal de classement ou de pénalisation SEO.
Quel impact pour le SEO et les contenus générés par IA ?
Techniquement, le watermarking permet bien de rechercher la présence d'un signal dans des contenus générés avec un système compatible.
Mais il serait incorrect d'en déduire que Google Search peut identifier automatiquement tous les contenus générés par Gemini, ChatGPT, Claude ou d'autres modèles simplement grâce à SynthID.
Il serait tout aussi hasardeux d'affirmer que la présence d'un watermark SynthID entraîne une pénalisation SEO.
La solution
Plusieurs fois évoqués sur Oseox notamment ici, utiliser plusieurs modèles en même temps et inclure de l'humain c'est à dire de l'AI hybride.
Le process qu'on recommande depuis toujours... et peut être pour vous l'occasion de vérifier si votre outil de contenu IA utilise bien plusieurs prompts & plusieurs modèles ?
Chez Oseox CONTENT c'est le cas ^^
