ActualitéIT, Data & IATechnologies

Claude : Anthropic explique comment son filigrane invisible va fonctionner

Claude va intégrer un filigrane invisible directement dans les textes générés par l’IA, et Anthropic vient d’expliquer précisément son fonctionnement. Aucun symbole caché ni caractère spécial ne sera ajouté. La méthode reposera sur de minuscules variations dans le choix des mots, afin de créer une signature statistique détectable après coup.

Le filigrane de Claude sera intégré pendant la génération du texte

Anthropic ne compte pas ajouter une marque classique aux réponses de Claude. Le système agira directement au moment où le modèle génère chaque mot.

Lorsqu’une IA rédige une phrase, elle dispose généralement de plusieurs mots possibles pour poursuivre le texte. Anthropic va modifier très légèrement la probabilité de certaines de ces options.

Le changement sera presque imperceptible. Mais répété sur un texte suffisamment long, il permettra de créer un motif statistique reconnaissable.

C’est précisément ce motif qui fera office de filigrane.

Aucun caractère caché ne sera ajouté aux réponses

Le fonctionnement est donc très différent d’un marquage basé sur des caractères invisibles ou des métadonnées.

Claude n’ajoutera aucun symbole secret dans le texte. L’utilisateur ne devrait pas voir de différence entre une réponse classique et une réponse contenant le filigrane.

Anthropic veut également éviter que ce mécanisme ne dégrade la qualité du contenu. Les petites variations introduites dans le choix des mots sont censées préserver le sens, la lisibilité et la qualité des réponses.

Le filigrane pourra survivre à un copier-coller

Cette approche présente un avantage concret : la signature est liée au texte lui-même.

Un simple copier-coller vers un document, un site web ou une autre application ne devrait donc pas suffire à la supprimer. Le motif statistique pourrait rester détectable même après certaines modifications.

A lire :  Moltbot remplace Clawdbot : le compte GitHub disparaît en dix secondes

Le filigrane ne contiendra par ailleurs aucune information permettant de remonter à une personne précise. Anthropic indique qu’il ne permettra pas d’identifier un utilisateur, une entreprise ou une conversation Claude particulière.

Plus le texte est long, plus la détection devient fiable

Le système a tout de même une faiblesse : les textes courts seront beaucoup plus difficiles à identifier.

C’est logique. Le détecteur doit repérer un motif réparti sur plusieurs mots et non une marque unique. Quelques phrases offrent donc beaucoup moins de données à analyser.

À l’inverse, un texte plus long permet d’accumuler davantage d’indices statistiques et rend la signature de Claude plus facile à repérer.

Anthropic précise aussi que ce fonctionnement ne nécessitera pas de tokens supplémentaires et ne devrait donc pas engendrer de coût additionnel pour l’utilisateur.

Une forte réécriture peut brouiller le filigrane

La méthode ne sera pas impossible à contourner. Un contenu profondément réécrit pourra modifier suffisamment la distribution des mots pour rendre le filigrane plus difficile à détecter.

Le système sera donc surtout efficace sur des textes restés relativement proches de leur version générée par Claude.

Anthropic mise ainsi sur un mécanisme particulièrement discret : le filigrane ne se voit pas, il se cache dans les choix statistiques effectués par l’IA pendant la rédaction.

Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.

Eric Thomas

Eric Thomas suit l’actualité de Windows, des logiciels, de la cybersécurité grand public et des outils web. Il s’intéresse aux mises à jour système, aux nouveautés informatiques et aux solutions pratiques qui améliorent l’expérience numérique au quotidien.

Voir tous les articles

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *