Anthropic intègre un filigrane invisible dans les textes générés par Claude

Anthropic déploie un système de marquage invisible pour identifier la production textuelle issue de son modèle Claude. Ce mécanisme s'appuie sur une altération statistique imperceptible lors du choix des mots, afin de certifier l'origine automatisée des écrits tout en préservant leur fluidité de lecture. L'initiative cherche à répondre aux obligations imposées par la législation européenne sur l'intelligence artificielle, qui rend obligatoire l'identification des contenus générés de façon synthétique pour limiter les abus et garantir la transparence.

D'après Next, cette méthode statistique intervient directement au moment de l'échantillonnage des termes générés par la machine. Les concepteurs de Anthropic emboîtent ainsi le pas aux recherches menées par Google DeepMind, qui explore depuis longtemps le tatouage numérique des productions synthétiques. Scott Aaronson rappelle d'ailleurs son rôle dans ce domaine : « À ma connaissance, j’ai été le premier à penser spécifiquement au watermarking des LLM. C’était peu après mon arrivée chez OpenAI, à l’été 2022. » Les travaux théoriques partagés auprès de ACM et de National Academy of Sciences ont progressivement préparé l'application industrielle de ces techniques de marquage au sein des grands modèles de langage.

Cette modification technique suscite toutefois de fortes réticences. Selon Numerama, des utilisateurs dénoncent l'absence d'information préalable et cherchent déjà des méthodes pour contourner ce dispositif d'authentification. Pour sa part, L'Express qualifie ce marquage de solution fragile face aux manipulations possibles, car une simple reformulation ou une traduction suffit souvent à faire disparaître la signature statistique. Frandroid observe également les discussions animées qui traversent la communauté des usagers de Claude et de ses concurrents développés par OpenAI. Certains utilisateurs redoutent des baisses de qualité stylistique ou une surveillance accrue de leurs documents professionnels.

L'extension de ces filigranes arrive à un moment charnière pour l'écosystème numérique mondial. Matthew Prince insiste sur l'ampleur prise par les flux automatisés : « Le trafic généré par les agents IA augmente si rapidement que, pour la première fois dans l’histoire d’internet, le trafic des bots a désormais dépassé celui des humains en ligne ». Cette prédominance des contenus automatisés pousse les régulateurs à exiger des preuves d'authenticité vérifiables. D'après Le Grand Continent, la traçabilité des machines pose des défis techniques persistants, tandis que La Tribune rappelle les risques de propagande et de désinformation associés aux réponses fournies par les agents conversationnels.

Malgré les protestations observées chez les clients réguliers de Claude, la direction de Anthropic maintient son cap technologique. L'entreprise poursuit ses travaux d'alignement avec des experts du secteur comme Jan Leike, ancien chercheur chez OpenAI. La quête de garanties algorithmiques dépasse le simple tatouage textuel, alors que des figures comme Ilya Sutskever ont longtemps cherché « une définition mathématique de ce que signifierait, pour l’IA, aimer l’humanité ». Les concepteurs doivent désormais composer avec des contraintes légales strictes et l'opposition d'une communauté soucieuse de conserver la maîtrise totale de ses écrits.