Claude va marquer TOUT ce que vous écrivez… même vos fautes de grammaire

ANTHROPIC IMPOSE DES WATERMARKS INVISIBLES… SUR TOUT

Anthropic vient d’annoncer qu’elle allait bientôt apposer des watermarks (des marques invisibles) sur tout le contenu traité par ses modèles, et pas seulement sur ce qu’ils génèrent. Dans un article de support, l’entreprise explique qu’elle déploie ces watermarks lisibles par machine pour se conformer à l’AI Act européen, une loi qui oblige tous les fournisseurs de systèmes d’IA à marquer les contenus audio, image, texte et vidéo générés ou manipulés par l’IA. Cette obligation s’applique à tous les modèles publiés après le 2 août, avec une période de grâce jusqu’en décembre 2026 pour les modèles déjà existants.

Anthropic précise que, à l’avenir, tous les nouveaux modèles proposés dans le monde entier — et pas seulement en Europe — seront marqués dès leur première utilisation. Les sorties de texte contiendront des watermarks intégrés invisibles pour l’utilisateur, tandis que les autres fichiers générés incluront des métadonnées de provenance signées numériquement, lorsque cela est possible.

UNE MARQUE QUI TOUCHE MÊME LES CORRECTIONS MINIMALES

L’entreprise utilise une méthode radicale : elle applique les watermarks à tout le contenu traité où cela est possible, même si l’UE n’exige pas cette obligation pour les fonctions d’assistance standard comme la correction de grammaire ou lorsque l’IA ne modifie pas « substantiellement » le texte ou son sens. Le problème ? Un watermark appliqué au niveau du modèle ne peut pas faire la différence entre une Génération complète et une simple correction de virgule. Résultat : Claude pourrait marquer exactement le contenu que la loi européenne a justement voulu épargner.

Le niveau de détail de ces watermarks ne sera connu qu’une fois qu’Anthropic publiera un outil de détection permettant de les tester. L’entreprise a indiqué qu’elle comptait partager à terme les méthodes pour détecter ces marques, afin d’offrir un support technique conforme aux exigences de la loi européenne.

Anthropic a également précisé que ces watermarks ne fonctionneront pas sur « certaines plateformes ou fonctionnalités » qui ne les prennent pas en charge. Pour les contenus non textuels, l’entreprise utilisera l’approche C2PA (Content Authenticity Initiative) pour enregistrer la provenance.

POURQUOI LES WATERMARKS SONT-ILS SI FACILES À CONTOURNER ?

La méthode décrite par l’UE et mise en œuvre par Anthropic est malheureusement triviale à contourner pour les mauvais acteurs, tout en risquant de pénaliser les utilisateurs qui font confiance au système pour étiqueter correctement leurs productions. Les watermarks textuels fonctionnent en biaisant les choix de mots du modèle selon un motif réparti dans l’ensemble du document, détectable uniquement en agrégat par un outil adapté. Le hic ? Le terme « invisible » peut aussi signifier que le modèle sacrifie parfois le meilleur mot pour un mot légèrement moins bon, simplement pour maintenir le signal intact.

Anthropic a reconnu que ces marques « voyageront avec le texte lorsqu’il est copié-collé ailleurs et peuvent persister après certaines modifications ». Mais si un texte marqué est collé dans un autre système de chatbot qui édite le texte, le watermark pourrait être détruit. Pour les images et vidéos, une simple capture d’écran ou l’utilisation d’un outil d’édition de métadonnées suffira à supprimer ces informations. Une fois qu’Anthropic aura révélé au monde comment identifier ces watermarks, construire un système pour les effacer sera un jeu d’enfant.

UN SIGNAL PEU INFORMATIF ET SOURCE DE CONFUSIONS

Le potentiel de mauvaise interprétation semble élevé : le watermark n’est pas particulièrement informatif. Anthropic a expliqué qu’un « watermark détecté fournit un signal indiquant que le contenu a été traité par Claude, mais n’est pas totalement concluant ». Le seul vrai message que cette marque envoie est que « le contenu a peut-être été traité par Claude », a précisé l’entreprise, et le watermark pourrait même apparaître sur du contenu qui n’a pas été généré par Claude.

À cela s’ajoute le grand public, qui pourrait ne pas saisir la différence entre un texte traité et un texte entièrement généré. Si le système marque un texte écrit par un humain simplement parce qu’il a été édité dans un flux de travail impliquant Claude, il portera soudainement la même signification qu’un texte entièrement généré. Et tout cela dans un système où « l’absence de watermark détecté ne signifie pas que le contenu n’a pas été généré ou traité par l’IA », a rappelé Anthropic.

Pour sa défense, Anthropic reconnaît qu’elle pourrait marquer certains contenus que l’AI Act n’exige pas d’étiqueter : « Les gens utilisent souvent Claude pour relire, traduire, résumer ou convertir des fichiers. La sortie peut porter une marque Claude même si les idées, le texte ou les données sous-jacents proviennent d’une autre source. » Ainsi, malgré une exemption explicite de la loi, Claude marquera tout travail d’édition effectué sur un texte original.

UNE MARQUE QUI REND LE TRAÇAGE DE LA PROVENANCE PLUS COMPLIQUÉ

Si les watermarks deviennent un filet qui attrape toute utilisation de Claude, des correcteurs orthographiques aux réécritures complètes, la solution d’Anthropic risque de frustrer les utilisateurs en allant bien au-delà de ce qui est nécessaire pour étiqueter le contenu. Un enseignant ou un professeur ne devrait pas interpréter ce signal de watermark comme autre chose que « l’IA a touché ce texte », mais il est facile d’imaginer qu’ils le feront. Après tout, à quoi sert un watermark qui ne peut pas faire la différence entre une légère édition et un texte entièrement généré ?

La situation devient encore plus floue lorsque l’on se tourne vers une autre section de l’AI Act européen, l’article 50(4), qui traite de la manière dont ceux qui publient ce texte doivent étiqueter explicitement le contenu. Selon leur régime d’étiquetage, un texte entièrement généré par l’IA ne nécessite généralement pas d’étiquette. Un roman écrit par l’IA ? Pas d’étiquette. Une copie marketing générée par l’IA ? Pas d’étiquette non plus. Mais si le texte est destiné à « informer le public sur des questions d’intérêt public », il faut l’étiqueter sauf si un humain le révise éditorialement (c’est-à-dire si l’éditeur est connu et responsable). On se retrouve donc dans une situation étrange où, au niveau du modèle, c’est « watermarquez tout », mais du côté de la divulgation publique, c’est « vous n’avez pas besoin d’étiqueter ce texte généré par l’IA si untel l’a regardé ».

ANTHROPIC RESTE ÉVASIF SUR LES DÉTAILS PRATIQUES

Ars a contacté Anthropic pour savoir s’il existait un calendrier pour la publication des détails sur la détection ou les résultats de tests que l’entreprise pourrait partager concernant la probabilité de faux positifs ou négatifs. Nous avons également demandé à Anthropic de répondre à la question de savoir comment ses watermarks pourraient entrer en conflit avec les fonctions d’édition standard et d’autres exemptions de l’AI Act. En réponse, Anthropic a envoyé une déclaration qui n’abordait pas les questions posées par Ars.

« Nous ajoutons des marques aux sorties de Claude pour nous conformer à l’AI Act européen, et d’autres laboratoires prennent des mesures similaires », a déclaré Anthropic. « Il est difficile d’identifier un texte généré par l’IA, et cela donne aux gens de meilleurs outils pour le faire. Les textes issus des modèles Claude pris en charge, y compris les sorties de Claude Code, contiendront un watermark invisible. Cela ne change ni le sens, ni la qualité, ni la lisibilité des réponses de Claude. Nous prévoyons également de livrer une API de détection de texte afin que les utilisateurs puissent faire davantage eux-mêmes. »

L’UE VEUT RÉTABLIR LA CONFIANCE… MAIS Y PARVIENT-ELLE ?

Dans l’UE, les exigences de transparence visent à garantir que des outils comme Claude ne perturbent pas « l’intégrité et la confiance dans l’écosystème de l’information, en créant de nouveaux risques de désinformation et de manipulation à grande échelle, de fraude, d’usurpation d’identité et de tromperie des consommateurs ». Un article de support de l’UE prévoyait que ces obligations seraient le « principal défi de conformité » pour de nombreuses entreprises d’IA.

« Les gens doivent savoir quand ils interagissent avec de l’IA ou sont exposés à un contenu généré par l’IA », ont déclaré les directives de la Commission européenne. « Cela les aidera à prendre des décisions éclairées, à ajuster leur confiance et leur dépendance à l’égard de l’IA, et à éviter la désinformation ou la tromperie. » Pourtant, il est difficile de concilier cela avec le fait qu’un article entièrement généré sur une question d’intérêt public reçoit un watermark, mais pas d’étiquette visible pour le lecteur, si un éditeur l’a correctement relu.

Les entreprises d’IA comme Anthropic sont les mieux placées pour développer des solutions de watermarking, selon l’UE, car l’IA évolue rapidement et il y aura un « besoin continu de nouvelles méthodes et techniques pour retracer l’origine de l’information ».

Mais cela laisse largement la valeur sociétale de ces marques à la discrétion des entreprises technologiques, l’UE se contentant de stipuler que « les techniques et méthodes doivent être suffisamment fiables, interopérables, efficaces et robustes dans la mesure où cela est techniquement réalisable ».

DES AMENDES DE 15 MILLIONS D’EUROS EN CAS D’ÉCHEC

Dans son article, Anthropic a indiqué qu’elle comptait continuer à travailler sur ses watermarks et ses méthodes de détection pour répondre aux exigences de l’UE. Si les étiquettes de Claude échouent, l’AI Act prévoit des pénalités sévères en cas de violation, incluant des amendes pouvant atteindre 15 millions d’euros, ou 3 % du chiffre d’affaires mondial annuel de l’entreprise.