Anthropic espionnait les utilisateurs de Claude Code : la bombe qui fait trembler la Chine

UN TRAQUEUR CACHÉ DANS CLAUDE CODE DÉCOUVERT PAR UN DÉVELOPPEUR

Un développeur web connu sous le pseudo Thereallo menait une enquête sur les problèmes de confidentialité de Claude Code, l’outil de programmation assistée par IA d’Anthropic. Il a fait une découverte choquante : l’entreprise utilisait une technique appelée stéganographie de prompts pour cacher un code de suivi dans l’outil. Ce code, invisible pour la plupart des utilisateurs, permettait à Anthropic de collecter discrètement des informations sur les utilisateurs chinois, comme leur fuseau horaire, leur proxy ou leurs connexions potentielles à des laboratoires d’IA chinois.

Le code n’était pas conçu pour voler des données sensibles, mais pour repérer les utilisateurs situés en Chine ou connectés à des laboratoires chinois accusés de attaques par distillation. Pourtant, cette méthode de surveillance secrète a été jugée inacceptable par les défenseurs de la vie privée et les utilisateurs eux-mêmes.

ANTHROPIC AVoue : LE TRAQUEUR ÉTAIT UN "EXPÉRIMENT" DÉMARRÉ EN MARS

Un ingénieur d’Anthropic, Thariq Shihipar, a confirmé sur X (ex-Twitter) que le traqueur avait été ajouté à Claude Code en mars 2024. Selon lui, ce code avait été intégré comme une mesure expérimentale pour prévenir les abus de comptes par des revendeurs non autorisés et pour protéger contre les attaques par distillation. Shihipar a précisé que les ingénieurs d’Anthropic avaient prévu de retirer ce code depuis plusieurs semaines, car des solutions plus robustes avaient été mises en place depuis.

Pourtant, cette explication n’a pas convaincu tout le monde. Les défenseurs de la vie privée ont pointé du doigt le fait qu’Anthropic était prête à franchir des lignes rouges en matière de surveillance, alors que l’entreprise avait justement critiqué le gouvernement américain pour avoir tenté d’utiliser Claude pour surveiller les citoyens américains.

UNE GUERRE TECHNOLOGIQUE S’INTENSIFIE ENTRE LES ÉTATS-UNIS ET LA CHINE

Le Washington Post a révélé que ce traqueur était le signe d’une stratégie plus large des entreprises américaines comme Anthropic pour bloquer les entreprises chinoises d’IA de copier leurs modèles. Ces dernières années, les entreprises chinoises ont réussi à reproduire les capacités des modèles américains en quelques mois seulement. Par exemple, un nouveau modèle gratuit de Zhipu AI, sorti en 2024, s’est avéré meilleur qu’Claude Opus 4.8 d’Anthropic pour détecter les vulnérabilités informatiques.

Pour maintenir une avance de 12 à 24 mois, Anthropic a appelé les États-Unis à renforcer leurs interventions. L’entreprise a suggéré d’utiliser des sanctions pour lutter contre les attaques par distillation, comme le blocage de l’accès aux modèles avancés, aux puces ou aux centres de données américains. Bien que la distillation ne soit pas illégale (les entreprises américaines le font aussi), le fait de solliciter des modèles comme Claude des millions de fois pour faire progresser rapidement les modèles chinois viole les conditions d’utilisation d’Anthropic.

LES ÉTATS-UNIS VEULENT INTERDIRE LES ATTAQUES PAR DISTILLATION

Anthropic, aux côtés d’OpenAI, a exhorté les États-Unis à considérer les attaques par distillation comme un vol de propriété intellectuelle. Lors d’une audition au Sénat, le sénateur Tim Scott (R-S.C.) a soutenu cette idée, affirmant que les États-Unis devaient créer une politique de contrôle des exportations claire pour empêcher la Chine d’utiliser ces attaques pour obtenir un avantage technologique.

Le Washington Post a confirmé que les entreprises chinoises distillaient bien les modèles américains. En février 2024, des chercheurs de l’Université de Pékin et de l’Académie chinoise des sciences ont développé des méthodes pour détecter les signes de distillation dans les grands modèles de langage. Ils ont découvert que la plupart des modèles chinois montraient des preuves substantielles de distillation, principalement de modèles américains. Par exemple, le modèle Qwen AI d’Alibaba a été accusé d’avoir copié Claude lors d’une attaque par distillation massive en juin 2024. En février, le modèle répétait parfois des réponses identiques à celles de Claude, allant jusqu’à s’identifier lui-même comme Claude lors de tests intensifs.

ALIBABA INTERDIT CLAUDE CODE À SES EMPLOYÉS À CAUSE DU TRAQUEUR

En réponse à la découverte du traqueur, Alibaba a interdit à ses employés d’utiliser Claude Code pour le travail. Selon un mémo interne consulté par le South China Morning Post, l’entreprise a justifié cette décision en invoquant les risques de porte dérobée liés au traqueur d’Anthropic. Le mémo précise : « Après une évaluation complète, Claude Code a été ajouté à la liste des logiciels à haut risque présentant des vulnérabilités de sécurité. »

Pour Alibaba, ignorer la détermination d’Anthropic à détecter les utilisateurs connectés à des laboratoires d’IA chinois pourrait exposer l’entreprise à des risques juridiques et de conformité. Contrairement aux utilisateurs individuels qui peuvent facilement contourner les blocages de localisation, une entreprise comme Alibaba pourrait être tenue responsable en cas de violation des conditions d’utilisation d’Anthropic.

ANTHROPIC RISQUE DE PERDRE LA CONFIANCE DES UTILISATEURS

Pour Anthropic, autoriser les attaques par distillation à continuer pourrait nuire à son activité. Le Washington Post a révélé que certains modèles open source chinois sont plus populaires que leurs équivalents américains gratuits et open source. De plus, les PDG des entreprises du Fortune 500 recherchent activement des solutions d’IA moins chères. Pour les États-Unis, bloquer la distillation chinoise des modèles américains pourrait s’avérer impopulaire, car cela priverait les Américains d’alternatives d’IA moins coûteuses venues de Chine.

Dans ce contexte, où la fidélité des utilisateurs dépend d’une analyse coût-bénéfice, Anthropic ne peut pas se permettre de perdre la confiance de ses utilisateurs alors qu’elle lutte pour garder ses modèles de pointe devant ceux de la Chine.

POURQUOI ANTHROPIC A-T-ELLE CHOISI LA SECRETS ?

Le développeur Thereallo a souligné que le choix d’Anthropic de cacher ce traqueur était « bizarre », surtout pour un outil de Développement qui demande la confiance des utilisateurs. Selon lui, Anthropic aurait pu informer clairement les utilisateurs de cette fonctionnalité. Il a proposé plusieurs alternatives : « Le client peut détecter les passerelles API personnalisées, il peut envoyer un champ de télémétrie explicite avec une documentation, il peut rendre la politique visible ou l’inclure dans les notes de version. »

Thereallo a également mis en garde : « Les agents de codage vivent déjà de l’autre côté d’une frontière floue. Ils peuvent inspecter le code, résumer des secrets par accident, exécuter des commandes, installer des paquets, modifier des fichiers et pousser des commits sur votre machine locale. »

Bien que la plupart des utilisateurs n’aient probablement pas été affectés par ce traqueur, le chercheur a insisté sur la nécessité d’une plus grande surveillance de la capacité de surveillance d’Anthropic. Il a ajouté : « La fonctionnalité punit surtout les personnes les plus faciles à identifier : les développeurs normaux qui font des choses légitimes mais inhabituelles. »

ANTHROPIC RESTE SILENCIEUSE SUR LES ACCUSATIONS

Anthropic n’a pas répondu immédiatement à la demande de commentaire d’Ars Technica. Cependant, un porte-parole a déclaré au Washington Post que les attaques par distillation des laboratoires chinois « représentent une menace sérieuse pour la sécurité nationale et sapent les normes de sécurité de l’IA dans l’industrie. C’est pourquoi nous continuons à parler ouvertement de ce que nous observons et à travailler en étroite collaboration avec d’autres laboratoires, le gouvernement et nos partenaires sur des solutions communes. »

UNE GUERRE SILENCIEUSE POUR LA SUPRÉMATIE DE L’IA

Cette affaire révèle une guerre technologique discrète mais intense entre les États-Unis et la Chine. Les entreprises américaines comme Anthropic et OpenAI multiplient les mesures pour protéger leurs modèles, tandis que les entreprises chinoises accélèrent leurs propres développements. Les utilisateurs, qu’ils soient individuels ou professionnels, se retrouvent au cœur de cette bataille, entre surveillance, innovation et coût des solutions d’IA.

La question reste entière : jusqu’où iront les États-Unis et la Chine pour dominer le marché de l’IA ? Et quel sera le prix à payer pour les utilisateurs pris entre deux feux ?

CE QUE LES UTILISATEURS DOIVENT RETENIR

Pour les utilisateurs de Claude Code, cette affaire rappelle l’importance de vérifier les politiques de confidentialité des outils qu’ils utilisent. Anthropic a retiré le traqueur, mais la méfiance envers les pratiques de surveillance des entreprises technologiques persiste. Les développeurs doivent être particulièrement vigilants, car les outils d’IA peuvent parfois franchir des limites invisibles en matière de confidentialité et de sécurité.

Pour les entreprises comme Alibaba, cette situation montre les risques juridiques et opérationnels liés à l’utilisation de logiciels étrangers. Les entreprises doivent évaluer soigneusement les outils qu’elles adoptent, surtout lorsqu’ils sont liés à des tensions géopolitiques.

L’AVENIR DE LA SURVEILLANCE ET DE LA SÉCURITÉ DANS L’IA

Cette affaire soulève des questions cruciales sur l’équilibre entre innovation, sécurité et vie privée dans le domaine de l’IA. Les entreprises comme Anthropic doivent trouver un moyen de protéger leurs modèles sans franchir les lignes rouges de la surveillance abusive. Les gouvernements, quant à eux, doivent créer des cadres réglementaires clairs pour éviter que cette guerre technologique ne dégénère en un conflit plus large.

En attendant, les utilisateurs et les entreprises doivent rester informés et exigeants sur les pratiques des outils qu’ils utilisent. La confiance, une fois perdue, est difficile à regagner.

LES LEÇONS POUR LES DÉVELOPPEURS

Les développeurs, en particulier ceux qui utilisent des outils comme Claude Code, doivent être conscients des risques liés à la surveillance et à la collecte de données. Voici quelques conseils pour protéger vos données :

1. Vérifiez toujours les politiques de confidentialité des outils que vous utilisez.
2. Utilisez des outils open source ou des alternatives locales lorsque c’est possible.
3. Soyez vigilant face aux fonctionnalités cachées ou aux comportements suspects.
4. Signalez toute activité suspecte aux communautés de développeurs ou aux autorités compétentes.

LES ENJEUX POUR LES ENTREPRISES TECHNOLOGIQUES

Pour les entreprises technologiques, cette affaire met en lumière l’importance de la transparence et de la confiance. Les utilisateurs et les régulateurs attendent des entreprises qu’elles soient claires sur leurs pratiques de collecte de données et leurs mesures de sécurité. Une surveillance secrète ou des pratiques douteuses peuvent rapidement nuire à la réputation d’une entreprise et entraîner des pertes financières.

Les entreprises doivent également anticiper les risques géopolitiques. Les tensions entre les États-Unis et la Chine ne montrent aucun signe de ralentissement, et les entreprises technologiques doivent se préparer à naviguer dans un environnement de plus en plus complexe.

QUELLES SANCTIONS POUR LES ATTAQUES PAR DISTILLATION ?

Les attaques par distillation posent un défi majeur pour les entreprises technologiques et les gouvernements. Les États-Unis envisagent des sanctions pour lutter contre ces pratiques, mais leur mise en œuvre pourrait s’avérer complexe. Voici quelques pistes envisagées :

• Blocage de l’accès aux modèles avancés pour les entreprises chinoises.
• Interdiction d’exporter des puces et des centres de données américains vers la Chine.
• Création de politiques de contrôle des exportations plus strictes.
• Collaboration internationale pour harmoniser les réglementations.

LES MODÈLES CHINOIS PEUVENT-ILS DÉPASSER LES MODÈLES AMÉRICAINS ?

La question n’est plus de savoir si les modèles chinois peuvent égaler les modèles américains, mais s’ils peuvent les dépasser. Les entreprises chinoises comme Zhipu AI et Alibaba ont déjà prouvé qu’elles pouvaient rivaliser, voire dépasser, les performances des modèles américains dans certains domaines. Cette compétition intense pousse les entreprises américaines à innover encore plus rapidement pour garder une longueur d’avance.

Cependant, cette course à l’innovation s’accompagne de risques. Les entreprises doivent veiller à ne pas franchir les limites éthiques et légales, sous peine de perdre la confiance de leurs utilisateurs et de leurs régulateurs.

QUELLE SERA LA RÉACTION DE LA CHINE ?

La Chine n’a pas encore réagi officiellement à cette affaire, mais les entreprises chinoises comme Alibaba ont déjà pris des mesures pour se distancier d’Anthropic. Cette réaction montre que la Chine prend au sérieux les accusations d’Anthropic et est prête à protéger ses intérêts technologiques. La guerre technologique entre les États-Unis et la Chine est loin d’être terminée, et de nouvelles mesures pourraient être prises des deux côtés.

COMMENT PROTÉGER VOS DONNÉES DANS UN MONDE D’IA DOMINÉ PAR LES TENSIONS GÉOPOLITIQUES ?

Dans un environnement où les outils d’IA sont de plus en plus surveillés et où les tensions géopolitiques s’intensifient, les utilisateurs doivent adopter des mesures pour protéger leurs données. Voici quelques conseils pratiques :

• Utilisez des outils open source ou des alternatives locales pour éviter la surveillance étrangère.
• Vérifiez régulièrement les politiques de confidentialité des outils que vous utilisez.
• Utilisez des réseaux privés virtuels (VPN) pour masquer votre localisation.
• Évitez de partager des informations sensibles avec des outils d’IA tiers.
• Soyez conscient des risques liés aux outils d’IA qui exécutent du code ou modifient des fichiers sur votre machine.

LE FUTUR DE L’IA : ENTRE INNOVATION ET SURVEILLANCE

L’affaire du traqueur caché dans Claude Code illustre les défis auxquels l’industrie de l’IA est confrontée. D’un côté, l’innovation et la compétition technologique poussent les entreprises à développer des outils toujours plus performants. De l’autre, la surveillance et les tensions géopolitiques menacent la confiance des utilisateurs et la stabilité du marché.

Les entreprises comme Anthropic doivent trouver un équilibre entre protection de leurs modèles et respect de la vie privée. Les gouvernements, quant à eux, doivent créer des cadres réglementaires clairs pour éviter que cette guerre technologique ne dégénère en un conflit plus large. Enfin, les utilisateurs doivent rester informés et exigeants sur les pratiques des outils qu’ils utilisent.

CONCLUSION : UNE GUERRE TECHNOLOGIQUE QUI NOUS CONCERNE TOUS

L’affaire du traqueur d’Anthropic n’est pas qu’une simple affaire de surveillance. Elle révèle une guerre technologique silencieuse entre les États-Unis et la Chine, où chaque entreprise et chaque utilisateur est pris dans la tourmente. Les enjeux sont immenses : innovation, sécurité, vie privée et domination technologique.

Alors que les entreprises et les gouvernements cherchent à protéger leurs intérêts, les utilisateurs doivent rester vigilants. La confiance, une fois perdue, est difficile à regagner, et les conséquences de cette guerre technologique pourraient nous toucher tous, directement ou indirectement.