Anthropic veut des lois anti-IA plus dures : voici pourquoi ça surprend tout le monde

Anthropic, l'entreprise derrière les modèles d'IA Claude, a soutenu en 2025 les premières lois américaines sur la sécurité des modèles d'IA de pointe en Californie et à New York. Des règles qui obligent les entreprises à publier des rapports sur leurs systèmes. Pourtant, l'entreprise estime aujourd'hui que ces lois sont déjà dépassées. Elle demande désormais aux États d'adopter des réglementations encore plus strictes.

UNE LICORNE QUI SOUTIENT DES LOIS PLUS DURES

C'est surprenant : une startup valorisée à près de 1 000 milliards de dollars qui pousse pour des lois plus strictes sur son propre secteur. Anthropic ne ressemble à aucune autre entreprise. Ses dirigeants expliquent vouloir construire un business massif autour de l'IA avancée pour remplir sa mission : « garantir que le monde traverse en sécurité la transition vers une IA transformative ».

Depuis sa croissance, l'entreprise a commencé à soutenir certaines des réglementations les plus sévères proposées aux États-Unis pour les entreprises d'IA de pointe. Ces règles visent à réduire les risques catastrophiques, comme la possibilité que des modèles avancés contribuent à des catastrophes financières ou à des morts massives.

Outre les lois sur l'auto-déclaration en Californie et New York, Anthropic a aussi soutenu une mesure en Illinois exigeant que les laboratoires d'IA fassent évaluer leurs processus de sécurité par des auditeurs indépendants. Plus récemment, l'entreprise a endorsed une politique au Massachusetts qui impose le même type d'audit indépendant et donne au procureur général de l'État le pouvoir de demander des mesures d'urgence contre les entreprises non conformes.

UN EXPERT EN LOBBYING POUR GUIDER LA STRATÉGIE

César Fernandez, responsable des relations avec les gouvernements locaux et étatiques aux États-Unis chez Anthropic, a rejoint l'entreprise début 2025. Avant cela, il a travaillé comme responsable des relations gouvernementales pour FanDuel, un géant des paris sportifs, et comme associé senior en politique publique chez Uber. Il a aidé ces deux entreprises à remporter des batailles politiques dans plusieurs États. Son expertise pourrait être précieuse pour Anthropic, alors que le Congrès américain reste bloqué sur la réglementation de l'IA et que les États prennent les devants.

LES CRITIQUES ACCUSENT ANTHROPIC DE JOUER UN JEU DANGEREUX

Les efforts pro-réglementation d'Anthropic ont été salués par des groupes de sécurité de l'IA, des syndicats et d'autres alliés. Mais certains dirigeants de la Silicon Valley y voient une manœuvre plus trouble. David Sacks, ancien responsable de l'IA à la Maison Blanche sous Donald Trump et actuel conseiller technologique du président, accuse Anthropic de vouloir faire passer des lois encombrantes pour piéger les startups d'IA plus petites dans des montagnes de paperasse, sécurisant ainsi sa position de leader dans la course à l'IA.

« Anthropic mène une stratégie sophistiquée de capture réglementaire basée sur la peur. C'est principalement responsable de la frénésie réglementaire des États qui endommage l'écosystème des startups », a écrit Sacks dans un post sur les réseaux sociaux l'année dernière.

Fernandez rejette catégoriquement ces accusations. Il précise que Anthropic n'a soutenu que des projets de loi sur l'IA qui s'appliquent aux « grands développeurs de modèles d'IA ». Ce terme est défini différemment dans chaque projet de loi, mais il fait généralement référence à des entreprises ayant dépensé des centaines de millions de dollars en Développement d'IA et générant plus de 500 millions de dollars de revenus annuels. « Il est difficile d'imaginer une startup atteignant ce seuil », explique Fernandez.

LES STARTUPS PROMETTEUSES POURRAIENT BIENTÔT FRANCHIR LE SEUIL

Dans un monde où des milliards de dollars sont nécessaires pour développer un modèle d'IA de pointe compétitif, quelques startups prometteuses pourraient bientôt atteindre ces seuils. Par exemple, Safe Superintelligence, Thinking Machines Lab et Mistral ont chacune levé des milliards auprès d'investisseurs, même si leurs revenus restent bien inférieurs à ceux d'Anthropic ou d'OpenAI. Bien sûr, ce ne sont pas des startups ordinaires, mais elles pourraient devenir des concurrents sérieux pour Anthropic.

Fernandez défend l'idée que toute entreprise assez grande pour développer un modèle d'IA puissant devrait être soumise aux mêmes réglementations, car les risques sous-jacents de la technologie sont identiques. Il note qu'une partie de l'objectif d'Anthropic est d'« inspirer une course vers le haut pour développer les systèmes d'IA les plus sûrs et sécurisés », ce que l'entreprise pense inclure en poussant pour une législation gouvernementale.

ANTHROPIC VEUT UN DROIT DE BLOCAGE FÉDÉRAL, PAS LOCAL

Cependant, Anthropic estime que les gouvernements des États ne devraient pas avoir le pouvoir de bloquer le déploiement de nouveaux modèles d'IA en l'absence de réglementation fédérale. Dans un document de politique publié le mois dernier, l'entreprise recommande que les gouvernements devraient avoir un mécanisme pour bloquer le déploiement de nouveaux modèles d'IA s'ils les jugent dangereux. Cette suggestion est un peu ironique, car l'administration Trump a récemment ordonné à Anthropic de suspendre l'accès à ses deux modèles d'IA les plus puissants pour les ressortissants étrangers, et l'entreprise n'a pas vraiment apprécié cette décision.

Anthropic pense que le droit de bloquer le déploiement de modèles d'IA dangereux devrait être réservé au gouvernement fédéral, et non aux législateurs des États. Fernandez note que c'est une conversation en évolution. Après que l'administration Trump ait envoyé une directive de contrôle des exportations à Anthropic, conduisant l'entreprise à retirer ses modèles Mythos et Fable 5 du marché pour tous les utilisateurs, l'entreprise a écrit dans un article de blog que le blocage du déploiement de modèles d'IA devrait se faire uniquement par le biais d'un processus d'évaluation équitable et transparent.

Fernandez n'a pas voulu s'étendre sur le travail d'Anthropic au niveau fédéral, car ce n'est pas son domaine de responsabilité. Mais l'entreprise a été très active dans ce domaine également. Le mois dernier, elle a envoyé une lettre au gouvernement américain accusant le géant technologique chinois Alibaba d'avoir mené une attaque par distillation. En termes simples, cela signifie qu'Alibaba aurait extrait des informations des modèles d'Anthropic via des requêtes systématiques pour développer ses propres outils d'IA.

Certains chercheurs en IA ont rejeté ces accusations, les qualifiant de capture réglementaire déguisée. Ils estiment que le vrai objectif d'Anthropic est de persuader le gouvernement américain d'interdire les modèles d'IA open source chinois, ce qui pourrait inciter des milliers d'entreprises américaines dépendantes de ces modèles à se tourner vers les offres d'entreprise d'Anthropic. Dario Amodei, PDG d'Anthropic, a déjà averti le Congrès des dangers de l'IA open source par le passé.

ANTHROPIC CIBLE-T-ELLE LES MODÈLES OPEN SOURCE ?

Au niveau des États, Fernandez précise qu'Anthropic n'a pas spécifiquement ciblé les modèles d'IA open source dans aucune des législations qu'elle a soutenues. « Ce n'est pas tant une question de construction du modèle qu'une question de ses capacités. Quand elles atteignent un certain niveau, elles devraient être prises en compte dans ces cadres étatiques », explique-t-il.

Que l'on croie ou non aux motivations sincères d'Anthropic, l'entreprise joue un rôle puissant dans la shaping de l'avenir de la politique de l'IA. Ses derniers modèles ont mis en lumière les capacités de cybersécurité des IA avancées au niveau national. Avant cela, l'entreprise avait déjà passé des années à avertir les législateurs à travers le pays des risques catastrophiques de l'IA avancée.

LES PRÉOCCUPATIONS DES CITOYENS AMÉRICAINS IGNORÉES

Les préoccupations concernant l'IA soulevées plus souvent par les électeurs américains, comme la perte potentielle d'emplois due à cette technologie, les impacts négatifs des centres de données s'installant dans leurs communautés, ou encore les effets des chatbots sur les enfants, n'ont pas inspiré de campagne législative comparable de la part des laboratoires d'IA de pointe. Anthropic et plusieurs de ses rivaux ont promis que les contribuables ordinaires ne seraient pas obligés de payer pour les centres de données, et Anthropic a publié des propositions pour répondre au déplacement futur des emplois dû à l'IA. Mais l'industrie a déployé beaucoup moins d'efforts politiques pour aborder ces problèmes au niveau des États.

Interrogé sur cette disparité, Fernandez répond qu'Anthropic est « impatiente de travailler avec les législateurs » sur des questions au-delà des risques catastrophiques de sécurité de l'IA, et qu'elle « a déjà ces conversations dans plusieurs États ».

Pour l'instant, cependant, ces discussions n'ont pas produit la même poussée coordonnée au niveau des États que celle menée par Anthropic autour des risques existentiels posés par les modèles de pointe.

ANTHROPIC, UN ACTEUR CLÉ DANS LA RÉGLEMENTATION DE L'IA

Qu'on croie ou non à ses motivations, Anthropic joue un rôle central dans la définition de l'avenir de la politique de l'IA. Ses derniers modèles ont mis en lumière les capacités de cybersécurité des IA avancées au niveau national. Avant cela, l'entreprise avait déjà passé des années à avertir les législateurs à travers le pays des risques catastrophiques de l'IA avancée.

Les préoccupations des électeurs américains, comme la perte d'emplois due à l'IA ou l'impact des centres de données, n'ont pas encore inspiré de campagnes législatives comparables de la part des laboratoires d'IA de pointe. Anthropic et ses rivaux ont promis que les contribuables ne paieraient pas pour les centres de données, et l'entreprise a publié des propositions pour répondre au chômage futur causé par l'IA. Mais l'industrie a mis beaucoup moins de poids politique derrière des lois étatiques abordant ces problèmes concrets.

UNE STRATÉGIE QUI DIVISE

Que l'on croie ou non aux motivations d'Anthropic, son rôle dans la réglementation de l'IA est indéniable. L'entreprise a déjà marqué l'histoire en soutenant des lois strictes, alors que ses concurrents les combattent. Pourtant, certains y voient une manœuvre pour éliminer la concurrence. Une chose est sûre : le débat sur la réglementation de l'IA ne fait que commencer.