Anthropic injecte 20 millions de plus pour sécuriser l'IA : la guerre des safeguards est lancée

Anthropic vient d’annoncer un nouveau don de 20 millions de dollars à Public First Action. Ce montant porte à 40 millions le total des fonds versés par l’entreprise. Public First Action est une organisation non partisane qui a pour mission d’éduquer le public sur l’intelligence artificielle et de collaborer avec des élus républicains, démocrates et indépendants. Leur objectif commun ? Mettre en place des safeguards (des mesures de protection) pour encadrer l’IA de manière raisonnable.

UNE NOUVELLE DONATION POUR UNE CAUSE URGENTE

Ces fonds ne peuvent en aucun cas servir à influencer l’élection de candidats, que ce soit au niveau fédéral, étatique ou local. La première donation, versée en février 2026, visait à soutenir des politiques garantissant des garde-fous solides, préservant la domination américaine dans l’IA et exigeant une transparence totale de la part des entreprises développant les modèles les plus puissants. Depuis, les arguments en faveur de ces politiques n’ont fait que se renforcer.

L'IA DEVIENT TROP PUISSANTE, TROP RAPIDEMENT

Les modèles d’IA s’améliorent à une vitesse folle. Au début de l’année, Claude Mythos Preview a permis de découvrir des milliers de vulnérabilités logicielles de haute gravité. Certaines concernaient tous les systèmes d’exploitation majeurs et les navigateurs web les plus utilisés. Plutôt que de garder ces failles secrètes, Anthropic a choisi de les partager avec un groupe restreint de cyber-défenseurs via Project Glasswing. L’objectif ? Permettre à des acteurs de confiance de corriger ces failles avant qu’elles ne soient exploitées par des pirates. Sans cette intervention, des modèles aussi puissants pourraient menacer les infrastructures critiques du pays : hôpitaux, réseaux électriques, ou encore systèmes de transport.

Les modèles plus avancés apportent aussi des bénéfices immenses : accélération de la découverte de médicaments, Développement de traitements contre des maladies jusqu’ici incurables, ou encore compression de décennies de progrès scientifiques en une seule décennie. Ils pourraient même prolonger l’espérance de vie et stimuler une croissance économique permettant à chacun de profiter de cette prospérité. Mais pour en tirer parti, il faut d’abord se protéger contre les risques.

LES GOUVERNEMENTS DOIVENT AGIR MAINTENANT

Les gouvernements ont besoin de temps pour construire les capacités nécessaires afin de tirer profit des avantages de l’IA tout en contenant ses dangers. C’est pourquoi ils doivent commencer dès maintenant à mettre en place des cadres réglementaires adaptés. Anthropic défend depuis longtemps l’idée que les entreprises de pointe en IA doivent être transparentes sur les capacités de leurs modèles et sur la manière dont elles gèrent les risques associés. L’entreprise a soutenu des lois récemment adoptées dans plusieurs États américains qui imposent une transparence accrue aux développeurs d’IA.

Pourtant, face à l’évolution fulgurante des modèles les plus puissants, la transparence seule ne suffit plus. Il est indispensable que les décideurs politiques et les candidats proposent des mesures concrètes pour atténuer les risques. C’est le cœur de ce qu’Anthropic a présenté dans son Advanced AI Framework. Ce cadre est actuellement la proposition politique la plus solide émanant d’un laboratoire ou d’un décideur dans le domaine de l’IA de pointe.

UN CADRE POUR ÉVITER LES CATASTROPHES

Les gouvernements devraient pouvoir vérifier les affirmations des entreprises en matière de sécurité, sanctionner les pratiques dangereuses par des pénalités civiles, et surtout disposer d’un moyen de ralentir ou d’interdire le déploiement de modèles présentant un risque sérieux de catastrophe. Les développeurs de modèles d’IA de pointe devraient être tenus de tester les modèles présentant un risque catastrophique, de rendre publics leurs résultats, de les soumettre à des évaluations indépendantes et de maintenir un programme de sécurité robuste.

LA SÉCURITÉ NATIONALE EN JEU

Comme l’a souligné le rapport 2028: Two Scenarios for Global AI Leadership, l’enjeu de la sécurité nationale lié à l’IA ne cesse de croître. Aujourd’hui, les États-Unis et leurs alliés démocratiques disposent d’un avantage, mais cette avance est fragile. Pour garantir que les États-Unis conservent leur leadership en IA, l’entreprise soutient des efforts politiques visant à renforcer les contrôles à l’exportation sur les puces avancées et les équipements de fabrication de semi-conducteurs. Elle plaide aussi pour limiter l’accès illicite aux modèles et les attaques par distillation, afin d’empêcher que les technologies les plus performantes des démocraties ne soient utilisées pour renforcer l’IA autoritaire.

UNE BATAILLE POUR L'AVENIR DE L'IA

Ces propositions politiques ne sont qu’un début. Le don d’Anthropic à Public First Action illustre une volonté claire : élever le niveau de cette discussion cruciale. L’enjeu ? S’assurer que l’IA reste un outil au service de l’humanité, et non une menace incontrôlable. Le temps presse, et chaque décision compte.