Trump et l'IA : un plan de sécurité qui cache un gros trou dans la raquette ?

UN ORDRE EXÉCUTIF QUI ARRIVE TROP TARD (ET TROP FAIBLE)

Mardi dernier, Donald Trump a finalement signé son ordre exécutif visant à étendre les efforts du gouvernement pour réaliser des tests volontaires de sécurité sur les modèles d’IA de pointe. Mais pour les critiques, cette initiative relève davantage de la communication que d’une réelle avancée. L’ordre promet des garanties rassurantes en donnant l’impression que le gouvernement surveille activement les risques liés à l’IA, sans pour autant changer fondamentalement la façon dont ces modèles sont déployés ou testés.

LE GRAND RATÉ DE LA CÉRÉMONIE DE SIGNATURE

Le mois dernier, Trump avait brusquement annulé un événement prévu pour la signature d’une première version de cet ordre exécutif, auquel devaient assister les PDG des principales entreprises d’IA. Plusieurs dirigeants, invités à la dernière minute, n’avaient pas pu se libérer mais avaient tout de même exprimé leur soutien à l’initiative. Officiellement, Trump avait justifié ce report en expliquant que l’ordre risquait d’être trop restrictif et de devenir un frein à l’innovation en intelligence artificielle. Des rapports ont révélé des tensions au sein de son administration, opposant des experts en cybersécurité à des responsables favorables à une dérégulation de l’IA.

UN TEXTE AFFAIBLI POUR PLAIRE AUX GÉANTS DE LA TECH

L’ordre exécutif finalement signé par Trump évite soigneusement toute réglementation contraignante pour les entreprises d’IA. Au lieu de cela, il met en place un processus volontaire où les entreprises sont invitées à collaborer avec le gouvernement pour des revues de sécurité. L’objectif affiché ? « S’assurer que les technologies les plus sûres et performantes sont déployées rapidement pour faire face à toutes les menaces pesant sur notre pays. »

Dans cet ordre, Trump précise : « Nous allons continuer à diriger une initiative de cybersécurité America First qui renforce à la fois notre sécurité nationale et notre domination mondiale en IA. »

30 JOURS POUR TESTER CE QUE D’AUTRES PRENNENT 90 JOURS

Selon des sources citées par Politico, la principale différence entre le projet initial et l’ordre finalement signé réside dans la durée accordée aux tests de sécurité. La première version de l’ordre prévoyait que le gouvernement puisse accéder aux modèles 90 jours avant les autres partenaires de confiance, offrant ainsi une fenêtre plus large pour détecter et corriger les vulnérabilités. Mais Trump aurait jugé ce délai trop long, risquant de ralentir la course à l’IA des États-Unis. Il a donc réduit cette période à 30 jours seulement.

LA NSA CHARGEE DE CRÉER UN SYSTÈME DE BENCHMARK CLASSIFIÉ

Dans cet ordre, Trump a demandé à la NSA (Agence de sécurité nationale) de mettre en place un processus de benchmarking classé pour déterminer le seuil permettant de qualifier un modèle d’IA de « modèle frontalier couvert ». La NSA devra également collaborer avec le département du Trésor américain et la CISA (Agence de cybersécurité et d’infrastructure) pour établir un « guichet de cybersécurité » chargé de scanner et corriger les vulnérabilités à grande échelle. Un cadre volontaire sera aussi proposé aux développeurs d’IA pour soumettre leurs modèles à des tests de sécurité.

UNE ÉQUIPE DE SÉCURITÉ… QUI N’EXISTE PAS ENCORE

Les critiques soulignent que le texte de l’ordre exécutif révèle à quel point le gouvernement est mal préparé pour réaliser des tests de sécurité significatifs dans un délai aussi court. Trump veut que ces processus soient mis en place en 30 jours, mais il faudra bien plus de temps pour recruter les talents et développer l’expertise nécessaire. L’ordre donne d’ailleurs 60 jours à l’Office of Personnel Management pour « élargir les voies de recrutement et de placement des spécialistes en cybersécurité pour la force technologique américaine ».

DES FONDS QUI MANQUENT À L’APPEL

L’ordre exécutif suggère également que le financement pourrait être un problème à court terme. Il demande à l’Office of Management and Budget de « déterminer si des programmes de subventions fédérales disposent de fonds disponibles et pertinents qui pourraient être redirigés vers les demandeurs développant des Outils avancés de détection des vulnérabilités en IA. »

LA CAROTTE ET LE BÂTON : MENACES ET INTIMIDATION

En attendant que le gouvernement parvienne à mettre en place ce programme, Trump semble vouloir renforcer l’application des lois pour intimider ceux qui pourraient exploiter des modèles d’IA non testés. L’ordre exécutif demande au procureur général de « prioriser les poursuites contre les individus utilisant l’IA pour accéder illégalement ou endommager des systèmes informatiques, voler des données ou faciliter d’autres activités criminelles. »

« L’ÉQUILIBRE PARFAIT »… SELON TRUMP

Le communiqué de la Maison Blanche affirme que l’ordre exécutif trouve « le bon équilibre entre innovation et sécurité ». Pourtant, les critiques s’inquiètent : cette initiative, lancée en réponse aux préoccupations du public concernant les risques de cybersécurité posés par le modèle Mythos d’Anthropic, semble myope et repose trop sur la bonne volonté des entreprises d’IA pour privilégier la sécurité publique plutôt que les profits.

« QUELLE VA ÊTRE LA RÉACTION DE LA COMMUNAUTÉ DU RENSEIGNEMENT EN 30 JOURS ? »

Dans un post analysant l’ordre exécutif, deux experts du Council on Foreign Relations (CFR), un groupe de réflexion indépendant, ont expliqué l’importance de l’ordre et ses lacunes évidentes. Matthew Ferren, chercheur en affaires internationales spécialisé en sécurité nationale, suggère que l’ordre exécutif est « mieux compris comme une tentative de créer une fenêtre d’opportunité en cybersécurité » qui « accorde aux défenseurs un accès privilégié aux capacités cyber de pointe tout en tentant de retarder l’accès des adversaires. »

« L’objectif est que les défenseurs trouvent et corrigent les vulnérabilités critiques plus rapidement que les adversaires ne peuvent les exploiter, mais cela risque de s’avérer difficile », écrit Ferren.

UNE AGENCE DE SÉCURITÉ DÉCIMÉE PAR LES COUPS DE BUDGET

Tandis que trouver des vulnérabilités peut être facile, corriger systématiquement les systèmes gouvernementaux critiques pour se protéger des risques serait un défi de taille, estime Ferren. Il souligne que cela serait particulièrement difficile sans une équipe spécialisée d’experts gouvernementaux. L’année dernière, la CISA a été l’une des agences les plus touchées par les coupes budgétaires du Department of Government Efficiency. Les meilleurs talents en cybersécurité du gouvernement ont été « décimés », selon un rapport de CBS News : des officiers supérieurs ont été licenciés, l’agence a été affaiblie et des contrats de cybersécurité ont été annulés, rapporte Time Magazine.

POURQUOI TRUMP A-T-IL CONFIÉ UN RÔLE À LA TRÉSORERIE ?

LA GRANDE QUESTION : QUI VA TESTER LES MODÈLES D’IA ?

Si la question de savoir « qui testera les modèles frontaliers » reste une urgence pour l’administration Trump, la disposition la plus difficile à mettre en œuvre de l’ordre exécutif — selon Vinh Nguyen, chercheur principal au CFR pour l’IA — sera de « définir ce qui compte comme un ‘modèle frontalier couvert’. »

Comme l’explique Nguyen :

UN DANGER : TESTER TROP PEU OU TROP

Selon Nguyen, le gouvernement doit être prudent lorsqu’il décide quels modèles nécessitent des tests de sécurité, car il risque de déployer des modèles dotés de « capacités genuinely dangereuses » si la définition d’un modèle couvert est « trop étroite ». Mais si elle est « trop large », le processus d’évaluation risque d’épuiser « les talents limités disponibles pour effectuer ce travail. »

LA TRANSPARENCE DES ENTREPRISES D’IA, CLÉ DE LA RÉUSSITE

Une fois les modèles couverts définis, Nguyen met en garde : l’efficacité des tests de sécurité dépendra probablement du fait que les entreprises d’IA soient pleinement transparentes et traitent le processus comme une « collaboration genuine ».

« Sous le problème de définition se trouve un problème d’observabilité », écrit Nguyen. « Le gouvernement ne peut pas évaluer ce qu’il ne voit pas, et les capacités frontalières ne sont visibles que pour les laboratoires qui les construisent. »

UNE COURSE CONTRE LA MONTRE POUR LES DÉFENSES CYBER

Ferren suggère que « la fenêtre pour ériger des défenses cyber appropriées contre les nouveaux modèles d’IA pourrait se refermer rapidement », et qu’un programme gouvernemental bien conçu pourrait avoir du mal à évaluer correctement les modèles frontaliers dans un délai aussi court. « Même lorsqu’il est bien mis en œuvre, le testing avant déploiement a des limites », explique Ferren. Il note que l’équipe d’intelligence sur les menaces de Google a découvert que des acteurs alignés sur des États utilisaient des modèles frontaliers pour automatiser des cyberattaques. Des chercheurs ont également montré que le raisonnement sur les vulnérabilités de type Mythos peut être reproduit avec des systèmes à poids ouverts.

UN RUBAN D’APPROBATION PLUTÔT QU’UN VRAI TEST

Ferren souligne que même si les entreprises d’IA acceptent volontairement de se soumettre à des tests, elles pourraient être motivées financièrement à chercher un « sceau d’approbation » plutôt qu’à travailler avec le gouvernement pour tester pleinement les capacités frontalières connues.

« Il sera probablement difficile de développer des modèles incapables de piratage malveillant tout en restant commercialement attrayants », estime Ferren.

CE QUE L’ORDRE EXÉCUTIF AURAIT PU FAIRE (ET QUI MANQUE)

Nguyen suggère que l’ordre exécutif prend les mesures nécessaires pour créer un « benchmarking cyber classé, une évaluation volontaire avant la sortie et un scanning coordonné des vulnérabilités » qui « la communauté de la sécurité nationale aura besoin pendant des décennies » pour « évaluer en continu des systèmes qui sont probabilistes plutôt que déterministes, autonomes plutôt que dirigés, et dont les capacités changent à chaque mise à jour. »

Mais les tests de sécurité devront évoluer aussi vite que la technologie, prévient Nguyen, sinon on risque d’évaluer les modèles émergents en fonction des « risques d’hier ».

L’ULTIME DÉFI : UNE COLLABORATION HONNÊTE ENTRE EXPERTS

C’est pourquoi, au cœur du processus, tout dépendra d’un échange honnête entre les parties prenantes dotées d’une expertise technique approfondie et d’informations confidentielles en matière de sécurité nationale. C’est la seule façon de s’assurer que les États-Unis concentrent leurs efforts sur la protection du public contre les risques d’IA les plus crédibles et les plus importants, plutôt que de se contenter de fournir des « garanties rassurantes » purement symboliques, écrit Nguyen.