L'IA américaine sous contrôle secret : qui décide vraiment des modèles autorisés ?

UNE PLAINTE POUR TRANSPARENCE FORCÉE

Quatre agences fédérales américaines ont été attaquées en justice pour avoir refusé de révéler le cadre secret utilisé par l’administration Trump pour évaluer la sécurité des modèles d’intelligence artificielle frontière avant leur sortie publique. Une association non partisane, Protect Democracy, accuse le gouvernement de cacher des informations cruciales au public et au Congrès.

Selon la plainte, « presque aucun détail » n’a été rendu public sur ce processus d’évaluation. Personne, sauf quelques « partenaires de confiance » sélectionnés, ne sait comment fonctionne cette revue, quelles entreprises y participent, ni sur quelle base légale les responsables de Trump s’appuient pour mener ces évaluations.

UNE DÉCISION POLITIQUE AUX ENJEUX MONDIAUX

Pour l’association, cette opacité pose un problème majeur. Les décisions concernant « quels modèles d’IA sont approuvés et commercialisés pourraient être la question politique la plus importante de cette Maison-Blanche ». Pire, certaines entreprises comme OpenAI auraient déjà négocié des accords privés avec le gouvernement fédéral pour limiter la diffusion de leurs modèles les plus avancés à des partenaires préalablement validés par l’État.

La plainte exige que les responsables produisent toutes les informations demandées d’ici le 30 septembre. Cela inclut « l’architecture procédurale et contractuelle non classifiée » : le texte du cadre, les conditions de participation, l’identité des participants, ainsi que les processus et critères selon lesquels l’accès aux modèles frontaliers est accordé ou refusé. L’association demande aussi une injonction pour empêcher les responsables de cacher des documents non classifiés.

DES RISQUES DE CORRUPTION ET DE RÉTALIATIONS

Selon Protect Democracy, ce cadre secret pourrait être « corrompu ». Des responsables de l’Office of the National Cyber Director, de l’Office of Science and Technology Policy, du département du Trésor et du département du Commerce pourraient favoriser le déploiement rapide de modèles d’IA pour des entreprises soutenues par Trump. À l’inverse, l’association rappelle que Trump a déjà sanctionné une entreprise d’IA pour ses positions trop progressistes, en citant une récente décision de justice ayant jugé illégal le blacklistage d’Anthropic.

Alors que les risques liés à la cybersécurité et aux avancées de l’IA s’intensifient — l’exemple récent du piratage d’un modèle d’OpenAI sur Hugging Face en est la preuve — le public ne peut se permettre de faire aveuglément confiance à Trump pour choisir quels modèles frontaliers doivent être rigoureusement testés. Pire encore, personne ne sait si les nouvelles vulnérabilités découvertes dans le monde réel sont dues à des agences ayant échoué à mener une revue appropriée, à des tests obsolètes ou inefficaces, à des vérifications manquantes, ou à des étapes alignées sur les dernières stratégies de mitigation avancées par les experts en sécurité de l’IA.

LES POLITICIENS ACCUSENT TRUMP DE NÉGLIGENCE

Le mois dernier, le représentant américain Greg Casar (D-Va.) a accusé Trump, sur le réseau X, de « complètement échouer à nous protéger des dangers de l’IA » tout en « encaissant des millions de dollars des milliardaires de l’IA ». « Maintenant, après des problèmes de cybersécurité extrêmement dangereux liés à l’IA, il affirme avoir mis en place une revue ‘volontaire’ que personne n’a vue, a-t-il ajouté. Endormi au volant. Trop occupé à se remplir les poches pour protéger nos emplois ou notre sécurité nationale. »

Plus récemment, un autre démocrate, le sénateur de Californie Josh Becker, a demandé au tribunal d’accéder à la demande de Protect Democracy. Dans une déclaration soutenant la plainte, Becker a souligné que la Californie envisage un projet de loi, SB 813, qui établirait un processus où des organisations indépendantes fixeraient des normes de sécurité pour l’IA. Contrairement à l’approche de Trump, ce plan rendrait publics les derniers benchmarks, normes et méthodologies utilisés pour évaluer les risques posés par les systèmes d’IA.

Becker a noté que le public avait déjà influencé le projet de loi, avec une disposition retirée suite à des réactions négatives. « Contrairement à l’approche de l’administration, chaque étape du Développement de SB 813 a été publique, a-t-il écrit, soulignant que « nous sommes responsables du cadre que nous avons établi ».

UNE COURSE POUR CRÉER UN CADRE VOLONTAIRE

L’administration Trump a accéléré la mise en place de ce processus de revue de sécurité volontaire depuis que le gouvernement a classé le modèle Mythos 5 d’Anthropic comme trop dangereux pour être commercialisé plus tôt cet été. Le plan consistait à étendre rapidement les collaborations industrielles afin que les équipes gouvernementales du Center for AI Standards and Innovation puissent examiner les modèles avant leur sortie avec des garde-fous réduits ou supprimés pour « évaluer en profondeur les capacités et les risques liés à la sécurité nationale ».

Mais cette approche s’est révélée impossible sans une transparence totale des experts industriels, qui devaient expliquer précisément ce que les nouveaux modèles pouvaient faire. En juillet, la Maison-Blanche a lancé une plateforme, GOLD EAGLE, qui s’appuie sur des partenaires industriels pour aider les agences à repérer les vulnérabilités de cybersécurité dans de nombreux secteurs. Pourtant, Protect Democracy a noté que la Maison-Blanche n’a « identifié aucune entreprise participant à GOLD EAGLE, ni les conditions de leur participation, ni aucune base légale pour ce programme ».

Puis, le 3 août, la Maison-Blanche a annoncé avoir terminé le cadre volontaire pour examiner les modèles d’IA avant leur sortie publique. Le gouvernement a confirmé que ce cadre et GOLD EAGLE sont déjà utilisés pour examiner les modèles frontaliers à mesure que la technologie progresse.

DES PARTIES CLASSIFIÉES ET DES ZONES D’OMBRE

Certaines parties du processus de revue du gouvernement sont classifiées. Un décret exécutif a expliqué que Trump prévoyait de développer « un processus de benchmarking classé » pour évaluer les capacités avancées des modèles d’IA et déterminer quand ces modèles doivent être désignés comme modèles frontaliers.

Pourtant, la plainte de Protect Democracy précise que le cadre lui-même n’est pas classé. Malgré cela, la Maison-Blanche refuse de partager les détails avec le public. Un porte-parole a même déclaré aux journalistes que « le fait que des choses soient non classifiées ne signifie pas que nous allons les diffuser à tout le monde ».

Autre sujet d’inquiétude : le terme « modèle frontalier couvert » n’est pas défini, selon Protect Democracy. Si la définition est trop étroite, certains modèles d’IA dangereux pourraient passer entre les mailles du filet. Si elle est trop large, les agences récemment affaiblies par des coupes budgétaires pourraient être débordées par l’évaluation de trop de modèles en même temps. Sans plus de clarté, le public « ne peut qu’espérer que cette technologie puissante est gérée en toute sécurité et dans l’intérêt public », a dénoncé l’association.

UNE TRANSPARENCE LIMITÉE À UN PETIT CERCLE

Jusqu’à présent, le cadre n’a été partagé qu’avec « un petit groupe sélectionné d’entreprises d’IA ». Cette exclusion concerne des acteurs clés comme les groupes de sécurité de l’IA qui alertent sur les risques sociétaux émergents, ainsi que les petites ou nouvelles entreprises d’IA dont les contributions ou les revues de modèles pourraient être tout aussi critiques.

Protect Democracy, qui s’appuie régulièrement sur des demandes d’accès à l’information (FOIA) dans sa mission visant à « empêcher la démocratie américaine de décliner vers une forme plus autoritaire de gouvernement », a envoyé des demandes FOIA identiques à quatre agences américaines. L’association cherchait uniquement des informations non classifiées et demandait une accélération du traitement. Pour l’instant, aucune agence n’a produit de documents, selon la plainte. Seul le bureau du National Cyber Director a répondu, mais il a refusé d’accélérer la demande, ce que Protect Democracy conteste désormais comme étant illégal.

LE CONGRÈS ÉGALEMENT TENU À L’ÉCART

Cette opacité ne concerne pas seulement le public, les chercheurs indépendants, les groupes de défense, les investisseurs en IA et les entreprises de nombreux secteurs ayant un intérêt dans l’IA. Les législateurs ont également été empêchés d’évaluer le cadre de sécurité de l’IA de l’exécutif.

Pour Protect Democracy, cela pose un problème majeur : l’opération de sécurité de l’IA de Trump pourrait être déstabilisée si le Congrès n’est pas sur la même longueur d’onde. Actuellement, le Congrès examine s’il doit renouveler le Cybersecurity Information Sharing Act (CISA) de 2015, qui semble être la seule base légale permettant aux entreprises d’IA de partager des informations avec le gouvernement via GOLD EAGLE, selon la plainte.

Ces protections font partie d’une disposition du CISA qui a déjà expiré une fois, et le Congrès doit bientôt décider si cette disposition doit être prolongée. Il y a des désaccords entre la Chambre des représentants et le Sénat sur la date limite pour voter cette prolongation, mais la date la plus proche possible est le 30 septembre, et la plus tardive le 11 décembre.

Deana El-Mallawany, directrice des programmes d’impact et conseillère juridique chez Protect Democracy, a déclaré que « ni Protect Democracy ni le Congrès n’ont suffisamment d’informations sur le programme GOLD EAGLE pour prendre une décision pleinement éclairée sur le prolongement du CISA ». Elle a ajouté : « Notre préoccupation est que la Maison-Blanche met le Congrès dans une position où il doit voter pour prolonger le CISA sans savoir comment fonctionne le programme GOLD EAGLE, qui y participe ou quelle autorité légale est invoquée. C’est pourquoi nous demandons ces documents. »

UN RISQUE D’IMPUNITÉ POUR L’ADMINISTRATION TRUMP

Sans ces documents, l’administration Trump pourrait échapper à toute responsabilité concernant la revue de sécurité de l’IA, selon Protect Democracy. « Le Congrès ne peut pas superviser de manière significative des programmes dont les termes et l’autorité invoquée ne lui ont pas été présentés, et les tribunaux ne peuvent pas examiner des actions qu’ils ne peuvent pas identifier », a souligné la plainte.

El-Mallawany a expliqué que si Protect Democracy obtient l’accès au cadre, tous les documents seront rendus publics. Sans plus de transparence, la liste des préoccupations que l’association a concernant la capacité potentielle de la Maison-Blanche à exploiter ce cadre secret sur l’industrie de l’IA est longue. Elle a ajouté :

LA CALIFORNIE PROPOSE UNE ALTERNATIVE TRANSPARENTE

Le sénateur de Californie Josh Becker a souligné que son État envisage un projet de loi, SB 813, qui établirait un processus où des organisations indépendantes fixeraient des normes de sécurité pour l’IA. Contrairement à l’approche de Trump, ce plan rendrait publics les derniers benchmarks, normes et méthodologies utilisés pour évaluer les risques posés par les systèmes d’IA. Becker a noté que le public avait déjà influencé le projet de loi, avec une disposition retirée suite à des réactions négatives.

« Contrairement à l’approche de l’administration, chaque étape du développement de SB 813 a été publique, a-t-il écrit, soulignant que « nous sommes responsables du cadre que nous avons établi ».

UNE PLATEFORME POUR DÉTECTER LES VULNÉRABILITÉS

En juillet, la Maison-Blanche a lancé une plateforme appelée GOLD EAGLE, qui s’appuie sur des partenaires industriels pour aider les agences à repérer les vulnérabilités de cybersécurité dans de nombreux secteurs. Pourtant, Protect Democracy a noté que la Maison-Blanche n’a « identifié aucune entreprise participant à GOLD EAGLE, ni les conditions de leur participation, ni aucune base légale pour ce programme ».

Le 3 août, la Maison-Blanche a annoncé avoir terminé le cadre volontaire pour examiner les modèles d’IA avant leur sortie publique. Le gouvernement a confirmé que ce cadre et GOLD EAGLE sont déjà utilisés pour examiner les modèles frontaliers à mesure que la technologie progresse.

UNE DÉFINITION FLOUE QUI FAIT CRÂNER

Protect Democracy a souligné que le terme « modèle frontalier couvert » n’est pas défini. Si la définition est trop étroite, certains modèles d’IA dangereux pourraient passer entre les mailles du filet. Si elle est trop large, les agences récemment affaiblies par des coupes budgétaires pourraient être débordées par l’évaluation de trop de modèles en même temps. Sans plus de clarté, le public « ne peut qu’espérer que cette technologie puissante est gérée en toute sécurité et dans l’intérêt public », a dénoncé l’association.

DES DEMANDES D’INFORMATION BLOQUÉES

Protect Democracy, qui s’appuie régulièrement sur des demandes d’accès à l’information (FOIA) dans sa mission visant à « empêcher la démocratie américaine de décliner vers une forme plus autoritaire de gouvernement », a envoyé des demandes FOIA identiques à quatre agences américaines. L’association cherchait uniquement des informations non classifiées et demandait une accélération du traitement. Pour l’instant, aucune agence n’a produit de documents, selon la plainte. Seul le bureau du National Cyber Director a répondu, mais il a refusé d’accélérer la demande, ce que Protect Democracy conteste désormais comme étant illégal.

UN CONFLIT ENTRE L’EXÉCUTIF ET LE CONGRÈS

Cette opacité ne concerne pas seulement le public, les chercheurs indépendants, les groupes de défense, les investisseurs en IA et les entreprises de nombreux secteurs ayant un intérêt dans l’IA. Les législateurs ont également été empêchés d’évaluer le cadre de sécurité de l’IA de l’exécutif.

Pour Protect Democracy, cela pose un problème majeur : l’opération de sécurité de l’IA de Trump pourrait être déstabilisée si le Congrès n’est pas sur la même longueur d’onde. Actuellement, le Congrès examine s’il doit renouveler le Cybersecurity Information Sharing Act (CISA) de 2015, qui semble être la seule base légale permettant aux entreprises d’IA de partager des informations avec le gouvernement via GOLD EAGLE, selon la plainte.

Ces protections font partie d’une disposition du CISA qui a déjà expiré une fois, et le Congrès doit bientôt décider si cette disposition doit être prolongée. Il y a des désaccords entre la Chambre des représentants et le Sénat sur la date limite pour voter cette prolongation, mais la date la plus proche possible est le 30 septembre, et la plus tardive le 11 décembre.

LES RISQUES D’UNE GOUVERNANCE SECRÈTE

Deana El-Mallawany, directrice des programmes d’impact et conseillère juridique chez Protect Democracy, a déclaré que « ni Protect Democracy ni le Congrès n’ont suffisamment d’informations sur le programme GOLD EAGLE pour prendre une décision pleinement éclairée sur le prolongement du CISA ». Elle a ajouté : « Notre préoccupation est que la Maison-Blanche met le Congrès dans une position où il doit voter pour prolonger le CISA sans savoir comment fonctionne le programme GOLD EAGLE, qui y participe ou quelle autorité légale est invoquée. C’est pourquoi nous demandons ces documents. »

Sans ces documents, l’administration Trump pourrait échapper à toute responsabilité concernant la revue de sécurité de l’IA, selon Protect Democracy. « Le Congrès ne peut pas superviser de manière significative des programmes dont les termes et l’autorité invoquée ne lui ont pas été présentés, et les tribunaux ne peuvent pas examiner des actions qu’ils ne peuvent pas identifier », a souligné la plainte.

CE QUE PROTECT DEMOCRACY VEUT RÉVÉLER

Si Protect Democracy obtient l’accès au cadre, tous les documents seront rendus publics. Sans plus de transparence, la liste des préoccupations que l’association a concernant la capacité potentielle de la Maison-Blanche à exploiter ce cadre secret sur l’industrie de l’IA est longue. Elle a ajouté :

UNE COURSE CONTRE LA MONTRE

La plainte exige que les responsables produisent toutes les informations demandées d’ici le 30 septembre. Cela inclut « l’architecture procédurale et contractuelle non classifiée » : le texte du cadre, les conditions de participation, l’identité des participants, ainsi que les processus et critères selon lesquels l’accès aux modèles frontaliers est accordé ou refusé. L’association demande aussi une injonction pour empêcher les responsables de cacher des documents non classifiés.

Pour l’instant, aucune agence n’a produit de documents, selon la plainte. Seul le bureau du National Cyber Director a répondu, mais il a refusé d’accélérer la demande, ce que Protect Democracy conteste désormais comme étant illégal.

UNE ALTERNATIVE DÉMOCRATIQUE EN CALIFORNIE

Le sénateur de Californie Josh Becker a souligné que son État envisage un projet de loi, SB 813, qui établirait un processus où des organisations indépendantes fixeraient des normes de sécurité pour l’IA. Contrairement à l’approche de Trump, ce plan rendrait publics les derniers benchmarks, normes et méthodologies utilisés pour évaluer les risques posés par les systèmes d’IA. Becker a noté que le public avait déjà influencé le projet de loi, avec une disposition retirée suite à des réactions négatives.

« Contrairement à l’approche de l’administration, chaque étape du développement de SB 813 a été publique, a-t-il écrit, soulignant que « nous sommes responsables du cadre que nous avons établi ».

LE DÉCRET EXÉCUTIF QUI DONNE LE TON

Certaines parties du processus de revue du gouvernement sont classifiées. Un décret exécutif a expliqué que Trump prévoyait de développer « un processus de benchmarking classé » pour évaluer les capacités avancées des modèles d’IA et déterminer quand ces modèles doivent être désignés comme modèles frontaliers.

Pourtant, la plainte de Protect Democracy précise que le cadre lui-même n’est pas classé. Malgré cela, la Maison-Blanche refuse de partager les détails avec le public. Un porte-parole a même déclaré aux journalistes que « le fait que des choses soient non classifiées ne signifie pas que nous allons les diffuser à tout le monde ».

UNE TRANSPARENCE QUI FAIT DÉFAUT

Jusqu’à présent, le cadre n’a été partagé qu’avec « un petit groupe sélectionné d’entreprises d’IA ». Cette exclusion concerne des acteurs clés comme les groupes de sécurité de l’IA qui alertent sur les risques sociétaux émergents, ainsi que les petites ou nouvelles entreprises d’IA dont les contributions ou les revues de modèles pourraient être tout aussi critiques.

Protect Democracy, qui s’appuie régulièrement sur des demandes d’accès à l’information (FOIA) dans sa mission visant à « empêcher la démocratie américaine de décliner vers une forme plus autoritaire de gouvernement », a envoyé des demandes FOIA identiques à quatre agences américaines. L’association cherchait uniquement des informations non classifiées et demandait une accélération du traitement. Pour l’instant, aucune agence n’a produit de documents, selon la plainte. Seul le bureau du National Cyber Director a répondu, mais il a refusé d’accélérer la demande, ce que Protect Democracy conteste désormais comme étant illégal.

CE QUE L’AVENIR NOUS RÉSERVE

Sans ces documents, l’administration Trump pourrait échapper à toute responsabilité concernant la revue de sécurité de l’IA, selon Protect Democracy. « Le Congrès ne peut pas superviser de manière significative des programmes dont les termes et l’autorité invoquée ne lui ont pas été présentés, et les tribunaux ne peuvent pas examiner des actions qu’ils ne peuvent pas identifier », a souligné la plainte.

El-Mallawany a expliqué que si Protect Democracy obtient l’accès au cadre, tous les documents seront rendus publics. Sans plus de transparence, la liste des préoccupations que l’association a concernant la capacité potentielle de la Maison-Blanche à exploiter ce cadre secret sur l’industrie de l’IA est longue.