Mythos, PGP, spyware : pourquoi les États échouent à contrôler l'IA et les outils cyber

UNE INTERDICTION EN 90 MINUTES POUR L'IA MYTHOS

Vendredi dernier, invoquant des préoccupations de sécurité nationale non précisées, la Maison Blanche a ordonné à Anthropic de restreindre l'exportation de ses deux modèles d'IA puissants, Fable et Mythos, à toute personne située hors des États-Unis, ainsi qu'aux ressortissants étrangers présents sur le territoire américain. En moins de 90 minutes, le géant de l'IA a coupé l'accès à ces deux modèles, désormais indisponibles pour quiconque depuis une semaine.

MYTHOS : L'IA QUI POURRAIT DÉTRUIRE INTERNET ?

Depuis son lancement en avril, Anthropic présentait Mythos comme une sorte de machine apocalyptique cyber capable de semer le chaos sur internet si elle était trop largement diffusée. Avant l'interdiction, seuls environ 150 entreprises et organisations gouvernementales dûment vérifiées y avaient accès. L'objectif affiché ? Aider les défenseurs à sécuriser leurs logiciels et services avant que des acteurs malveillants n'atteignent des capacités similaires à celles de Mythos.

DEUX ÉVÉNEMENTS QUI ONT DÉCLENCHÉ LA CRISE

Deux événements auraient déclenché cette décision. D'abord, Anthropic aurait accordé l'accès à Mythos à un opérateur télécom sud-coréen via son programme de partenaires limités. Des responsables américains se seraient alarmés après avoir identifié cette entreprise comme suspectée d'avoir des liens avec la Chine.

Par ailleurs, le PDG d'Amazon, Andy Jassy, aurait alerté l'administration après que des chercheurs d'Amazon aient, selon lui, trouvé un moyen de contourner les safeguards de Fable 5. Anthropic conteste le terme de jailbreak, qualifiant le problème de faille étroite déjà corrigée plutôt que d'un échec global des mesures de sécurité du modèle.

UNE DÉCISION QUI RAPPELLE LES GUERRES DU CHIFFREMENT

Cette affaire n'est pourtant pas nouvelle. Depuis des décennies, les gouvernements tentent d'utiliser des contrôles à l'exportation pour limiter la prolifération de ce qu'ils considèrent comme des technologies cyber dangereuses, mais leurs résultats restent mitigés, pour ne pas dire désastreux.

LES ANNÉES 1990 : LA GUERRE DU CHIFFREMENT ET PGP

L'un des plus grands échecs de cette stratégie remonte au début et au milieu des années 1990. À l'époque, des informaticiens développaient des technologies de chiffrement pour sécuriser les données lors de leur transmission sur internet. L'une de ces solutions s'appelait Pretty Good Privacy, ou PGP, un logiciel populaire capable de chiffrer des données et de les rendre virtually impossibles à déchiffrer, même si elles étaient interceptées en chemin.

Le gouvernement américain voyait dans PGP une arme dangereuse, craignant qu'il ne l'empêche d'espionner les emails circulant sur les réseaux. Pour stopper sa diffusion, le service des douanes américaines a lancé une enquête criminelle contre son créateur, Phil Zimmermann, l'accusant de violer les contrôles à l'exportation d'armes. Zimmermann a riposté en publiant le code source de PGP sous forme de livre imprimé, déclenchant ce qu'on appelle aujourd'hui les Guerres du Chiffrement.

LA VICTOIRE DE PGP ET L'ADOPTION MASSIVE DU CHIFFREMENT DE FIN À FIN

Zimmermann a finalement remporté une bataille clé lorsque l'enquête a été classée sans suite, ouvrant la voie à des algorithmes de chiffrement de bout en bout essentiels, comme celui utilisé aujourd'hui par des milliards d'utilisateurs de Signal et WhatsApp.

LES ANNÉES 2010 : LES LOGICIELS ESPIONS ET L'ÉCHEC DE WASSENAAR

Au début des années 2010, des chercheurs ont commencé à découvrir des logiciels espions fabriqués en Occident et utilisés contre des dissidents au Moyen-Orient. En réponse, plusieurs gouvernements ont accepté d'étendre l'Arrangement de Wassenaar, un traité international limitant l'exportation de logiciels et technologies à double usage, c'est-à-dire pouvant servir à la fois à des applications civiles et militaires.

L'idée était de classer les logiciels de surveillance et de piratage comme des technologies à double usage, forçant ainsi les fabricants de logiciels espions à obtenir des licences d'exportation pour vendre leurs produits à l'étranger.

LES DEUX FAIBLESSES MAJEURES DE WASSENAAR

Mais l'Arrangement de Wassenaar a toujours souffert de deux faiblesses majeures. D'abord, plusieurs pays ne respectent pas cet accord, dont Israël, qui abrite certains des plus grands fabricants de logiciels espions au monde.

Ensuite, l'application du traité dépend de la volonté des pays de l'appliquer à leurs entreprises locales. Pendant un temps, le gouvernement italien a autorisé l'une des principales entreprises de logiciels espions du pays, Hacking Team, à exporter ses Outils dans le monde entier, malgré son historique de vente de logiciels espions à des gouvernements oppressifs qui les utilisaient pour pirater des journalistes et des militants des droits de l'homme.

L'EUROPE, CHAMPIONNE DE L'EXPORTATION DE LOGICIELS ESPIONS

Depuis, d'autres pays européens ont été tout aussi laxistes avec les fabricants de logiciels espions comme l'Italie. Malgré de nombreux scandales, l'Europe, qui abrite de nombreux fabricants d'outils de piratage et de surveillance, n'a pas réussi à freiner l'exportation de logiciels espions vers des régimes autoritaires. Les critiques soulignent qu'une récente initiative renouvelée au sein des 27 États membres pour lutter contre ce problème croissant d'exportation de logiciels espions vers des États autoritaires « ne va pas assez loin ».

LES FABRICANTS DE LOGICIELS ESPIONS CHANGENT DE PAYS POUR ÉCHAPPER AUX RÈGLES

Plusieurs fabricants de logiciels espions, comme Intellexa, un consortium sanctionné de sociétés de logiciels espions, ont simplement déplacé leurs opérations dans des pays aux contrôles d'exportation plus laxistes. D'autres ont cherché à s'installer en Arabie Saoudite pour des raisons similaires.

UNE VICTOIRE PONCTUELLE : FINFISHER FERME SES PORTES

Il y a eu quelques succès. Le fabricant allemand de logiciels espions FinFisher a fermé ses portes en 2022 après une enquête de plusieurs années menée par des procureurs allemands pour avoir allegedly vendu des logiciels espions à la Turquie sans licence d'exportation. Les enquêteurs avaient précédemment découvert que le logiciel espion de FinFisher avait été déployé sur les téléphones de critiques du gouvernement turc.

ANTHROPIC FACE À L'ADMINISTRATION TRUMP : DEUX ISSUES POSSIBLES

Au moment de la rédaction de cet article, l'impasse entre Anthropic et l'administration Trump persiste. Il est raisonnable de penser que l'administration pourrait céder et lever la restriction dans l'intérêt de maintenir la compétitivité des entreprises américaines d'IA dans le monde. Une telle décision reviendrait à reconnaître implicitement que les laboratoires d'IA ailleurs, y compris en Chine, atteindront probablement des capacités similaires malgré les restrictions américaines. À l'inverse, les entreprises américaines d'IA pourraient se retrouver dans l'obligation d'obtenir l'approbation du gouvernement avant de servir des clients étrangers, ce qui alourdirait considérablement leur charge administrative et impacterait leurs bénéfices.

30 ANS D'ÉCHECS : POURQUOI LES CONTRÔLES À L'EXPORTATION NE FONCTIONNENT PAS

Au vu des expériences passées des gouvernements du monde entier avec la tentative de contrôler la diffusion des logiciels, les contrôles à l'exportation imposés par l'État sont peu susceptibles d'être la bonne approche pour empêcher les acteurs malveillants d'abuser de technologies cyber puissantes à double usage.

UNE QUESTION DE COMPÉTITIVITÉ MONDIALE

La situation actuelle entre Anthropic et l'administration américaine pourrait bien déterminer non seulement l'accès d'Anthropic aux marchés étrangers, mais aussi le règlement à suivre que les autres laboratoires d'IA devront adopter. Le résultat de ce bras de fer aura des répercussions bien au-delà des frontières américaines.

LE MODÈLE MYTHOS : UNE ARME À DOUBLE TRANCHANT

Anthropic présentait Mythos comme un outil destiné à renforcer la cybersécurité, mais son interdiction montre que les gouvernements le perçoivent comme une menace potentielle. Cette dualité illustre le dilemme des technologies cyber : elles peuvent être utilisées pour protéger ou pour attaquer. Le contrôle de leur diffusion reste un casse-tête insoluble pour les États.

L'IRONIE DE L'HISTOIRE : PGP ET MYTHOS, DEUX OUTILS AUX OBJECTIFS OPPOSÉS

Ironiquement, PGP et Mythos illustrent deux faces d'une même médaille. Le premier a été conçu pour protéger la vie privée, le second pour détecter et contrer les cyberattaques. Pourtant, tous deux ont été perçus comme des menaces par les gouvernements, déclenchant des batailles juridiques et des tentatives de contrôle. L'histoire se répète, mais les leçons ne semblent jamais être retenues.

ET MAINTENANT ? LES LABORATOIRES D'IA FACE À UN NOUVEL ÉCHEC

Alors que les États tentent de réguler l'IA avec des outils du passé, les laboratoires comme Anthropic se retrouvent pris dans un jeu de pouvoir où la sécurité nationale et la compétitivité économique s'affrontent. Le contrôle à l'exportation de l'IA pourrait bien devenir le prochain grand échec de cette stratégie, à moins que les gouvernements ne trouvent une approche plus intelligente et adaptée à l'ère numérique.