L'IA qui pirate ? Les nouveaux modèles dangereux arrivent, et personne ne peut les arrêter

LES MODÈLES D'ANTHROPIC INTERDITS AUX ÉTRANGERS

La semaine dernière, Anthropic a été obligée de retirer ses nouveaux modèles d'IA Claude Fable 5 et Mythos 5 après une décision du gouvernement américain. Cette directive interdit à tout étranger d'utiliser ces services. Depuis vendredi, l'entreprise discute avec la Maison Blanche, mais aucune solution n'a encore été trouvée pour les remettre en ligne.

MYTHOS 5 : UN OUTIL À DEUX TRANCHES

Depuis son lancement en avril, Mythos 5 est présenté comme un modèle révolutionnaire. Il peut repérer des failles dans les logiciels pour aider les experts en cybersécurité à les corriger. Mais il peut aussi, en théorie, montrer comment exploiter ces mêmes failles. Anthropic l'a d'ailleurs reconnu dans un communiqué : "La plupart des usages avancés de l'IA sont à double tranchant". Ce qui est utile pour un chercheur en biologie ou un expert en sécurité peut servir à un pirate.

DEUX VERSIONS POUR DEUX PUBLICS

Pour limiter les risques, Anthropic a d'abord sorti une version test appelée Mythos Preview. Elle a été réservée à un petit groupe d'experts dans le cadre d'un projet nommé Project Glasswing. La semaine dernière, Mythos 5 a été distribué à ce même groupe. Quant à Claude Fable 5, un modèle aussi puissant que Mythos, il a été lancé pour le grand public. Mais avec une restriction majeure : il ne peut pas répondre à des questions sur la biologie ou la cybersécurité.

UNE INTERDICTION QUI NE CHANGE RIEN

Le problème ? L'administration Trump a décidé de bloquer ces deux modèles. La raison ? Elle craint que les garde-fous de Claude Fable 5 ne soient contournés, permettant ainsi d'accéder à toutes les capacités de Mythos 5. Pour le gouvernement, c'est une menace pour la sécurité nationale.

D'AUTRES ENTREPRISES ONT DÉJÀ LES MÊMES CAPACITÉS

Les experts sont unanimes : cette décision ne fait que retarder l'inévitable. Anthropic n'est pas la seule entreprise à développer ce type d'outils. D'autres sociétés, peut-être même des développeurs open source, possèdent déjà des modèles aussi puissants que Mythos 5. Elles attendent simplement de voir comment les régulations évoluent avant de les déployer.

Tarah Wheeler, responsable de la sécurité chez TPO Group, résume bien la situation : "C'est une erreur de croire qu'aucun concurrent ne peut développer des capacités similaires". Elle ajoute que d'autres entreprises, déjà très avancées, gardent leurs outils en réserve.

LE MESSAGE D'ANTHROPIC : PRÉPAREZ-VOUS

Logan Graham, responsable de l'équipe rouge chez Anthropic, avait prévenu dès avril : "Ce n'est pas une question de modèle ou d'entreprise. Il faut se préparer à un monde où ces capacités seront accessibles dans 6, 12 ou 24 mois". Même OpenAI a sorti en avril un modèle privé axé sur la cybersécurité et annoncé une stratégie élargie dans ce domaine.

LES MODÈLES EXISTANTS PEUVENT DÉJÀ FAIRE LA MÊME CHOSE

Les chercheurs soulignent un autre point : même avant cette nouvelle génération de modèles, les outils d'IA actuels peuvent déjà être utilisés pour traquer les failles et développer des exploits. Un groupe de leaders en cybersécurité a d'ailleurs écrit une lettre ouverte à l'administration dimanche pour dénoncer cette directive. Selon eux, elle est malavisée.

Bruce Schneier, chercheur à Harvard et à l'Université de Toronto, explique : "Ce n'est pas un seul modèle, mais une tendance générale. Des modèles plus petits, moins chers et open source peuvent, avec des techniques de prompting avancées, égaler les performances de Mythos ou Fable". Il ajoute que d'autres modèles devraient bientôt égaler leur créativité et leur persévérance, même pour les modèles open source.

LA VRAIE QUESTION : COMMENT RÉPONDRE À CES CAPACITÉS ?

Les gouvernements du monde entier doivent, selon les experts, se concentrer sur un point : élaborer des plans transparents et démocratiques pour gérer l'évolution de ces capacités en cybersécurité et dans d'autres domaines sensibles. Chris Wysopal, cofondateur de la société de sécurité cloud Veracode, résume le débat : "La question n'est pas de savoir si une technologie comporte des risques, mais si une restriction spécifique réduit vraiment ces risques ou si elle ralentit surtout ceux qui essaient de rendre les systèmes plus sûrs".

UNE COURSE CONTRE LA MONTRE

Les gouvernements veulent contrôler ces outils, mais les entreprises et les développeurs avancent à toute vitesse. Mythos 5 et Claude Fable 5 ne sont que la partie émergée de l'iceberg. D'autres modèles, peut-être déjà opérationnels, pourraient bientôt tomber entre les mains de pirates… ou de ceux qui veulent les arrêter. La vraie bataille ne fait que commencer.