L'IA va-t-elle sauver Internet des cybercriminels ? La course contre la montre a commencé

UNE NOUVELLE ÈRE POUR LA CYBERSÉCURITÉ

L’incident OpenAI-Hugging Face a marqué un tournant dans l’histoire de la cybersécurité. Pour la première fois, des attaquants ont utilisé une intelligence artificielle pour infiltrer non seulement les infrastructures de Recherche d’OpenAI, mais aussi celles d’une autre entreprise. En enchaînant des failles de sécurité inconnues jusqu’alors, des identifiants volés et des comptes utilisateurs compromis, ils ont démontré que les menaces évoluent à une vitesse inédite.

Les organisations le savent désormais : il faut repenser en urgence leurs pratiques de sécurité. Les modèles d’IA, capables d’automatiser une partie des attaques, révèlent aussi des failles qui existaient depuis des années dans les systèmes. Mais l’IA offre aussi aux défenseurs des armes pour les détecter et les corriger. Le tout, c’est d’agir avant que les attaquants ne passent à l’offensive.

L’IA : UNE MENACE QUI S’ACCÉLÈRE

Dans cet incident, une collectif d’agents autonomes a réussi à pénétrer des infrastructures critiques. Les attaquants ont enchaîné des vulnérabilités variées : des failles inconnues, des identifiants volés, des permissions oubliées. Ce qui était autrefois l’apanage des hackers les plus expérimentés devient accessible à des outils pilotés par l’IA.

Les modèles d’IA capables de cyberattaques sont désormais accessibles à presque tout le monde. Depuis le début de l’année, plusieurs entreprises ont publié des modèles ouverts avec des capacités cyber seulement quelques mois derrière les plus avancés. Le prochain modèle, prévu pour fin août, pourrait bouleverser encore plus le paysage des menaces.

L’IA PEUT-ELLE SAUVER LA CYBERSÉCURITÉ ?

Face à cette montée en puissance des attaquants, l’IA représente aussi une opportunité pour les défenseurs. Elle permet de détecter, prioriser et corriger les failles plus rapidement que jamais. La cybersécurité reste un jeu du chat et de la souris, mais l’IA pourrait changer les règles du jeu en faveur des défenseurs.

OpenAI a commencé à entraîner ses modèles pour écrire du code exceptionnellement sécurisé. Ces outils excellent aussi dans les preuves mathématiques, une compétence clé pour vérifier formellement la sécurité des logiciels. Une tâche que les humains peinent à accomplir de manière exhaustive.

UN TEST RÉVÉLATEUR : CHATGPT WORK S’ATTAQUE À UN SITE WEB

Après l’incident OpenAI-Hugging Face, une équipe a demandé à ChatGPT Work (basé sur GPT-5.6 Sol) d’analyser la sécurité du site gregbrockman.com. Un site statique simple, hébergé sur AWS avec Cloudflare en frontal. Résultat : en seulement 15 minutes, l’outil a identifié 13 problèmes.

Parmi ces failles : des enregistrements DNS mal configurés permettant l’usurpation d’emails, une version obsolète de jQuery, ou encore des requêtes transférées en clair entre Cloudflare et AWS. Certaines vulnérabilités n’étaient pas exploitables seules, mais pouvaient être combinées pour créer des attaques plus puissantes.

L’IA COMME CYBERGARDIEN : CORRIGER LES FAILLES AUTOMATIQUEMENT

ChatGPT Work n’a pas seulement repéré les problèmes : il les a corrigés. En une heure, l’outil a ouvert le panneau de contrôle de Cloudflare, reconfiguré les paramètres DNS, activé TLS, supprimé jQuery, migré le site vers Cloudflare Pages, et lancé un déploiement progressif de DMARC. Tout cela, sans intervention humaine.

Ce test montre comment l’IA peut agir comme un cybergardien, identifiant et corrigeant des failles que les humains n’auraient pas le temps ou l’expertise d’analyser. Beaucoup de ces réglages étaient familiers à l’utilisateur, mais il ne savait pas comment les appliquer correctement.

OPENAI RENFORCE SES PROPRES DÉFENSES

L’incident a révélé que les capacités cyber des modèles d’IA étaient sous-estimées. OpenAI a donc renforcé ses exigences en matière de sécurité. Ces ajustements ont aussi accru l’urgence de ses recherches internes et de ses travaux sur la sécurité.

L’entreprise partage ici sa stratégie pour sécuriser ses propres infrastructures. Quatre piliers principaux structurent cette approche, conçue pour transformer la cybersécurité en profondeur.

PILIER 1 : UTILISER L’IA POUR SÉCURISER LE CODE

OpenAI utilise ses modèles pour sécuriser son propre code. Codex, incluant un plugin de sécurité, valide les modifications de code, identifie les vulnérabilités et aide les développeurs à corriger les problèmes avant le déploiement. L’objectif n’est pas de produire plus de rapports de sécurité nécessitant une validation humaine, mais de capturer les vraies vulnérabilités avant qu’elles n’atteignent les utilisateurs.

En formant ses modèles à produire du code de plus en plus sécurisé, OpenAI vise à éliminer certaines classes de vulnérabilités dans le code nouvellement écrit. Une avancée majeure pour réduire les failles dès leur conception.

PILIER 2 : DÉFENDRE L’INFRASTRUCTURE EN CONTINU

Presque toutes les alertes de sécurité initiales d’OpenAI sont aujourd’hui triées par intelligence artificielle avant qu’un humain n’intervienne. Cette automatisation réduit la charge de travail des équipes, améliore les temps de réponse et permet aux experts humains de se concentrer sur les décisions à fort impact.

L’entreprise connecte de plus en plus ces détections à des réponses automatisées limitées, tout en gardant les humains responsables des décisions les plus critiques. L’objectif : détecter et répondre aux incidents de sécurité à la vitesse de la machine.

PILIER 3 : IDENTIFIER LES CHEMINS D’ATTAQUE AVANT LES PIRATES

OpenAI utilise l’intelligence de pointe pour énumérer en continu, tester et identifier les chemins d’attaque potentiels. En repérant les vulnérabilités, les mauvaises configurations, les identités sur-privilégiées ou les frontières de confiance involontaires, l’entreprise peut fermer ces brèches avant qu’elles ne soient exploitées.

Cette approche permet d’évaluer en permanence la sécurité des produits, infrastructures et systèmes. Elle garantit que les propriétés de sécurité considérées comme vraies (les invariants de sécurité) sont bien respectées.

PILIER 4 : INVESTIR DANS LES FONDAMENTAUX À GRANDE ÉCHELLE

OpenAI continue d’investir massivement dans l’architecture sécurisée et les contrôles de base. L’entreprise adopte des stratégies comme la défense en profondeur et le principe du moindre privilège. Elle conçoit des systèmes où plusieurs contrôles indépendants doivent échouer simultanément pour qu’un incident catastrophique se produise.

Les classiques contrôles de sécurité — isolation réseau, durcissement des charges de travail, surveillance, correctifs sécurisés — deviennent plus importants que jamais dans un avenir dominé par l’IA. Ces bases restent la clé pour résister aux attaques futures.

AGIR MAINTENANT : LES ÉTAPES CONCRÈTES POUR LES ENTREPRISES

Le temps presse. Les organisations doivent mettre en œuvre les étapes suivantes à un rythme accéléré. OpenAI mentionne ses propres technologies, mais de nombreux concurrents existent dans l’écosystème. L’essentiel n’est pas l’outil spécifique, mais de donner aux défenseurs des capacités IA capables dès aujourd’hui.

Aucune entreprise ne peut relever ce défi seule. OpenAI appelle les laboratoires d’IA, les fournisseurs de sécurité, les grandes entreprises et les mainteneurs à partager leurs découvertes validées, leurs correctifs et leurs guides pratiques. Une découverte faite par une organisation doit renforcer l’ensemble de l’écosystème.

LA COURSE EST LANCÉE : LES OUTILS ET PRATIQUES À DÉFINIR

Les mois à venir seront décisifs. Chaque organisation devra automatiser significativement son programme de sécurité pour rester protégée. La communauté de la cybersécurité doit urgemment définir les outils, pratiques et guides qui permettront aux défenseurs de gagner en puissance plus vite que les attaquants, à mesure que l’IA progresse.

Cela exigera un effort massif et sans précédent. Mais si tout le monde se mobilise, le monde pourrait devenir plus sécurisé que jamais auparavant. Une ambition réalisable, à condition d’agir ensemble, sans délai.