100 millions de dollars pour sécuriser l'IA : la ruée vers l'or des agents autonomes

LA RUÉE VERS L'OR DES AGENTS AUTONOMES

Il y a trois ans, personne ne savait vraiment si les menaces contre l'intelligence artificielle étaient assez réelles pour justifier un marché. Aujourd'hui, la situation a radicalement changé. Les entreprises se précipitent pour sécuriser non seulement leurs agents autonomes, mais aussi tous les Outils et modules complémentaires qu'ils utilisent. Les attaques contre ces systèmes existent-elles en grand nombre ? Les médias n'en parlent pas encore beaucoup, mais le risque que ces agents déraillent une fois déployés en production est bien réel.

UN MARCHÉ QUI EXPLOSE EN 2026

Cette prise de conscience a fait exploser le marché des outils de sécurité dédiés à l'IA. Selon Gartner, les entreprises dépenseront cette année 2,83 milliards de dollars pour sécuriser leurs outils d'intelligence artificielle, soit 83 % de plus qu'en 2025. Et cette somme devrait atteindre près de 4,78 milliards de dollars l'année prochaine. Ces chiffres montrent à quel point les entreprises prennent au sérieux la protection de leurs systèmes d'IA.

HIDDENLAYER PROFITE DE L'ENGOUEMENT

HiddenLayer, une startup spécialisée dans la protection des modèles d'IA, des agents autonomes et des flux de travail contre les attaques adverses, les vulnérabilités et les injections de code malveillant, a su tirer profit de cette tendance. Son PDG et cofondateur, Chris Sestito, révèle que ses revenus annuels récurrents ont été multipliés par plus de dix au cours de l'année écoulée. Il n'a pas donné de chiffre exact, mais précise que ces revenus se situent désormais dans les « dizaines de millions » de dollars. Plus de 90 % de cette croissance provient de nouveaux clients signés au cours de l'année passée.

Les deux principaux secteurs d'activité de l'entreprise sont les services financiers et les grandes entreprises technologiques qui développent des produits d'IA. Elle travaille également avec le Département de la Défense américain et la communauté du renseignement. Parmi ses clients figure apparemment un « fournisseur leader de modèles de pointe » comptant « plus de 700 millions d'utilisateurs hebdomadaires », ce qui ressemble fortement à OpenAI ou Anthropic.

UNE LEVÉE DE FONDS DE 100 MILLIONS DE DOLLARS

Pour capitaliser sur cette dynamique, HiddenLayer vient de lever 100 millions de dollars lors d'un tour de financement de série B. Ce tour a été mené par Delta-v Capital, avec la participation de Ten Eleven Ventures, Ten Eleven Ventures, Morgan Stanley, M12 (le fonds d'investissement de Microsoft), Booz Allen Hamilton et d'autres investisseurs. Cette levée de fonds permettra à l'entreprise d'accélérer son expansion, notamment en Europe et au Moyen-Orient.

DE LA SÉCURITÉ TRADITIONNELLE À L'IA : UNE ÉVOLUTION LOGIQUE

HiddenLayer commercialise toujours les mêmes produits qu'en 2023, mais Chris Sestito explique que l'entreprise a dû étendre ses solutions existantes pour répondre à de nouvelles menaces spécifiques à l'IA. Parmi ces menaces, on trouve les injections de prompts, la manipulation des agents et l'utilisation malveillante des outils. « L'inférence reste de l'inférence, explique-t-il. Que ce soit pour un modèle d'apprentissage automatique traditionnel, une IA générative ou un flux de travail agentique, une grande partie de notre technologie s'applique toujours. Nous n'avons pas changé de direction, mais nous avons dû élargir notre champ d'action, passant des modèles traditionnels à l'IA générative, puis aux agents autonomes. »

LA SÉCURITÉ EN TEMPS RÉEL DEVIENT PRIORITAIRE

Sestito souligne que la sécurité en temps réel est devenue une priorité absolue à mesure que les déploiements d'IA se généralisent dans les entreprises. Il compare ces outils à des solutions classiques de détection et réponse des terminaux (EDR), mais spécifiquement conçus pour l'IA. Les nouveaux produits de l'entreprise reflètent cette évolution. Sestito met en garde contre une nouvelle menace : l'exploitation des modèles open source. « Nous analysons et scannons environ 50 frameworks différents de fichiers d'IA pour nous assurer, surtout dans le cas des modèles open source à poids ouverts, que l'outil avec lequel vous travaillez est bien celui que vous croyez et celui qu'il prétend être, explique-t-il. Nous vérifions par exemple si des modèles prétendent être une chose alors qu'ils en sont une autre, comme des modèles cachés à l'intérieur d'autres modèles. »

LES MODÈLES OPEN SOURCE : UNE PORTE D'ENTRÉE POUR LES ATTAQUES

HiddenLayer a développé des outils capables de détecter ces manipulations. Par exemple, l'entreprise peut identifier si un modèle prétend être un modèle de langage standard alors qu'il s'agit en réalité d'un modèle malveillant intégré. Cette capacité est cruciale, car de nombreuses entreprises utilisent des modèles open source sans toujours vérifier leur intégrité. La nouvelle levée de fonds permettra à HiddenLayer de renforcer ces capacités, tout en se concentrant davantage sur les ventes et la distribution.

LA COURSE À L'ACQUISITION OU À L'INNOVATION

Les grandes entreprises de cybersécurité comme Cisco, Palo Alto Networks et Check Point préfèrent souvent acheter des technologies existantes plutôt que de les développer en interne. Parallèlement, des startups comme Noma et Zenity ont levé chacune plus de 100 millions de dollars pour se positionner sur des segments adjacents ou chevauchants de ce marché. Cette tendance montre à quel point la sécurité de l'IA est devenue un enjeu majeur pour l'industrie.

UN AVENIR ENTRE INTÉGRATION ET GOUVERNANCE

Chris Sestito reconnaît que certaines parties des produits de sécurité d'IA proposés par son entreprise pourraient éventuellement être intégrées aux plateformes développées par des géants comme Microsoft, OpenAI ou AWS. Cependant, il estime que l'infrastructure de l'IA évoluera davantage vers des fonctionnalités de gouvernance, telles que la découverte, l'identité et les contrôles de politique, plutôt que vers des outils comme ceux développés par HiddenLayer. Pour l'instant, son objectif est clair : « Scaler verticalement aux côtés de l'intelligence artificielle », puis élargir progressivement son champ d'action à des domaines de la cybersécurité de plus en plus dépendants de l'IA.

UNE COURSE CONTRE LA MONTRE

Cette ambition est ambitieuse, mais la startup doit d'abord prouver qu'elle peut transformer son avance initiale en une entreprise durable avant que le reste de l'industrie ne la rattrape. Le marché est en pleine effervescence, et les enjeux sont colossaux : protéger des systèmes d'IA qui deviennent de plus en plus autonomes et intégrés dans notre quotidien.