Google et l'IA : quand la sécurité devient une course contre la machine

UNE TRANSITION QUI DÉRANGE TOUT LE MONDE

Nous vivons une période de transition, et personne n’y échappe, pas même les géants comme Google. Francis de Souza, directeur des opérations de Google Cloud, l’a rappelé récemment : « Il y aura une période de transition, puis nous atteindrons un meilleur équilibre. » Mais cette transition, personne ne l’a vraiment anticipée. Même les experts en sécurité peinent à suivre le rythme imposé par l’intelligence artificielle.

LA SÉCURITÉ NE S’IMPROVISE PAS, ELLE SE PLANIFIE

De Souza martèle un message simple : la sécurité ne peut plus être une réflexion après coup. « Les entreprises qui se lancent dans l’IA doivent adopter une approche globale », explique-t-il. « La sécurité ne s’ajoute pas après coup, et elle ne peut pas être laissée à la discrétion des employés. » Selon lui, le vrai danger vient du shadow AI : des employés qui utilisent des outils grand public sans contrôle de l’entreprise. Pour éviter les catastrophes, il faut exiger dès le départ des plateformes qu’elles garantissent sécurité, gouvernance et traçabilité. « On ne peut pas avoir une stratégie IA sans une stratégie de données et une stratégie de sécurité. Elles doivent aller de pair. »

LE PAYSAGE DES MENACES A CHANGÉ DE FONDE EN COMBLE

Les anciennes méthodes de défense sont devenues obsolètes. Le temps entre une première faille et la propagation d’une attaque est passé de huit heures à seulement 22 secondes. L’empreinte de sécurité s’est étendue bien au-delà du réseau traditionnel. « Outre votre infrastructure habituelle, vous avez maintenant des modèles d’IA, des pipelines de données pour les entraîner, des agents et des prompts. Tout cela doit être protégé. » De Souza met en garde contre un risque souvent sous-estimé : les agents IA qui explorent les systèmes internes peuvent découvrir des dépôts de données oubliés depuis des années. « Beaucoup d’organisations ont des serveurs SharePoint obsolètes qu’elles n’ont pas mis à jour, mais ça ne posait pas de problème… jusqu’à ce que les agents IA les trouvent et exposent les données. »

LA DÉFENSE DOIT ALLER À LA VITESSE DE LA MACHINE

Pour contrer ces menaces, il faut des défenses à la hauteur de la vitesse de l’IA. De Souza évoque l’émergence d’une défense native en IA, où des agents autonomes prennent en charge la protection des systèmes. « Au lieu d’une défense menée par des humains ou avec une intervention humaine, on peut désormais avoir des humains qui supervisent une défense entièrement automatisée. » Mais ce changement ne concerne pas seulement la technologie : c’est aussi une question de leadership. « C’est un enjeu pour les conseils d’administration et les équipes dirigeantes. Ce n’est pas seulement l’affaire des équipes de sécurité. »

LE BUG-APOCALYPSE : UNE MENACE BIEN RÉELLE

Malgré l’automatisation, les failles introduites par l’IA se multiplient plus vite que les équipes de sécurité ne peuvent les traiter. Lea Kissner, directrice de la sécurité de l’information chez LinkedIn, résume la situation avec une image frappante : « Nous allons avoir besoin de gens pour faire face au bug-apocalypse. » Elle estime que l’industrie ne maîtrisera pas la sécurité de l’IA de manière durable avant plusieurs années. Le problème ? Les plateformes elles-mêmes peinent à s’adapter au rythme imposé par l’IA.

LES FACTURES EXPLOSIVES DE GOOGLE CLOUD

Un exemple concret de ces lacunes : des développeurs utilisant Google Cloud ont reçu des factures dépassant les 10 000 dollars après des appels non autorisés à des modèles Gemini. Ces cas suivent un scénario récurrent : des clés API initialement utilisées pour Google Maps, rendues publiques comme le recommandait Google, ont soudainement pu accéder à Gemini après que Google a étendu leurs permissions sans avertissement clair.

DEUX CAS QUI FONT FRÉMIR

Rod Danan, PDG de la plateforme de préparation aux entretiens Prentus, a vu sa facture atteindre 10 138 dollars en 30 minutes après qu’un pirate a exploité sa clé API compromise. Isuru Fonseka, un développeur basé à Sydney, s’est réveillé avec une charge de 17 000 dollars australiens, alors qu’il croyait avoir une limite de dépenses de 250 dollars. Aucun des deux ne savait que Google avait automatiquement augmenté leurs plafonds de facturation jusqu’à 100 000 dollars, sans leur consentement explicite. Google a remboursé les deux après la publication du rapport initial par The Register, mais a précisé qu’il n’avait pas l’intention de modifier sa politique de mise à niveau automatique des plafonds. « Nous privilégions la prévention des interruptions de service plutôt que le respect strict des budgets déclarés par les utilisateurs. »

LA SUPPRESSION D’UNE CLÉ API NE SUFFIT PAS TOUJOURS

Mais le problème ne s’arrête pas là. Une étude récente de la société de sécurité Aikido révèle que même après la suppression d’une clé API compromise, les pirates peuvent continuer à l’utiliser pendant 23 minutes. La révocation des droits ne se propage pas instantanément dans l’infrastructure de Google. Joseph Leon, chercheur chez Aikido, explique que pendant cette fenêtre, les taux de réussite des attaques restent imprévisibles : « Dans certains cas, plus de 90 % des requêtes sont encore authentifiées. » Les pirates en profitent pour exfiltrer des fichiers et des données de conversation en cache depuis Gemini. Leon précise que les nouveaux formats de clés d’identification de Google ne présentent pas ce problème : les identifiants de compte de service sont révoqués en cinq secondes, et les clés au format AQ de Gemini mettent environ une minute. « Les deux fonctionnent à l’échelle de Google. Cela prouve que le problème n’est pas technique, mais une question de priorités. »

GOOGLE SAIT RÉSOUDRE LE PROBLÈME… MAIS NE LE FAIT PAS

Ces révélations posent une question cruciale : pourquoi Google ne corrige-t-il pas ces failles, alors qu’il en a la capacité technique ? Les solutions existent, comme le prouvent les nouveaux formats de clés. Mais le géant semble privilégier la continuité du service plutôt que la sécurité des utilisateurs. De Souza, lui, donne des conseils avisés, mais il y a un écart entre ce que les plateformes recommandent et ce qu’elles appliquent réellement. Il est essentiel d’en être conscient.

LA SÉCURITÉ IA : UN ENJEU POUR TOUS

Les entreprises doivent désormais considérer la sécurité de l’IA comme une priorité absolue. Les outils grand public ne suffisent plus, et les solutions internes doivent être repensées en profondeur. « La sécurité ne peut plus être une réflexion après coup », rappelle De Souza. Les plateformes comme Google Cloud doivent évoluer rapidement pour protéger leurs utilisateurs, sous peine de voir leurs clients payer le prix fort.

CE QU’IL FAUT RETENIR

La transition vers l’IA impose une refonte totale des stratégies de sécurité. Les entreprises doivent :

• Intégrer la sécurité dès la conception des projets IA, sans attendre.
• Éviter le shadow AI en contrôlant strictement les outils utilisés par les employés.
• Privilégier des plateformes offrant une sécurité cohérente sur tous les clouds et modèles.
• Rester vigilant face aux failles introduites par l’IA, qui se multiplient à un rythme effréné.

Google, malgré ses moyens, illustre les défis auxquels toutes les entreprises sont confrontées. La sécurité IA n’est plus une option, mais une nécessité vitale.

UN AVENIR ENCORE INCERTAIN

Pour l’instant, l’industrie peine à suivre le rythme imposé par l’IA. Les experts estiment qu’il faudra plusieurs années avant que la sécurité de l’IA ne soit maîtrisée de manière durable. En attendant, les entreprises doivent redoubler de prudence et exiger des garanties de la part des plateformes qu’elles utilisent. La transition est en marche, mais elle est loin d’être terminée.

LE MESSAGE DE DE SOUZA : À PRENDRE AU SÉRIEUX

Les conseils de De Souza sont solides et doivent être pris très au sérieux. Il a raison sur le fond : la sécurité ne peut plus être une réflexion après coup. Mais il y a un fossé entre les recommandations des plateformes et leur capacité réelle à les appliquer. Il est crucial d’en être conscient pour éviter les mauvaises surprises.