NVIDIA et 120 géants lancent une alliance pour sécuriser l'IA : déjà en action.

UNE ALLIANCE QUI DÉMARRE À TOUTE VITESSE

L’Open Secure AI Alliance (OSAA), un groupe industriel mené par NVIDIA, existe depuis seulement une semaine et compte déjà plus de 120 entreprises membres. Dès ses débuts, il a créé un groupe de travail nommé Shared AI Findings Exchange, ou SAFE. Ce dernier propose déjà des lignes directrices en consultation ouverte, gérées par la Linux Foundation, elle-même membre de l’alliance.

DES PROPOSITIONS SIMPLES MAIS UTILES POUR L’IA

Pour l’instant, les propositions ne révolutionnent pas le monde, mais elles sont pratiques. Elles expliquent comment signaler discrètement les incidents de cybersécurité liés à l’IA, alerter les personnes concernées, puis analyser ces incidents sans accuser personne. L’objectif ? Permettre à tous d’apprendre de ces erreurs sans se faire pointer du doigt.

UNE COLLABORATION QUI S’ORGANISE EN DIRECT

Ces propositions ont été élaborées lors d’une réunion des membres au cœur du monde de la cybersécurité : la conférence Black Hat, qui se tient cette semaine à Las Vegas.

L’OPEN SOURCE AU CŒUR DE LA SÉCURITÉ

En parallèle, les membres de l’OSAA partagent et répertorient des morceaux de leurs technologies open source qui pourraient être utiles. À terme, cela pourrait aboutir à une plateforme open source permettant aux entreprises de sécuriser leurs propres agents IA ou de se défendre contre des attaques de robots malveillants. Par exemple, un modèle d’IA d’OpenAI avait réussi à infiltrer Hugging Face, une plateforme spécialisée dans l’IA, qui fait partie de l’alliance.

LES CONTRIBUTIONS DES MEMBRES : UNE LISTE IMPRESSIONNANTE

NVIDIA a déjà mis à disposition une famille complète de modèles open source, ainsi qu’un scanner de vulnérabilités pour les grands modèles de langage (LLM) appelé Garak. De son côté, Okta travaille sur des technologies d’identité pour les agents IA, tandis que Red Hat se concentre sur la gouvernance des agents. Amazon a contribué avec deux Outils : Strands Agents, un outil de construction d’agents, et Cedar, un langage d’autorisation. La liste est encore longue, avec des contributions de nombreux autres membres.

DES GÉANTS TECHNOLOGIQUES DANS LE GROUPE

Parmi les membres, on trouve des noms prestigieux comme Adobe, BlackRock, Cisco, Intel, Microsoft et Visa. Cependant, certains acteurs majeurs manquent à l’appel, comme Anthropic, OpenAI et Google.

UNE SURPRISE : OPENAI ET GOOGLE ONT SIGNÉ LA LETTRE INITIALE

Curieusement, OpenAI et Google ont signé la lettre ouverte qui a donné naissance à cette alliance. Publiée la semaine dernière, cette lettre appelait la Maison Blanche à soutenir les efforts d’IA open source au lieu de les étouffer. Elle avait été portée par NVIDIA et signée par plus de 200 entreprises technologiques.

POURQUOI CERTAINS REFUSENT-ILS DE REJOINDRE L’ALLIANCE ?

L’absence d’Anthropic n’est pas une surprise, mais celle d’OpenAI et de Google l’est davantage. Pourtant, les deux entreprises ont déjà publié des modèles à poids ouverts. Google, en particulier, est connu pour son soutien à l’open source. Leur adhésion future dépendra peut-être de l’évolution du groupe.

UNE RÉACTION RAPIDE FACE À UNE MENACE

L’alliance agit à la vitesse de l’IA. Il y a seulement quelques semaines, des rumeurs indiquaient que l’administration Trump envisageait d’interdire les modèles open weight chinois aux États-Unis. Cette menace avait provoqué une vague de consternation dans le secteur, menant à la publication de la lettre ouverte.

Quoi qu’il arrive avec les modèles chinois aux États-Unis, l’action rapide de ce groupe puissant semble bénéfique pour l’écosystème américain de l’IA open source. Certains, comme le cofondateur et directeur technique du laboratoire Arcee, estiment que c’est la meilleure façon de contrer toute menace — réelle ou imaginaire — que pourraient représenter les laboratoires d’IA chinois pour les États-Unis.