OpenAI Sol : comment le gouvernement a-t-il validé sa sortie sans danger ?

UN MODÈLE IA EN LIBERTÉ SANS PROTOCOLE CLAIR

Le dernier modèle de langage avancé d'OpenAI, Sol, est désormais accessible au grand public. Pourtant, ce modèle rivalise avec Fable, le modèle d'Anthropic, dont les capacités ont tellement inquiété la Maison Blanche qu’il avait été temporairement interdit d’accès. Mais comment ces entreprises ont-elles obtenu l’autorisation de le déployer ? La réponse est simple : personne ne le sait vraiment.

« Franchement, je n’ai pas de visibilité sur ces processus exacts, donc oui, je ne me sens pas assez informé pour dire s’ils sont adaptés ou non », confie Mina Narayanan, analyste principale en Recherche au Center for Security and Emerging Technology de Georgetown. « Anthropic a bien indiqué avoir été en discussion avec le gouvernement, qu’elle avait développé un classifieur pour détecter les tentatives de contournement des garde-fous, et qu’elle avait mis en place des stratégies défensives pour éviter de futurs contournements. Mais la nature exacte de ces échanges entre le gouvernement, Anthropic et OpenAI reste floue. »

UN PROCESSUS MYSTÉRIEUX POUR TOUT LE MONDE

Andy Konwinski, informaticien cofondateur de Databricks, Perplexity et de l’Institut Laude, affirme n’avoir jamais rencontré personne capable d’expliquer ce processus, y compris les employés des laboratoires de pointe. « Personne ne comprend vraiment comment ça fonctionne, même au sein des entreprises les plus avancées. »

Dix-huit mois après le début de l’administration Trump, les contours de cette régulation restent flous. Malgré — ou peut-être à cause — des figures de l’industrie qui influencent les politiques publiques. Le mois dernier, après des semaines de tensions internes, un décret exécutif a été publié pour tracer une feuille de route d’évaluation des modèles de pointe. Pourtant, les détails concrets manquent encore, à part ce qui ne sera pas mis en place : « Il n’y aura pas de FDA pour l’IA », déclare Sriram Krishnan, ancien associé chez Andreessen Horowitz et conseiller senior pour l’IA à la Maison Blanche jusqu’au mois dernier.

Il n’existe toujours pas de consensus sur les types de modèles nécessitant un examen gouvernemental, ni sur les agences chargées de ces évaluations. Pour l’instant, le Département du Commerce et son Centre pour les normes et l’innovation en IA semblent prendre les devants. Mais le décret exécutif ordonne à six agences fédérales de déterminer un processus final d’ici début août. En attendant, la situation reste, au mieux, improvisée.

LES CONNEXIONS POLITIQUES D’OPEN AI : UNE ZONE D’OMBRE

Le PDG d’OpenAI, Sam Altman, a indiqué sur CNBC que le processus avait impliqué des discussions avec des responsables comme Howard Lutnick, secrétaire au Commerce, Scott Bessent, secrétaire au Trésor, et Sean Cairncross, directeur national de la cybersécurité. Mais on ignore qui étaient les experts ayant testé les modèles ou comment ces tests ont été menés. OpenAI a refusé de partager des détails sur le processus gouvernemental avec TechCrunch, mais a renvoyé vers les résultats de plusieurs évaluations externes réalisées par des organismes comme l’AISI britannique, SecureBio et Irregular, présentés dans la fiche de sécurité du dernier modèle.

Comme pour le déploiement de Fable par Anthropic, OpenAI a présenté le modèle au gouvernement et à des utilisateurs sélectionnés avant son lancement public. Pourtant, on ignore qui étaient ces utilisateurs et comment ils ont été choisis. Dans un billet de blog publié fin juin, l’entreprise a précisé : « Nous ne pensons pas que ce type de processus d’accès gouvernemental devrait devenir la norme à long terme », ajoutant qu’elle travaillerait avec le gouvernement pour développer une autre approche.

Ce contexte inclut des rumeurs selon lesquelles Altman aurait proposé jusqu’à 5 % des actions d’OpenAI à l’administration pour ses « comptes Trump », ainsi que le rôle de Greg Brockman, président d’OpenAI, comme plus grand donateur connu à l’opération politique de mi-mandat de Trump. Difficile pour les observateurs extérieurs de dissocier ces activités de l’approche apparemment plus légère adoptée par le gouvernement pour réguler Sol.

FABLE D’ANTHROPIC : UNE RÉGULATION PLUS SÉVÈRE, MAIS POURQUOI ?

À l’inverse, Fable d’Anthropic avait été temporairement retiré de l’accès public lorsque le gouvernement américain en avait interdit l’usage aux ressortissants étrangers. Cette décision s’expliquait en partie par de réelles craintes de contournement du modèle pour accéder à des capacités de piratage, et en partie par des tensions de personnalité entre Anthropic et l’administration Trump. La menace d’une interdiction d’exportation a peut-être aussi poussé OpenAI à se montrer plus coopératif avec les demandes — inconnues — du gouvernement.

RÉGULATION LÂCHE : UNE AUBE POUR L’INDUSTRIE, UN CAUCHEMAR POUR LA TRANSPARENCE

D’un point de vue industriel, une approche minimaliste de la régulation pourrait sembler idéale. Mais dépendre de liens personnels avec les responsables administratifs crée une incertitude et des incitations discutables. Konwinski craint que les véritables experts de cette technologie — chercheurs en sécurité, en alignement, en interprétabilité, mais aussi spécialistes des données et de toute la chaîne de production — ne jouent pas un rôle suffisant dans le processus de déploiement des modèles.

Il plaide pour un « bien commun ouvert » comme meilleure façon de concilier sécurité et innovation. Il cite des modèles comme la FDA, les NIH ou les laboratoires nationaux, qui réunissent chercheurs, responsables gouvernementaux et entreprises privées pour parvenir à un consensus sur les questions de sécurité.

Une partie du problème vient des incitations du capitalisme, qui ont motivé les chercheurs en IA depuis plus d’une décennie, comme en témoigne le procès d’Elon Musk contestant la structure juridique d’OpenAI. Konwinski souligne que la nature du secteur de l’IA oblige les entreprises à récupérer une grande partie de leurs coûts de formation peu après la sortie des modèles, alors qu’elles sont déjà en avance sur la concurrence. « Même si leurs intentions sont bonnes, il existe des obligations légales très claires et des responsabilités fiduciaires intégrées dans les procédures opérationnelles », précise-t-il.

AUDITS EXTERNES : LA SEULE SOLUTION POUR UNE RÉGULATION CREDIBLE ?

Dans un billet, Ball a défendu l’idée que la voie à suivre dépendrait d’organisations d’audit tierces, agréées par le gouvernement, qui évalueraient les approches de sécurité des laboratoires de pointe. Konwinski, lui aussi, est optimiste quant à de nouveaux formats institutionnels, comme les organisations de recherche ciblées, qui pourraient permettre à des experts plus impartiaux issus du monde universitaire et des organisations à but non lucratif d’accéder et d’évaluer les modèles de pointe.

Pour l’instant, le secret entourant le développement de l’IA ne disparaîtra pas. Pourtant, il risque de semer des défis politiques pour une industrie de plus en plus regardée avec scepticisme par les Américains. « On ne ressent pas l’impression que ce sont des personnes responsables qui mènent ces changements », a déclaré la semaine dernière Remzi Arpaci-Dusseau, professeur d’informatique à l’Université du Wisconsin-Madison, lors de la conférence Open Frontier.

LE SCÉNARIO CRAINT PAR LES EXPERTS : UNE CONCENTRATION DU POUVOIR DANGEREUSE

Lors du même événement, David Siegel, informaticien fondateur de Two Sigma, l’un des plus grands fonds spéculatifs quantitatifs, a demandé aux participants d’imaginer « une situation que je considère comme très mauvaise : quelques entreprises contrôlent la technologie, le gouvernement dans ses laboratoires secrets évalue si elle est adaptée à l’usage, et le grand public ainsi que la communauté scientifique n’ont aucun accès à ces processus. »

Le mystère autour de l’évaluation des modèles d’IA de pointe persiste, mais une chose est sûre : sans transparence ni participation active des experts indépendants, la confiance dans ces technologies ne fera que s’éroder.