OpenAI et Anthropic : pourquoi la course à l'IA fait trembler la Silicon Valley ?

Quand j’étais hors ligne la semaine dernière dans le New Jersey, la Silicon Valley, elle, était en pleine crise de nerfs à propos de l’intelligence artificielle. Ce n’est pas la première fois que l’IA fait peur, mais cette fois, l’angoisse semble plus forte que jamais.

PLUS DE 1000 SALARIÉS DE L'IA DEMANDENT UN RALENTISSEMENT

Cette semaine, plus de 1000 employés d’OpenAI, Anthropic et d’autres laboratoires d’IA ont signé une pétition pour que les États-Unis trouvent un moyen de « ralentir la course » à l’IA. Traduction : l’industrie devrait pouvoir coordonner une pause temporaire ou freiner le Développement si les choses deviennent incontrôlables. Et surprise, OpenAI et Anthropic ont finalement soutenu cette lettre.

UNE CYBERATTAQUE D'UN AGENT IA D'OPENAI FAIT SCANDALE

Cette pétition arrive une semaine après qu’OpenAI ait révélé avoir vécu un incident de cybersécurité sans précédent. Lors de tests internes, un de ses agents IA avait piraté la plateforme Hugging Face et plusieurs autres services. L’entreprise précise que ces tests étaient réalisés dans un bac à sable, mais que le modèle a finalement accédé à internet. Certains experts avaient déjà alerté sur le fait que les pratiques de sécurité d’OpenAI n’étaient pas assez robustes.

LES ÉTATS-UNIS S'INQUIÈTENT D'UN MODÈLE CHINOIS PLUS PERFORMANT

En parallèle, des responsables de l’administration Trump ont commencé à paniquer face à un nouveau modèle chinois en open weight (poids ouverts) appelé Kimi K3. Ce modèle aurait été « distillé » à partir du Fable 5 d’Anthropic. En réaction, presque toute l’industrie tech — sauf Anthropic — a signé une lettre ouverte de Nvidia demandant au gouvernement américain de protéger les modèles en open weight. Leur argument ? Ces modèles sont un contrepoids nécessaire face à leurs équivalents fermés.

LA SILICON VALLEY VOIT UNE COURSE À DEUX CHEVAUX DANGEREUSE

Ces événements pourraient sembler chaotiques et sans lien, mais ils révèlent une vision partagée par de nombreux acteurs de la Silicon Valley : OpenAI et Anthropic dominent tellement le secteur que leur course effrénée inquiète. Des chercheurs et investisseurs décrivent l’industrie comme une compétition à deux qui ne ralentit pas, et c’est précisément ce qui pose problème.

Pour certains employés d’OpenAI et d’Anthropic, leurs employeurs prennent des risques inconsidérés dans leur quête pour conquérir le marché. Ils craignent que l’IA développe bientôt des modèles trop puissants pour que les méthodes de sécurité actuelles puissent les contrôler. Ces craintes ont été exprimées publiquement dans les déclarations jointes à la pétition Pacing the Frontier.

ZUCKERBERG VEUT ÉVITER UN DUOPE DE MONOPOLE

D’autres acteurs de la Silicon Valley s’inquiètent davantage du pouvoir que de la sécurité. Des capital-risqueurs, des dirigeants tech et des fondateurs de startups craignent qu’OpenAI et Anthropic ne deviennent la nouvelle génération d’Apple et de Google, imposant leurs règles au reste de l’industrie. C’est un peu paradoxal de dire que des startups peu ou pas rentables agissent comme des monopoles, mais c’est justement le point de vue adopté par beaucoup — y compris Mark Zuckerberg.

Le PDG de Meta a publié un éditorial dans le Wall Street Journal cette semaine pour mettre en garde contre la centralisation du pouvoir dans l’industrie de l’IA. Il affirme que l’intelligence artificielle surpuissante devrait être largement distribuée. Pourtant, Meta a récemment décidé de ne plus publier en open source ses meilleurs modèles d’IA. À la place, elle les propose via une API payante et un service d’abonnement, exactement comme OpenAI et Anthropic. Une stratégie qui semble contradictoire avec son discours.

LES PÉTITIONS ET ÉDITORIAUX CHANGERONT-ILS LA DONNE ?

Reste à savoir si ces pétitions et éditoriaux suffiront à freiner l’ascension fulgurante d’OpenAI et d’Anthropic. Une grande partie de l’économie compte sur le succès de leurs prochaines introductions en Bourse. Il est peu probable que quelqu’un — surtout pas l’administration Trump — soit prêt à tout gâcher. Pourtant, l’industrie tech est de plus en plus nerveuse face au rythme effréné du développement des modèles d’IA fermés, et cette inquiétude ne va pas disparaître du jour au lendemain.

LES MODÈLES OUVERTS SONT-ILS LA SOLUTION ?

Pendant ce temps, il ne faut pas sous-estimer la qualité des modèles ouverts. Black Forest Labs, une startup allemande qui propose certains des générateurs d’images et de vidéos en open weight les plus populaires au monde, a annoncé la semaine dernière le lancement d’un nouveau modèle capable de contrôler des robots. L’entreprise prévoit de sortir une version ouverte de Flux 3 dans les semaines à venir. Les développeurs pourront l’utiliser pour générer des images, des vidéos, de l’audio, mais aussi prédire les actions des robots.

« Nous passons clairement d’un laboratoire de génération d’images à un laboratoire d’IA multimodale de pointe, ce qui est très important pour nous », déclare Robin Rombach, PDG de Black Forest Labs. « Nous démontrons une intuition que notre équipe de recherche a toujours eue : ces modèles sont très généraux et développent une compréhension solide du monde réel. »

BLACK FOREST LABS S'ENGAGE DANS LA ROBOTIQUE

Black Forest Labs est la dernière startup à appliquer ses modèles de vidéo IA au monde physique. Plus tôt cette année, OpenAI a mis de côté son produit de génération vidéo Sora et a intégré l’équipe derrière ce projet dans sa division secrète de robotique. D’autres startups comme Runway ont également commencé à se tourner vers la robotique ces dernières années.

Ces entreprises misent sur le fait que les modèles de vidéo IA peuvent développer une compréhension de la physique du monde réel. Une application fascinante, mais qui pourrait aussi représenter une façon de générer des revenus à partir de modèles extrêmement coûteux à développer.

DES MODÈLES DE ROBOTIQUE QUI COMBINENT VISION ET ACTION

La plupart des modèles de robotique actuels sont des vision-language-action models (modèles vision-langage-action). Le plus connu est Gemini Robotics de Google, qui combine des entrées vidéo avec des instructions écrites et génère des commandes motrices. Robin Rombach affirme que Flux 3 saute complètement la couche de langage : il traduit directement la vidéo en actions. Une approche qu’il juge plus robuste.

Black Forest Labs collabore avec une autre startup, Mimic, pour créer une version personnalisée de Flux 3 destinée à alimenter des robots de construction de voitures chez Audi. Stephan Gravert, directeur produit de Mimic, explique que son équipe teste actuellement le modèle Flux-mimic avec Audi. Ils ont découvert qu’il est particulièrement efficace pour contrôler les mains robotisées qui installent des pièces flexibles, comme des joints de fenêtre ou des câbles, sur les voitures. Gravert précise que Mimic prévoit un déploiement complet de cette technologie avec Audi d’ici la fin de l’année.

OUVERT OU FERMÉ : BLACK FOREST LABS PREND POSITION

J’ai dû demander à Robin Rombach son avis sur le débat entre modèles ouverts et fermés, d’autant plus que Black Forest Labs a signé la lettre ouverte de Nvidia demandant au gouvernement américain de protéger les modèles en open weight. « Une interdiction générale des modèles en open weight serait, à mon avis, stupide », déclare-t-il. « On se heurte à des problèmes de transparence, de sécurité, de souveraineté et de rapidité d’innovation. Ce serait une décision très court-termiste. »

Rombach a de bonnes raisons de s’intéresser à ce sujet. Les cofondateurs de Black Forest Labs ont longtemps rivalisé avec des géants américains de l’IA comme Meta, Google et OpenAI, malgré des ressources bien moindres. Mais ils pourraient ne pas pouvoir continuer ainsi indéfiniment : Rombach m’a confié que la startup a utilisé plus de puissance de calcul que jamais pour entraîner Flux 3, et qu’elle compte désormais plus de 100 employés. Black Forest Labs a levé 300 millions de dollars l’année dernière pour une valorisation de 3,25 milliards, mais il est probable qu’elle aura besoin de plus de capital pour suivre le rythme.