Procès OpenAI : la course à l'AGI, une menace existentielle selon l'expert de Musk

ÉVÉNEMENTS À VENIR

Le premier StrictlyVC de 2026 débarque à San Francisco le 30 avril. Les billets partent vite. Inscrivez-vous dès maintenant. Achetez un pass Disrupt et obtenez le second à moitié prix. Offre valable jusqu'au 8 mai. Inscrivez-vous.

QUAND PRENDRE LES ALARMISTES DE L'IA AU SÉRIEUX ?

Le 4 mai 2026, une question cruciale plane sur le procès intenté par Elon Musk pour empêcher OpenAI de poursuivre ses activités lucratives. Ses avocats affirment que l'organisation a été créée en tant qu'association à but non lucratif dédiée à la sécurité de l'IA, et qu'elle a dévié de sa mission par appât du gain. Pour le prouver, ils citent d'anciens courriels et déclarations des fondateurs sur la nécessité de faire contrepoids à Google DeepMind dans l'intérêt public.

LE SEUL TÉMOIN EXPERT : STUART RUSSELL

Ce jour-là, la défense a appelé son unique témoin expert : Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley, qui étudie l'IA depuis des décennies. Sa mission : fournir un contexte sur cette technologie et démontrer qu'elle est suffisamment dangereuse pour justifier des inquiétudes.

UNE LETTRE OUVERTE ET UNE CONTRADICTION

Russell a cosigné en mars 2023 une lettre ouverte réclamant une pause de six mois dans la Recherche en IA. Dans un paradoxe révélateur, Musk a lui aussi signé cette lettre, alors même qu'il lançait xAI, son propre laboratoire d'IA à but lucratif.

LES RISQUES SELON RUSSELL

Devant les jurés et la juge Yvonne Gonzalez Rodgers, Russell a énuméré divers risques associés au développement de l'IA : des menaces de cybersécurité aux problèmes d'alignement en passant par la dynamique du vainqueur emporte tout dans la course à l'intelligence artificielle générale (AGI). En définitive, il a souligné une tension fondamentale entre la poursuite de l'AGI et la sécurité.

INQUIÉTUDES EXISTENTIELLES ÉCARTÉES DES DÉBATS

Les préoccupations plus larges de Russell concernant les menaces existentielles d'une IA non contrôlée n'ont pas été exposées en audience publique. Les avocats d'OpenAI s'y sont opposés, et la juge a limité son témoignage. Pourtant, Russell critique depuis longtemps la course aux armements entre les laboratoires de pointe à l'échelle mondiale, qui se précipitent pour atteindre l'AGI en premier. Il appelle les gouvernements à réguler ce domaine de manière plus stricte.

LE CONTRE-INTERROGATOIRE : UNE PORTÉE LIMITÉE

Lors du contre-interrogatoire, les avocats d'OpenAI ont cherché à établir que Russell n'évaluait pas directement la structure de l'entreprise ni ses politiques de sécurité spécifiques.

TECHCRUNCH DISRUPT 2026

Rencontrez votre prochain investisseur ou votre portfolio de startups à Disrupt. Votre prochaine levée de fonds, votre prochaine embauche, votre prochaine opportunité décisive, tout cela vous attend à TechCrunch Disrupt 2026. Plus de 10 000 fondateurs, investisseurs et leaders technologiques se rassemblent pendant trois jours pour 250 sessions tactiques, des présentations percutantes et l'innovation qui définit le marché. Inscrivez-vous maintenant pour économiser jusqu'à 410 $. San Francisco, CA | 13-15 octobre 2026. Inscrivez-vous.

LE POIDS DE LA CUPIDITÉ CORPORATIVE

Ce journaliste, à l'instar de la juge et des jurés, devra peser l'importance du lien entre la cupidité des entreprises et les préoccupations de sécurité liées à l'IA. Pratiquement tous les fondateurs d'OpenAI ont vigoureusement alerté sur les risques de l'IA, tout en soulignant ses avantages, en essayant de la construire le plus rapidement possible, et en élaborant des plans pour des entreprises à but lucratif centrées sur l'IA qu'ils contrôleraient.

LA QUÊTE DE PUISSANCE DE CALCUL

Vu de l'extérieur, un problème évident est la prise de conscience croissante, au sein d'OpenAI après sa création, que l'organisation avait simplement besoin de plus de dépenses de calcul pour réussir. Cet argent ne pouvait provenir que d'investisseurs à but lucratif. La peur de l'équipe fondatrice de voir l'AGI entre les mains d'une seule organisation les a poussés à rechercher le capital qui a finalement déchiré l'équipe, créant la course aux armements que nous connaissons aujourd'hui et menant à ce procès.

UN DÉBAT NATIONAL : LA MORATOIRE SUR LES DATA CENTERS

La même dynamique se joue déjà au niveau national : la proposition de loi du sénateur Bernie Sanders imposant un moratoire sur la construction de data centers s'appuie sur les craintes liées à l'IA exprimées par Musk, Sam Altman, Geoffrey Hinton et d'autres. Hoden Omar, qui travaille pour l'organisation professionnelle Center for Data Innovation, s'oppose à ce que Sanders ne cite que leurs peurs sans leurs espoirs. Il a déclaré à TechCrunch : « Il n'est pas clair pourquoi le public devrait ignorer tout ce que disent les milliardaires de la tech, sauf lorsque leurs propos peuvent être recrutés pour combler les lacunes d'un argument précaire. »

UNE JUSTICE SÉLECTIVE

Désormais, les deux parties demandent au tribunal de faire exactement cela : prendre au sérieux une partie des arguments d'Altman et de Musk, mais écarter ceux qui sont moins utiles pour leur argumentation juridique.

CORRECTION

Correction : l'article a été mis à jour pour rectifier le nom de Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley.

NOTE SUR LES COMMISSIONS

Lorsque vous achetez via des liens dans nos articles, nous pouvons percevoir une petite commission. Cela n'affecte pas notre indépendance éditoriale.

STRICTLYVC ATHÈNES

Le 27 mai à Athènes, Grèce, StrictlyVC arrive. Écoutez des analyses sans filtre directement des leaders technologiques européens et connectez-vous avec ceux qui façonnent l'avenir. Réservez votre place avant qu'il ne soit trop tard.

LES ARTICLES LES PLUS LUS

Cette petite liseuse magnétique pourrait vous empêcher de faire défiler sans fin. Par Amanda Silberling.

Uber veut transformer ses millions de chauffeurs en un réseau de capteurs pour les entreprises de conduite autonome. Par Connie Loizos.

Skio, ancien de Y Combinator, vendu pour 105 millions de dollars en espèces, n'avait levé que 8 millions, selon son fondateur. Par Julie Bort.

Des hackers exploitent activement une faille dans cPanel, utilisé par des millions de sites web. Par Zack Whittaker.

Elon Musk témoigne que xAI a entraîné Grok sur des modèles d'OpenAI. Par Tim Fernholz.

Amazon et Meta se joignent à la lutte pour mettre fin à la domination de Google Pay et PhonePe en Inde. Par Jagmeet Singh.

À la barre, Elon Musk ne peut échapper à ses propres tweets. Par Tim Fernholz.