Le patron d'Anthropic explique pourquoi l'IA fait peur aux gens

UNE CRISE DE CONFIANCE, PAS DE TECHNOLOGIE

Dario Amodei, le patron d’Anthropic, vient de balayer d’un revers de main l’idée selon laquelle il peindrait un tableau trop pessimiste de l’intelligence artificielle. Ses déclarations répondent directement à Gavin Baker, un investisseur qui l’accusait sur le podcast All-In et sur X d’alimenter un rejet massif de l’IA aux États-Unis, notamment contre les centres de données. Baker allait même jusqu’à écrire que Amodei avait « perdu le débat » sur la régulation de l’IA et qu’en tant que futur patron d’une entreprise majeure, il devrait défendre son industrie de manière plus positive.

LES AVERTISSEMENTS DES EXPERTS NE SONT PAS LA CAUSE DU PROBLÈME

Amodei n’est pas le seul à avoir alerté sur les dangers de l’IA, et Baker n’est pas le seul à pointer du doigt ces mises en garde comme source principale du rejet. Pourtant, dans une série de publications, Amodei a rejeté l’idée que ses messages aient été « disproportionnellement négatifs ». Il affirme que ses écrits ont toujours été « équilibrés entre risques et bénéfices » à parts égales. Son essai « Machines of Loving Grace » ? Il l’a écrit parce qu’il trouvait que l’industrie ne montrait pas assez comment l’IA pouvait « radicalement transformer le monde en mieux ».

LE PUBLIC A UNE IMAGE NÉGATIVE DE L’IA, ET CE N’EST PAS LEUR FAUTE

Amodei reconnaît que « le public a une vision négative de l’IA » et admet que « c’est un gros problème ». Mais il rejette l’idée que cette négativité vienne principalement des avertissements lancés par les dirigeants de l’IA, dont lui-même. Pour lui, la vraie cause est ailleurs : « Je pense que c’est fondamentalement une crise de confiance. » Les gens ne font plus confiance aux entreprises, aux gouvernements ou à l’industrie tech. Ils suspectent toujours qu’on leur cache quelque chose pour les manipuler.

UNE CRISE QUI DURE DEPUIS DES DÉCENNIES

Ce rejet de l’IA n’est, selon lui, que « la dernière itération » d’un problème bien plus ancien. « La critique la plus juste des entreprises d’IA, y compris Anthropic, c’est qu’on n’a pas encore tenu nos grandes promesses pour le monde », explique-t-il. « C’est entièrement de notre faute, et c’est la critique qu’il faudrait faire, au lieu de parler de communication ou de marketing. »

RÉGULATION : UN CHOIX FAUX ENTRE DEUX EXTRÊMES

Sur le sujet de la régulation, Amodei conteste l’idée qu’il n’y aurait que deux options : soit distribuer l’IA sans aucune règle, soit la concentrer entre les mains de quelques entreprises grâce à des lois strictes. « Je sais qu’il existe un raccourci dans la Silicon Valley où « régulation » rime avec « capture réglementaire » et « concentration du pouvoir », mais je trouve que c’est une vision trop simpliste », déclare-t-il. Beaucoup de gens en dehors de cette bulle voient la régulation comme un moyen de limiter le pouvoir des entreprises et de protéger les citoyens ordinaires.

Amodei précise qu’il n’est « pas nécessairement d’accord » avec cette vision non plus. Mais il explique pourquoi Anthropic a toujours formulé ses propositions politiques avec soin : « Nous essayons très fort de faire des propositions qui désavantagent les entreprises d’IA de pointe tout en avantant les plus petits concurrents. »

L’IA CONCENTRE NATURELLEMENT LE POUVOIR

Pourquoi faire ces propositions ? Parce que, selon lui, « l’IA est structurellement une technologie qui tend à concentrer le pouvoir ». Les modèles à poids ouverts aident un peu, mais ne suffisent pas : ils déplacent simplement la concentration vers ceux qui ont le plus de puissance de calcul et de puces. « En revanche, je pense que les bonnes règles peuvent à la fois (a) répondre aux risques cyber, biologiques ou d’alignement de l’IA, (b) limiter institutionnellement le pouvoir des entreprises d’IA de pointe, et (c) laisser de la place aux modèles à poids ouverts tout en gérant les risques spécifiques qu’ils présentent. »

MESSAGES AUTOUR DE L’IA : UN ÉQUILIBRE À TROUVER

Amodei revient ensuite sur la façon dont il communique autour de l’IA. Il rejette l’idée que ses messages aient été « disproportionnellement négatifs ». « En réalité, ils ont été équilibrés à parts égales entre risques et bénéfices : j’ai écrit un essai majeur sur chacun, et même dans les interviews où je parle des risques, je… »

LES PROMESSES NON TENUES, LA VRAIE SOURCE DE MÉFIANCE

Il insiste sur un point : « La critique la plus précise des entreprises d’IA, c’est qu’on n’a pas encore tenu nos grandes promesses pour le monde. C’est entièrement de notre faute. » Pour lui, le vrai problème n’est pas la façon dont l’industrie communique, mais le fait que les résultats concrets ne suivent pas. « Promettre que l’IA va guérir le cancer, c’est plus un cliché qu’une source d’inspiration. Ce qui changerait vraiment l’opinion des gens, ce serait de guérir réellement le cancer. »

RÉGULATION : UN OUTIL POUR ÉQUILIBRER LE JEU

Amodei explique que la régulation n’est pas forcément synonyme de capture réglementaire ou de concentration du pouvoir. « Beaucoup de gens en dehors de la Silicon Valley voient la régulation comme un moyen de limiter le pouvoir des entreprises et de protéger les citoyens. » Il reconnaît que cette vision n’est pas partagée par tout le monde, mais c’est pourquoi Anthropic prend soin de proposer des règles qui avantagent les petits acteurs sans étouffer l’innovation.

POUVOIR DE CALCUL ET CONCENTRATION : UN CERCLE VICIEUX

Il alerte sur un cercle vicieux : « L’IA concentre naturellement le pouvoir parce que ceux qui ont le plus de ressources (puissance de calcul, puces) peuvent développer les meilleurs modèles. Les modèles à poids ouverts aident, mais ne suffisent pas. Ils déplacent simplement la concentration vers ceux qui ont déjà les moyens de les exploiter. »

RÈGLES DU JEU : UNE SOLUTION À TROIS VOLETS

Pour Amodei, les bonnes règles peuvent agir sur trois fronts : « Elles peuvent (a) répondre aux risques cyber, biologiques ou d’alignement de l’IA, (b) limiter le pouvoir des entreprises d’IA de pointe, et (c) laisser de la place aux modèles à poids ouverts tout en gérant leurs risques spécifiques. »

ANTHROPIC : UNE STRATÉGIE POLITIQUE PRÉCISE

Il détaille la stratégie d’Anthropic en matière de régulation : « Nous essayons très fort de faire des propositions qui désavantagent les entreprises d’IA de pointe tout en avantant les plus petits concurrents. » L’idée est de créer un environnement où l’innovation peut prospérer sans que le pouvoir ne soit concentré entre quelques mains.

LA MÉFIANCE DES GENS : UN PROBLÈME STRUCTUREL

Amodei revient sur la méfiance du public envers l’IA. Pour lui, ce n’est pas une question de technologie, mais de confiance. « Les gens ne font plus confiance aux entreprises, aux gouvernements ou à l’industrie tech. Ils suspectent toujours qu’on leur cache quelque chose pour les manipuler. » Cette méfiance, selon lui, est le vrai frein à l’adoption massive de l’IA.

LES PROMESSES NON TENUES : LE VRAI ENNEMI

Il rappelle que la critique la plus juste envers les entreprises d’IA, c’est qu’elles n’ont pas encore tenu leurs promesses. « On a promis des révolutions, mais les résultats concrets se font attendre. » Pour lui, la solution n’est pas de moins parler des risques, mais de plus montrer les bénéfices tangibles. « Ce qui changerait vraiment l’opinion des gens, ce serait de guérir réellement le cancer ou de résoudre des problèmes concrets. »

L’IA DE DEMAIN : ENTRE INNOVATION ET RÉGULATION

Amodei conclut en insistant sur l’importance d’un équilibre entre innovation et régulation. « L’IA est une technologie puissante, mais elle doit être encadrée pour éviter les dérives. Les règles doivent protéger les citoyens sans étouffer la créativité. » Il défend l’idée que les bonnes règles peuvent permettre à l’IA de transformer le monde en mieux, à condition que les promesses soient tenues.

UN AVENIR À CONSTRUIRE ENSEMBLE

Pour lui, le futur de l’IA dépend de la capacité des entreprises et des régulateurs à travailler main dans la main. « Les gens ont besoin de voir des résultats concrets. Ils ont besoin de confiance. Sans cela, même les technologies les plus prometteuses risquent de se heurter à un mur de méfiance. » Il appelle à une approche pragmatique, où l’innovation et la protection des citoyens vont de pair.