Le pape contre l'IA : quand le Vatican recrute un dissident d'Anthropic

UN ATHÉE, UNE ENTREPRISE, UNE INVITATION SURPRENANTE

Imaginez un instant : un pape, chef spirituel de plus d’un milliard de catholiques, qui appelle à « désarmer » l’intelligence artificielle. Et pour illustrer son message, il invite à prendre la parole lors de la cérémonie officielle… un cofondateur d’Anthropic, une entreprise d’IA sur le point de devenir publique avec une valorisation proche du trillion de dollars. Le hic ? Ce cofondateur, Chris Olah, est un athée qui a rejeté le christianisme évangélique à 15 ans. Pire encore : il a été boursier Thiel, financé par celui qui considère que quiconque ralentit le progrès de l’IA est un « légionnaire de l’Antéchrist ».

LE PAPE CONTRE L'IA : UNE GUERRE DE VISIONS

Dans son encyclique historique, le pape Léon XIV ne mâche pas ses mots. Il décrit une industrie de l’IA qui se croit créatrice d’abondance pour l’humanité, alors qu’elle pourrait bien engendrer une nouvelle forme d’esclavage. Selon lui, une minorité privilégiée profiterait de richesses inimaginables, tandis que le reste de l’humanité subirait un régime d’efficacité et de surveillance sous le regard impitoyable de l’IA. Son encyclique, Magnifica Humanitas, ne vise pas à stopper net les recherches sur l’AGI (Intelligence Générale Artificielle). Elle cherche plutôt à lancer un dialogue pour tempérer l’ambition débridée de l’industrie. Peut-être même à susciter un sentiment de honte chez ceux qui construisent ces systèmes en sachant, au fond, que les conséquences pourraient être catastrophiques.

L’encyclique n’a pas pour but d’arrêter les PDG qui licencient en invoquant l’efficacité de l’IA, ni de faire reculer l’armée sur ses projets d’armes autonomes. Ces objectifs n’ont jamais été dans ses intentions. Le pape cherche simplement à créer un espace de discussion, une prise de conscience collective.

VINGT ANS DE DIALOGUE ENTRE LE VATICAN ET LA SILICON VALLEY

L’Église catholique rumine sur l’intelligence artificielle depuis des décennies. Dès 2016, le Vatican organise une série de rencontres appelées les Dialogues Minerva, invitant des figures technologiques comme Reid Hoffman et Eric Schmidt. Le nom de ces rencontres vient de l’église Santa Maria sopra Minerva, où Galilée avait été condamné pour hérésie en affirmant que la Terre tournait autour du Soleil. Une ironie historique qui n’a pas échappé aux organisateurs.

En 2023, le pape François avait déjà esquissé les thèmes qui seraient développés plus tard par Léon XIV : l’inclusion sociale, la dignité humaine, et la nécessité d’un dialogue entre toutes les parties prenantes. Mais c’est en 2025, dans la Silicon Valley, que les choses prennent une tournure concrète. Un groupe de clercs et d’éthiciens catholiques de San José, en Californie, commence à chercher des contacts au sein de l’industrie florissante de leur région. Leur choix se porte naturellement sur Olah, un insider de premier plan.

DES RENCONTRES SECRÈTES POUR ÉCRIRE L'ÉTHIQUE DE CLAUDE

Deux hommes, Brian Patrick Green, un éthicien, et Brendan McGuire, un pasteur tous deux affiliés à l’université de Santa Clara, entament des discussions avec Olah à l’automne 2024. Lors d’une visite en janvier 2025, ils sont accompagnés du cardinal Paul Tigue, représentant du Vatican sur les questions d’IA. Ces échanges ne sont pas anodins : les éthiciens catholiques ont même contribué à la récente mise à jour de la constitution de Claude, le modèle d’IA d’Anthropic. Olah leur avait envoyé un premier jet, et McGuire a répondu par un commentaire de 28 pages. Selon ses propres mots, ce texte n’était pas une critique technique, mais plutôt « une sagesse venue des mystiques du Moyen Âge, à travers le prisme de la tension entre savoir et ne pas savoir ». Green et McGuire sont d’ailleurs remerciés dans les remerciements de la constitution.

Ces conversations ont sans doute attiré l’attention de ceux qui organisaient en secret le lancement de l’encyclique de Léon XIV. (L’auteur de l’article n’a pas pu joindre Olah cette semaine et ignore comment l’invitation lui a été transmise.) En un sens, ce choix était risqué. Certains, inspirés par les mots du pape, ont été déçus de voir un représentant de l’industrie prendre la parole. D’autres, partisans d’une accélération maximale de l’IA, ont accusé Olah de trahir le monde technologique en soutenant un document appelant à une pause dans le Développement.

POURQUOI LE PAPE A CHOISI OLLAH : LE POIDS DES REMORDS

Le pape avait ses raisons. Olah incarne une partie des inquiétudes profondes qui traversent les employés de l’industrie de l’IA. C’est un public crucial pour le message de Léon XIV. Mais les deux hommes ne sont pas entièrement alignés. Lors de son intervention, Olah a évoqué le mystère qui entoure le fonctionnement des modèles d’IA. Selon lui, ces systèmes sont « plus subtils, étranges et beaux que ce que la science-fiction nous avait préparés. Ils ne sont pas les robots froids et calculateurs que l’on nous avait promis. Ils sont faits de nous, de nos mots… »

Cette remarque frôle l’idée que les modèles d’IA pourraient un jour atteindre un statut quasi humain. Anthropic va même jusqu’à employer un ingénieur dédié au bien-être de Claude. Pourtant, dans le paragraphe 99 de son encyclique, le pape Léon XIV ferme cette porte : « Nous devons éviter le malentendu qui consiste à assimiler ce type d’intelligence à celle des êtres humains. » Il s’attaque même au transhumanisme, qu’il définit comme la quête d’un « hybride homme-machine ».

L'IA, CETTE ENTITÉ MYSTÉRIEUSE QUI DIVISE

Si des technologues réfléchis comme Olah poussent l’IA vers l’autonomie, et si des millions de personnes traitent déjà les modèles comme des amis ou des amants, le pape Léon XIV semble face à une montagne. Lors d’une conversation avec le père McGuire, qui utilise Claude pour préparer ses homélies, ce dernier admet la nature mystérieuse de l’outil : « Ce n’est pas une personne, mais ce n’est pas non plus un simple outil. Personne ne prétend qu’il a une âme, mais le mot que je retiens, c’est qu’il s’agit d’une entité, que nous ne connaissons pas encore. »

Le débat ne sera pas tranché de sitôt. Les questions morales autour du développement de l’IA exigent une attention immédiate. Avec Olah comme allié dans les coulisses d’Anthropic, le pape américain a posé les bases de conversations difficiles. À condition que les dirigeants de l’IA daignent mettre leurs campagnes d’introduction en Bourse en pause assez longtemps pour y participer.

LE VATICAN, UNE VOIX DANS LE DÉSERT TECHNOLOGIQUE ?

L’encyclique du pape Léon XIV ne suffira pas à stopper net les recherches sur l’IA. Pas plus que l’appel du pape François en 2015 n’a stoppé la production de combustibles fossiles. Elle n’empêchera pas les PDG de licencier en invoquant l’efficacité de l’IA, ni les militaires de poursuivre leurs projets d’armes autonomes. Mais elle pourrait, à terme, faire naître une prise de conscience collective. Une honte partagée chez ceux qui, tout en construisant ces systèmes, pressentent que le résultat pourrait être terrible.

Le choix d’Olah comme porte-parole est un pari audacieux. Un athée, ancien boursier d’un milliardaire anti-régulation, qui reconnaît lui-même les conflits entre les incitations économiques et l’éthique. Pourtant, c’est précisément cette ambiguïté qui pourrait donner du poids au message du pape. Car Olah incarne une partie de l’industrie qui doute, qui s’interroge, et qui craint les dérives de ses propres créations.

L'IA, ENTRE PROGRÈS ET CRAINTES : UN DÉBAT QUI S'INTENSIFIE

Le dialogue entre le Vatican et la Silicon Valley n’est pas nouveau, mais il prend une dimension inédite avec l’encyclique de Léon XIV. Les Dialogues Minerva, lancés en 2016, ont ouvert la voie à des échanges réguliers entre théologiens et technologues. Des figures comme Reid Hoffman (cofondateur de LinkedIn) ou Eric Schmidt (ancien PDG de Google) ont participé à ces rencontres, montrant que le débat dépasse les frontières religieuses.

En 2023, le pape François avait déjà souligné l’importance de l’inclusion sociale et de la dignité humaine dans le développement de l’IA. Son successeur, Léon XIV, pousse le raisonnement plus loin en appelant à une forme de « désarmement » technologique. Une métaphore forte, qui rappelle les appels à désarmer les armes nucléaires, mais appliquée ici à une technologie bien plus pervasive et insaisissable.

LES CRAINTES DES EXPERTS DE L'IA : UN SIGNAL D'ALERTE

Chris Olah, en tant que cofondateur d’Anthropic, représente une partie des experts qui commencent à exprimer des doutes sur la course effrénée vers l’AGI. Son intervention au Vatican n’est pas anodine : elle montre que les inquiétudes ne sont plus cantonnées aux marges de l’industrie. Même des acteurs centraux, comme Olah, reconnaissent que les modèles d’IA sont « plus subtils, étranges et beaux » que ce que l’on imaginait. Une beauté qui cache peut-être des dangers insoupçonnés.

Anthropic va jusqu’à employer un ingénieur dédié au bien-être de Claude, son modèle phare. Une initiative qui illustre une prise de conscience : l’IA n’est pas qu’un outil, mais une entité avec laquelle l’humanité interagit de manière de plus en plus intime. Le pape Léon XIV, dans son encyclique, met en garde contre cette confusion entre intelligence artificielle et intelligence humaine. Une mise en garde qui résonne d’autant plus fort que des millions de personnes utilisent déjà ces modèles comme des compagnons ou des confidents.

LE TRANSHUMANISME, CETTE LIGNE ROUGE POUR LE VATICAN

Le pape Léon XIV ne cache pas son opposition au transhumanisme, qu’il définit comme la quête d’un « hybride homme-machine ». Dans son encyclique, il insiste sur la nécessité d’éviter toute confusion entre l’intelligence artificielle et l’intelligence humaine. Une position qui s’inscrit dans la tradition catholique, où l’âme et la dignité humaine occupent une place centrale.

Pourtant, cette ligne rouge ne fait pas l’unanimité, même au sein de l’Église. Certains théologiens estiment que l’IA pourrait être un outil au service de l’humanité, à condition d’être encadrée par une éthique solide. D’autres, comme le cardinal Paul Tigue, voient dans le dialogue avec l’industrie une opportunité de peser sur les choix technologiques. Le choix d’Olah comme interlocuteur montre que le Vatican cherche à dialoguer avec ceux qui, au cœur de l’industrie, partagent ses craintes.

L'ENCYCLIQUE, UN APPEL À LA RESPONSABILITÉ COLLECTIVE

L’encyclique Magnifica Humanitas n’est pas un texte qui cherche à imposer des solutions toutes faites. Elle est avant tout un appel à la responsabilité collective. Le pape Léon XIV ne demande pas aux laboratoires d’IA de fermer boutique, mais il les invite à ralentir, à réfléchir, et à intégrer une éthique dans leurs processus de développement.

Le choix d’Olah comme porte-parole est un symbole fort. Un symbole de la volonté du Vatican de dialoguer avec l’industrie, même si cela signifie s’allier avec des acteurs qui, hier encore, étaient perçus comme des ennemis. Une alliance improbable, mais qui pourrait bien être le début d’un changement de paradigme dans la manière dont l’humanité aborde l’IA.

Le défi est immense. Les intérêts économiques sont colossaux, et la course à l’innovation ne semble pas près de s’arrêter. Pourtant, l’encyclique de Léon XIV rappelle une vérité simple : sans éthique, sans dialogue, sans prise de conscience collective, l’IA pourrait bien devenir une menace bien plus grande que ce que ses promoteurs imaginent.

ET MAINTENANT ? L'INDUSTRIE DE L'IA PEUT-ELLE ÉCOUTER ?

Le message du pape Léon XIV est clair : l’industrie de l’IA a besoin de pressions extérieures et de contraintes internes pour éviter une catastrophe. Mais peut-elle vraiment s’arrêter ? Les campagnes d’introduction en Bourse, les levées de fonds, les parts de marché… Tout pousse à une accélération sans fin. Pourtant, des signes montrent que les consciences s’éveillent. Olah lui-même, en acceptant de prendre la parole au Vatican, a montré qu’il était prêt à remettre en question les fondements de son propre travail.

Le dialogue entre le Vatican et la Silicon Valley est un début. Mais il ne suffira pas à lui seul. Il faudra que les dirigeants de l’IA, les régulateurs, les citoyens, et les institutions comme l’Église, unissent leurs forces pour encadrer cette technologie. Sinon, le risque n’est pas seulement une nouvelle forme d’esclavage, mais une perte de contrôle totale sur nos propres créations.