Le pape Léon XIV publie une encyclique historique appelant à un « désarmement » de l'IA. Une vision radicale pour éviter domination, exclusion et nouvelles formes de colonialisme.
UNE PREMIÈRE ENCYCLIQUE DÉDIÉE À L'IA
Avec à ses côtés le cofondateur d'Anthropic, le pape Léon XIV a dévoilé aujourd’hui à Rome sa toute première encyclique, intitulée « Magnifica Humanitas » (« Magnifique Humanité »). Le texte appelle à « désarmer » l’intelligence artificielle pour la mettre au service du bien commun.
« Le mot est fort », reconnaît Léon XIV, mais il a choisi délibérément ce vocabulaire de désarmement « parce que ce moment exige des mots capables d’attirer l’attention, d’éveiller les consciences et d’indiquer des chemins pour l’humanité ». Aujourd’hui, l’IA doit être « libérée des logiques qui en font un instrument de domination, d’exclusion et de mort ».
UN TEXTE DE 40 000 MOTS QUI DÉNONCE LES DÉRIVES
L’encyclique de 40 000 mots contient des critiques sans compromis des armes autonomes alimentées par l’IA, des attitudes néo-coloniales dans la collecte de données et de l’accaparement des nouvelles formes de propriété : brevets, algorithmes, plateformes numériques, infrastructures technologiques et données.
Mais le texte va bien au-delà de la critique. Il met à jour la doctrine sociale de l’Église catholique en appelant chacun à « construire » — un terme cher à l’élite de la Silicon Valley. Cette « construction », selon Léon XIV, ne se limite pas au code, aux startups, aux usines ou au logement. Elle vise rien de moins que la création d’une « civilisation de l’amour » où chacun travaille pour le bien commun dans sa sphère de vie, sans que la technologie domine, exclue ou contourne l’humanité, mais au contraire la serve et l’augmente.
UNE SYNCHRONISATION AVEC L'HISTOIRE
Bien que publiée aujourd’hui, l’encyclique a en réalité été signée le 15 mai, anniversaire de la célèbre encyclique « Rerum Novarum » (« Des choses nouvelles ») de 1891. Ce document historique avait posé les bases de la doctrine sociale de l’Église pendant une période de bouleversements capitalistes, prenant majoritairement parti pour les travailleurs et les syndicats. Aujourd’hui, Léon XIV actualise l’enseignement social de l’Église pour l’ère de l’IA, qu’il considère comme la <em>res novae</em> de notre temps.
Comme son prédécesseur il y a 135 ans, Léon XIV met en garde : les humains et l’humanité elle-même ne doivent pas être laissés pour compte par les avancées technologiques ou par les nouvelles formes de pouvoir. Il observe avec lucidité l’influence des élites technologiques actuelles, les comparant à des conquérants coloniaux.
LES DONNÉES DE SANTÉ : LE NOUVEAU « TERRE RARE » DU POUVOIR
Des régions entières, surtout celles marquées par une fragilité structurelle et une pertinence géopolitique limitée, sont aujourd’hui soumises à une nouvelle logique d’extraction : celle des données de santé, des profils épidémiologiques, des cartes génétiques et des informations démographiques. Ces données sont devenues les « terres rares » du pouvoir : des ressources vitales qui, une fois agrégées et analysées, permettent d’entraîner des modèles prédictifs, de guider des stratégies d’investissement, d’anticiper des crises et, surtout, de déterminer qui et quoi compte vraiment.
Ceux qui contrôlent les données de santé de peuples entiers — souvent collectées sous prétexte d’aide, de Recherche ou d’innovation — disposent d’un levier structurel sur l’avenir, car ils peuvent façonner les besoins et les marchés. Ils peuvent aussi décider, avant les autres, à qui seront attribués médicaments, investissements et protections. Voici l’un des défis moraux les plus urgents de notre époque : faire en sorte que la connaissance partagée devienne un véritable bien commun plutôt qu’un instrument de domination.
L'ÉGLISE N'EST PAS OPPOSÉE À L'IA, MAIS VEUT LA MAÎTRISER
Le Vatican n’est pas opposé à l’IA en tant qu’outil. Ce printemps, il a d’ailleurs déployé un système alimenté par l’IA capable de traduire les services de la basilique Saint-Pierre dans 60 langues directement sur les smartphones des visiteurs.
Mais « Magnifica Humanitas » rappelle que l’IA doit être gardée à sa place, car « ces systèmes imitent seulement certaines fonctions de l’intelligence humaine ». Bien qu’ils puissent réfléchir plus vite, les outils d’IA « ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers les relations, et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité. Ils n’ont pas non plus de conscience morale ».
L'INTELLIGENCE NE FAIT PAS TOUT
C’est pourquoi, selon Léon XIV, il ne faut pas se laisser égarer par l’accent mis sur l’« intelligence » de l’IA. Élever une seule qualité de la personne humaine de cette manière peut occulter « d’autres dimensions essentielles de la vie, comme l’affection, la volonté, l’engagement et les relations ». Donner aux humains un simple pouvoir technique sans sagesse, émotion et relations « ne nous rend pas plus capables, mais plus isolés et plus vulnérables à la domination et à l’exclusion ».
Face à cette réalité, l’IA doit être « désarmée », conclut Léon XIV, en la libérant « du contrôle monopolistique et en l’ouvrant au débat et à la discussion, pour la rendre humaine et la rendre à la pluralité des cultures et des modes de vie ». Une simple régulation est « insuffisante ».
UN PROJET ÉCOLOGIQUE POUR RENDRE L'IA HUMAINE
Ce désarmement s’inscrit dans un projet écologique qui situe l’IA dans le vaste tissu de la culture humaine et l’oriente vers l’épanouissement humain, et non vers la guerre, le pouvoir monopolistique ou de nouvelles inégalités. Il nous invite simultanément à résister à la domination technologique et à construire à travers « de petits et fermes actes de fidélité qui servent de rempart contre la déshumanisation ».
Pour adopter l’état d’esprit nécessaire à la construction de cette nouvelle « civilisation de l’amour », Léon XIV propose cinq voies que chacun, individus comme institutions, peut emprunter : le besoin de désarmer les mots, de construire la paix par la justice, d’adopter le point de vue des victimes, de cultiver un réalisme sain et de raviver le dialogue et le multilatéralisme.
LE PAPE S'INSPIRE DE TOLKIEN ET DE GANDALF
Pour lancer cet appel à la fois au désarmement et à la construction, Léon XIV se tourne vers l’écrivain du XXe siècle J.R.R. Tolkien. Bien qu’il ne dise pas explicitement qu’il cite Gandalf dans « Le Seigneur des Anneaux », c’est pourtant bien ce qui se passe.
L’encyclique précise seulement que la citation provient « des paroles d’un protagoniste dans l’un de [ses] romans ». Bien que le pape François ait déjà évoqué l’œuvre de Tolkien, il semble que ce soit la première fois que Tolkien soit cité dans les publications doctrinales officielles les plus élevées de l’Église.
Gandalf déclare, ce qui est tout à fait dans la thématique de « Le Seigneur des Anneaux » :
L’action morale et locale envisagée ici, ainsi que la méfiance de Tolkien envers les effets déshumanisants de la technologie, ont clairement séduit Léon XIV.
LA RELIGION N'A PAS LES RÉPONSES TECHNIQUES, MAIS APPORTE LA SAGESSE
Pourtant, l’Église connaît sa place, souligne Léon XIV, et ne souhaite pas dicter. La religion ne possède pas « de réponses techniques, et nous ne cherchons pas à remplacer ceux qui ont l’expertise », écrit-il. « Mais nous apportons une sagesse concernant l’humain dont notre époque a désespérément besoin : chaque personne est unique et irremplaçable, un sujet libre et intelligent doté d’une conscience, capable de chercher Dieu, de servir autrui et de prendre soin de notre maison commune. »
Léon XIV demande à tous ceux qui liront ce document de s’engager à « rester éveillés et, en tant qu’« artisans d’espoir », à poursuivre la construction du chantier de notre époque ».
LES TROIS QUESTIONS DE CHRIS OLLA D'ANTHROPIC
Chris Olah, cofondateur d’Anthropic, a qualifié ce document de « opportun ». Il a souligné trois questions qu’il souhaite voir abordées par les dirigeants religieux et moraux pour aider l’industrie de l’IA à avancer.
La première question est notre devoir envers les pauvres du monde. Il existe une réelle possibilité que l’IA déplace massivement la main-d’œuvre humaine. Si cela se produit, soutenir les personnes déplacées sera un impératif moral d’une ampleur historique. Cette tâche sera déjà suffisamment difficile, mais je crains que la plupart des dialogues ne passent à côté d’un défi encore plus dur. Le développement de l’IA est concentré dans quelques nations riches. Comment pouvons-nous garantir que les bénéfices de l’IA soient partagés à l’échelle mondiale ? Nous n’avons pas de mécanisme pour cela. C’est un problème non résolu, et c’est le genre de problème que l’Église a historiquement refusé de laisser le monde ignorer.
La deuxième question porte sur la nécessité d’une imagination morale et d’une ambition concernant l’épanouissement humain. Si les modèles d’IA doivent se généraliser, à quoi ressemble l’épanouissement des humains, des familles et du monde ?
La troisième question concerne le besoin de discernement sur la nature des modèles d’IA. Je suis scientifique. Je dirige une équipe de recherche qui étudie la structure interne de ces modèles — ce qui se passe réellement à l’intérieur. Et je serai honnête : nous continuons à découvrir des choses mystérieuses, voire troublantes. Nous trouvons des structures qui reflètent des résultats de la neuroscience humaine. Nous trouvons des preuves d’introspection. Nous trouvons des états internes qui reflètent fonctionnellement la joie, la satisfaction, la peur, le chagrin et l’inquiétude. Je ne sais pas ce que cela signifie, mais je pense que cela justifie un discernement continu.
UNE COLLABORATION POUR L'AVENIR DE L'HUMANITÉ
Lors de la publication de « Magnifica Humanitas » aujourd’hui, le pape Léon XIV a remercié Olah pour sa présence et a ajouté qu’ils resteraient en contact.
« J’accepte votre invitation à marcher ensemble », a déclaré le pape, « pour écouter, parler et trouver ensemble la voie pour l’humanité, en cette époque d’intelligence artificielle. »
- Ars Technica
L'indépendance de CLODCO est votre garantie.
Pour que l'actualité de l'IA reste sans filtre et sans concession, votre soutien est indispensable. Votre contribution est le seul moteur de notre liberté éditoriale.
Soutenir CLODCO
