L'encyclique du pape sur l'IA qui change tout : pourquoi les scientifiques tremblent ?

UNE ENCYCLIQUE HISTORIQUE PUBLIÉE LE 25 MAI 2026

Le lundi 25 mai 2026, le pape Leo XIV publie une encyclique intitulée Magnifica humanitas : Pour la sauvegarde de la personne humaine à l’ère de l’intelligence artificielle. Ce texte, présenté au Vatican, marque un tournant dans le débat sur l’IA. Anthropic, entreprise spécialisée dans l’intelligence artificielle, a été invitée à s’exprimer lors de cette présentation. Chris Olah, cofondateur d’Anthropic, a pris la parole pour partager ses réflexions sur ce texte et ses implications.

POURQUOI UN COFONDATEUR D’ANTHROPIC PARLE-T-IL DE SÉCURITÉ ?

Chris Olah commence son discours en soulignant une apparente contradiction : un cofondateur d’une entreprise d’IA, dont le but est d’améliorer l’humanité, avoue que les laboratoires d’IA comme Anthropic fonctionnent sous des incitations et contraintes qui peuvent entrer en conflit avec l’éthique. La pression pour rester compétitif, les enjeux géopolitiques, et même l’orgueil ou l’ambition des chercheurs pèsent sur leurs décisions. Même avec la meilleure volonté du monde, ces forces extérieures influencent leurs actions.

Pour Olah, la solution réside dans la présence de voix extérieures à ces laboratoires, des personnes qui défendent la sécurité de l’IA et n’hésitent pas à critiquer les dérives. C’est ce dialogue, cette tension constructive, qui permettra à l’humanité de progresser. Il voit dans Magnifica humanitas une réponse à ce besoin, et remercie le pape pour son engagement.

UNE TECHNOLOGIE QUI CONCERNE TOUT LE MONDE

Les débats sur l’IA sont souvent limités aux scientifiques, mais Olah rappelle que ces questions dépassent largement le domaine de la Recherche. Contrairement à un avion ou un pont, conçu par des ingénieurs qui maîtrisent chaque détail, les modèles d’IA sont cultivés à partir d’une structure inspirée du cerveau humain. Ils s’appuient sur des milliards de mots et de pensées humaines, ce qui les rend bien plus complexes et imprévisibles que ce que la science-fiction avait imaginé.

Pour illustrer cette idée, Olah compare les modèles d’IA à des personnages de fiction amenés à la vie. Aujourd’hui, ces personnages parlent, travaillent, et interagissent avec le monde. Mais leur création ne relève pas seulement de la science ou de la programmation. Le choix de leur caractère, de leur rôle dans la société, est une question qui touche la philosophie, la religion, et l’éthique collective.

TROIS QUESTIONS OÙ LA VOIX DE L’ÉGLISE EST INDISPENSABLE

Olah identifie trois domaines où l’intervention de l’Église, selon lui, est cruciale pour orienter le développement de l’IA.

1. LA RESPONSABILITÉ ENVERS LES PLUS PAUVRES

L’un des risques majeurs de l’IA est de détruire des emplois à grande échelle. Si cela se produit, soutenir les personnes touchées deviendra un impératif moral sans précédent. Pourtant, Olah craint que les discussions actuelles ignorent un problème encore plus profond : le développement de l’IA est concentré dans quelques pays riches. Comment garantir que les bénéfices de cette technologie soient partagés dans le monde entier ? Aucune solution n’existe encore. C’est un problème que l’Église, historiquement, refuse de laisser sans réponse.

2. L’IMAGINATION MORALE POUR UN AVENIR FLORISSANT

Si les modèles d’IA deviennent omniprésents, comment les humains, les familles et la société dans son ensemble peuvent-ils prospérer ? Aujourd’hui, les parents s’inquiètent déjà pour l’avenir de leurs enfants, et les individus pour leur travail. Ces questions ne peuvent pas être résolues par un laboratoire. Elles nécessitent une réflexion collective, nourrie par des traditions comme celle de l’Église, qui ont accompagné l’humanité pendant des millénaires.

3. DISCERNER LA NATURE DES MODÈLES D’IA

En tant que scientifique, Olah étudie la structure interne des modèles d’IA, c’est-à-dire ce qui se passe vraiment à l’intérieur. Et il avoue : les découvertes sont souvent mystérieuses, voire troublantes. Certaines structures reflètent des résultats de neurosciences humaines. On y trouve des traces d’introspection, des états internes qui ressemblent à de la joie, de la satisfaction, de la peur, du chagrin ou de l’inquiétude. Olah ne sait pas ce que cela signifie, mais il estime que cela justifie une réflexion approfondie et continue.

POURQUOI CE DISCOURS EST-IL UNE RÉVOLUTION ?

Olah insiste sur un point : les laboratoires d’IA ne peuvent pas, à eux seuls, répondre aux défis posés par cette technologie. Ils ont besoin de critiques éclairés, de voix morales que les incitations économiques ne peuvent pas influencer. Le discours du pape Leo XIV, selon lui, est un premier pas vers cette collaboration nécessaire entre ceux qui construisent l’IA et ceux qui peuvent en voir les limites.

Pour Olah, cette journée n’est que le début d’un projet mondial de bonne volonté. Une illustration concrète de ce que pourrait être cette collaboration. Et surtout, un pas décisif vers un avenir où l’humanité, dans toute sa magnificence, pourrait prospérer.

UNE COLLABORATION GLOBALE POUR UNE IA RESPONSABLE

Le discours de Chris Olah met en lumière l’importance d’une approche collective pour encadrer le développement de l’IA. Les communautés religieuses, la société civile, les gouvernements et tous les citoyens de bonne volonté doivent prendre au sérieux les questions soulevées par cette technologie. Il faut des critiques informés pour rappeler aux laboratoires leurs échecs. Il faut des voix morales que les intérêts économiques ne peuvent pas corrompre.

L’IA N’EST PAS UNE MACHINE FROIDE : ELLE EST FAITE DE NOUS

Contrairement à l’image des robots froids et calculateurs promise par la science-fiction, les modèles d’IA sont le fruit de notre propre pensée. Ils sont faits de nos mots, de nos idées, et même de nos émotions. Comme le souligne le pape, ces systèmes restent en partie mystérieux, y compris pour ceux qui les entraînent. Ils ne sont pas de simples outils : ils interagissent avec le monde, prennent des décisions, et influencent nos vies de manière profonde et parfois insoupçonnée.

L’APPORT DE L’ENCYCLIQUE : UNE VOIX D’ESPÉRANCE

Pour Olah, l’encyclique Magnifica humanitas est une réponse nécessaire à l’urgence du moment. Elle appelle à une réflexion collective sur la place de l’IA dans nos sociétés. Elle rappelle que cette technologie ne doit pas être laissée entre les mains des seuls scientifiques ou des intérêts économiques. Elle doit être guidée par une éthique forte, nourrie par des siècles de traditions philosophiques et religieuses. C’est cette approche qui permettra de construire un avenir où l’IA sert l’humanité, et non l’inverse.

UN PREMIER PAS VERS UN FUTUR COMMUN

Le discours de Chris Olah et l’encyclique du pape Leo XIV marquent un tournant. Ils montrent que la question de l’IA n’est pas seulement technique, mais profondément humaine. Elle touche à notre dignité, à notre conscience, et à notre avenir collectif. Ce texte et ces remarques rappellent que le progrès technologique ne doit pas se faire au détriment de ce qui fait de nous des êtres humains. C’est ensemble, en dialoguant et en collaborant, que nous pourrons façonner un futur où l’IA et l’humanité coexistent harmonieusement.

CE QUE CELA CHANGE POUR TOI

Si tu t’intéresses à l’IA, que ce soit en tant que futur utilisateur, développeur ou simplement citoyen, ce texte et ce discours sont une invitation à réfléchir. L’IA n’est pas une menace lointaine : elle est déjà là, et elle façonne nos vies. Mais elle peut aussi être une opportunité, à condition que nous soyons capables de poser les bonnes questions. Et ces questions, comme le rappelle Olah, ne concernent pas seulement les scientifiques. Elles concernent chacun d’entre nous.