Face à l’illusion post-humaniste, la capacité du lien

Sur le fond géopolitique et le retour de la logique de la force dans les relations internationales, Léon XIV se présente comme un véritable lanceur d’alerte face à l’illusion technologique que nourrit une certaine élite de la Silicon Valley. Celle-ci prétend dépasser par l’intelligence artificielle (IA) les limites de l’homme et le conduire vers le transhumanisme et le post-humanisme. Des aspirations prométhéennes à dépasser les limites humaines qui respirent la haine non seulement du monde, mais de l’idée même d’un Créateur.

À ces aspirations, l’encyclique répond: «(…) L’humanité – magnifique et blessée – ne doit être ni remplacée ni dépassée. Elle peut accueillir les progrès de la technique pour soulager les souffrances et ouvrir de nouvelles possibilités», à condition de ne pas renier ce qui fait d’elle ce qu’elle est, c’est-à-dire la capacité de relation et d’amour (NDLR, les italiques sont de nous). À ce stade, une question décisive s’impose: s’il existe un authentique «plus qu’humain», où se trouve-t-il? La foi chrétienne y répond en indiquant «un accomplissement qui ne découle pas d’une divinisation technologique, mais de l’opération de la grâce de Dieu reçue dans le Christ».

L’encyclique rappelle que l’intelligence artificielle n’est pas moralement neutre, mais reste influencée par les «biais» de ses programmateurs. Sa conception même dépend de choix éthiques, de valeurs et de modèles économiques sous-jacents, ce qui nécessite une grande lucidité de la part de son utilisateur.

C’est que le danger de la réification cité plus haut est l’un des défis majeurs lancés par l’IA à son utilisateur: Léon XIV met en garde contre le risque de réduire la personne humaine à une simple suite de données quantifiables et de performances.

L’encyclique dénonce aussi le colonialisme numérique: elle alerte sur la concentration massive du pouvoir et des ressources numériques entre les mains de quelques firmes transnationales privées, créant de nouvelles formes d’esclavage et un espace de prédation des données des peuples.

Une simple exploration de la toile permet de constater qu’il existe des robots collecteurs de données, des scrapers et des crawlers, qui ramassent nos moindres échanges.

En parfaite continuité avec l’évolution contemporaine de la doctrine sociale amorcée par le pape François, Magnifica humanitas franchit un pas supplémentaire en réaffirmant le dépassement de la théorie classique de la «guerre juste». Face au développement des armes autonomes et des algorithmes de ciblage militaire, il insiste sur le fait que confier des décisions léthales irréversibles à des machines rompt définitivement la responsabilité morale de l’engagement armé. Il exige donc un «désarmement algorithmique» mondial.

Contre les armes autonomes

Le pape explique en effet avoir écouté des scientifiques et des ingénieurs; des responsables politiques, des fonctionnaires, des parents et des enseignants, ainsi que d’autres voix, «très inquiétantes», concernant des «systèmes d’armes de plus en plus autonomes, pratiquement hors de portée de tout contrôle humain».

Il précise aussi qu’il possède des «témoignages très préoccupants d’algorithmes capables de bloquer l’accès aux soins, à l’emploi et à la sécurité sur la base de données entachées de préjugés et d’injustices». Il dit sa détresse face au «silence de ceux qui n’ont pas voix au chapitre lorsque des décisions sont prises, des décisions susceptibles d’engendrer de nouvelles formes d’exclusion et de souffrance».

Désarmer l’IA

De cette écoute est née une «conviction troublante», exprimée dans Magnifica humanitas: il est nécessaire «d’éveiller les consciences et d’indiquer la voie à suivre pour l’humanité». «L’intelligence artificielle doit être désarmée.»

À ce sujet, il faut savoir que la Californie, où sont basés les géants américains des technologies tels que Google, Meta, OpenAI (ChatGPT) et Anthropic, a mis en place lundi 29 septembre 2025 une loi majeure de régulation de l’IA. La loi impose des obligations de transparence pour les entreprises développant les modèles les plus complexes, en les contraignant à rendre publics leurs protocoles de sécurité et à signaler les incidents graves.

Le texte oblige les entreprises à signaler les comportements trompeurs dangereux de l’IA pendant les tests. Par exemple, si un modèle ment sur l’efficacité des contrôles conçus pour l’empêcher d’aider à fabriquer des armes biologiques ou nucléaires, les développeurs doivent dévoiler l’incident s’il augmente considérablement les risques de dommages.

«Les propres rapports des entreprises de pointe de l’IA révèlent des progrès inquiétants dans toutes les catégories de menaces», soulignait en juin 2025 le groupe de réflexion mis en place par le gouverneur de Californie, pour affiner le texte sous l’égide d’experts de renom de l’université de Stanford, surnommée la «marraine de l’IA».

Magnifica humanitas est publiée au moment où des dizaines de milliards de dollars d’investissement dans l’IA affluent vers la Silicon Valley, mais où croissent les inquiétudes sur les dérives possibles des modèles les plus avancés. C’est ainsi que l’encyclique a été présentée au cours d’une séance à laquelle participait Christopher Olah, cofondateur d’Anthropic, une entreprise qui a refusé, en avril dernier, de rendre public son modèle le plus puissant, Claude Mythos. L’encyclique le juge trop dangereux (en matière de cybersécurité, de développement d’armes et d’impact sur la société et le travail), pour être déployé sans garde-fous stricts.

Magnifica humanitas, une encyclique à lire toutes affaires cessantes.

Lire aussi:

– L’encyclique de Léon XIV sur l’IA: Tour de Babel ou Cité sainte (2/3)

– L’Encyclique «Magnifica humanitas» de Léon XIV, texte fondateur sur l’IA (1/3)