L’encyclique de Léon XIV sur l’IA: Tour de Babel ou Cité sainte (2/3)

Pour illustrer son propos et lui donner une dimension biblique, le pape Léon XIV utilise, dans son encyclique Magnifica humanitas sur l’ère numérique et l’Intelligence artificielle (IA), une métaphore: l'humanité doit choisir entre bâtir une nouvelle «Tour de Babel» ou bâtir la «Cité sainte».

L'histoire de la tour de Babel est un épisode biblique du Livre de la Genèse. Peu après le Déluge, alors qu'ils parlent tous la même langue, les hommes entreprennent de bâtir une ville et une tour dont le sommet touche le ciel, pour se faire un nom. Alors Dieu brouille leur langue afin qu'ils ne se comprennent plus, et les disperse sur toute la surface de la Terre (Genèse 11 :1-9).

Le mythe fut d'une fécondité remarquable dans l’histoire des idées et a inspiré des réflexions sur l'origine de la diversité des langues, la puissance de l'effort collectif, le péché d’orgueil, la totalisation du savoir, etc.

Le thème de la «Cité sainte», entamé dans le Livre de Néhémie, clôt le Nouveau Testament et occupe une place centrale dans l’œuvre de Saint Augustin. La Cité sainte symbolise tout ce qui est humainement et divinement possible et désirable : paix, justice, relations d’amitié du Christ avec ses saints, fidélité doctrinale, etc. Pour la foi chrétienne, il revient à l’humanité de se hisser au-dessus d’elle-même pour bâtir cette Cité, suivant les grandes orientations de la doctrine sociale de l’Eglise.

Irresponsabilité de la « Realpolitik »

Or, décrivant le monde où nous vivons, Léon XIV observe que loin de toutes les promesses que s’étaient faites les nations après la Seconde Guerre mondiale, et le cri «Plus jamais la guerre» que l’Europe avait lancé, «la logique de l’équilibre armé et de la dissuasion semble revenir pour s’imposer».

«Mais contrairement au scenario bipolaire de la Guerre froide, ajoute le Pape, la multiplication des acteurs et des fronts de conflits rend aujourd’hui cette logique de plus en plus fragile. L’exacerbation des affrontements conduit à des guerres asymétriques et “hybrides”, menées également sur les plans économique, financier et informatique, avec le recours à la désinformation et aux campagnes qui alimentent la peur, pour influencer l’opinion publique. Dans de nombreux pays, y compris dans les pays du Sud, l’augmentation des dépenses militaires est présentée comme la seule réponse à un avenir incertain ou à des menaces perçues, tandis que le coût réel pèse sur les plus pauvres qui voient diminuer les ressources allouées à la santé, à l’éducation et aux services sociaux.

«Derrière tout cela, insiste Léon XIV, se cache un faux “réalisme”, fondé non seulement sur la logique bien établie de la force, mais aussi sur une conviction culturelle et anthropologique, comme si la guerre faisait inévitablement partie de la nature humaine. Il en a toujours été ainsi, dit-on, à l’exception de brèves parenthèses, et il en sera toujours ainsi ! Le problème n’est donc plus la paix, perdue comme référence dans le paysage international, mais comment et quand agir militairement, tout en affirmant qu’il serait irresponsable de ne pas se préparer à l’affrontement inéluctable. Ce qui est vraiment irresponsable, c’est la Realpolitik, cette forme de “réalisme” politique qui sème dans les consciences comme dans la culture la résignation face à une guerre inéluctable, et qui considère la paix et le dialogue comme des positions utopiques ou irrationnelles qui ignorent les risques en jeu.» (§205).

Le mode de production de l’économie numérique

Sur un autre registre, Léon XIV s’étend sur le mode de production de l’économie numérique. Celle-ci repose, dit-il, «sur le travail silencieux de millions d’êtres humains, employés à des activités peu visibles mais essentielles : étiquetage des données, modération des contenus – souvent très mauvais –, apprentissage des modèles. Dans de nombreux cas il s’agit de jeunes, pour la majorité des femmes, qui travaillent laborieusement pour un salaire de misère. À cette fatigue invisible s’ajoute celle, encore plus brutale, de l’extraction des ressources nécessaires à la production des appareils et des microprocesseurs sur lesquels repose l’IA». 

«Dans certaines régions du monde, souligne le Souverain Pontife, des enfants et des adolescents travaillent, dans des conditions dangereuses, au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, utilisés pour que le flux de calcul ne s’interrompe jamais. En outre, des réseaux criminels utilisent des plateformes en ligne, des systèmes de messagerie, des paiements anonymes et des techniques de profilage pour recruter, contrôler et déplacer des victimes de la traite, fréquemment mineures, transformant hommes et femmes en “données” à tracer et en “colis” à déplacer au sein des mêmes circuits numériques qui soutiennent une grande partie de l’économie mondiale». 

Et d’ajouter: «Cette réalité interpelle profondément la conscience morale de notre temps. Il ne suffit pas d’invoquer l’efficacité, ni de célébrer les bienfaits de l’innovation, s’ils reposent sur une chaîne d’exploitation qui reste délibérément invisible. ». 

La paix, fruit de la justice et de la charité

Pour le pape Prévost, « la paix n’est pas un espoir naïf ni une simple absence de guerre», mais «le fruit, toujours possible, de la justice et de la charité». Illustrant cette affirmation, Léon cite J.R.R. Tolkien, le grand écrivain catholique britannique du XXe siècle,  décrivant ainsi notre responsabilité par la bouche de Gandalf, l’un des protagonistes de la trilogie Le Seigneur des Anneaux : «Il ne nous appartient toutefois pas de rassembler toutes les marées du monde, mais de faire ce qui est en nous pour le secours des années dans lesquelles nous sommes placés, déracinant le mal dans les champs que nous connaissons, de sorte que ceux qui vivront après nous puissent avoir une terre propre à cultiver». 

Pour nous, dont les terres cultivables et les oliveraies sont pulvérisées avec du glyphosate et du phosphore, ces mots devraient sonner particulièrement juste.

Prochain article: Contre l’illusion post-humaniste, la capacité de relation et d’amour (3/3)

Lire aussi sur le même thème : 

L’Encyclique «Magnifica humanitas» de Léon XIV, texte fondateur sur l’IA (1/3)