A encíclica de Leão XIV sobre a IA: Torre de Babel ou Cidade Santa (2/3)

Para ilustrar seu argumento e dar-lhe uma dimensão bíblica, o papa Leão XIV utiliza, em sua encíclica Magnifica humanitas sobre a era digital e a Inteligência Artificial (IA), uma metáfora: a humanidade deve escolher entre construir uma nova “Torre de Babel” ou erguer a “Cidade santa”.

A história da Torre de Babel é um episódio bíblico do Livro do Gênesis. Pouco depois do Dilúvio, quando todos falavam a mesma língua, os homens decidiram construir uma cidade e uma torre cujo topo alcançasse o céu, para tornar célebre o próprio nome. Então Deus confundiu sua língua para que eles deixassem de se compreender e os dispersou por toda a superfície da Terra (Gênesis 11:1-9).

O mito teve uma fecundidade extraordinária na história das ideias e inspirou reflexões sobre a origem da diversidade das línguas, o poder do esforço coletivo, o pecado do orgulho, a totalização do conhecimento, entre outros temas.

O tema da “Cidade santa”, iniciado no Livro de Neemias, encerra o Novo Testamento e ocupa um lugar central na obra de Santo Agostinho. A Cidade santa simboliza tudo aquilo que é humana e divinamente possível e desejável: paz, justiça, as relações de amizade de Cristo com seus santos, fidelidade doutrinal, entre outros valores. Para a fé cristã, cabe à humanidade elevar-se acima de si mesma para construir essa Cidade, seguindo as grandes orientações da doutrina social da Igreja.

A irresponsabilidade da “Realpolitik”

Ao descrever o mundo em que vivemos, Leão XIV observa que, longe de todas as promessas feitas pelas nações após a Segunda Guerra Mundial e do grito “Nunca mais a guerra” lançado pela Europa, “a lógica do equilíbrio armado e da dissuasão parece estar voltando para se impor”.

“Mas, ao contrário do cenário bipolar da Guerra Fria, acrescenta o Papa, a multiplicação dos atores e das frentes de conflito torna hoje essa lógica cada vez mais frágil. A intensificação dos confrontos conduz a guerras assimétricas e ‘híbridas’, travadas também nos campos econômico, financeiro e informático, com o recurso à desinformação e a campanhas que alimentam o medo, para influenciar a opinião pública. Em muitos países, inclusive nos países do Sul, o aumento dos gastos militares é apresentado como a única resposta a um futuro incerto ou a ameaças percebidas, enquanto o custo real recai sobre os mais pobres, que veem diminuir os recursos destinados à saúde, à educação e aos serviços sociais.”

“Por trás de tudo isso, insiste Leão XIV, esconde-se um falso ‘realismo’, baseado não apenas na lógica consolidada da força, mas também em uma convicção cultural e antropológica, como se a guerra fizesse inevitavelmente parte da natureza humana. Sempre foi assim, dizem, com exceção de breves intervalos, e sempre será assim! O problema, portanto, já não é a paz, perdida como referência no cenário internacional, mas como e quando agir militarmente, ao mesmo tempo em que se afirma que seria irresponsável não se preparar para o confronto inevitável. O que é realmente irresponsável é a Realpolitik, essa forma de ‘realismo’ político que semeia, tanto nas consciências quanto na cultura, a resignação diante de uma guerra inevitável e que considera a paz e o diálogo como posições utópicas ou irracionais, que ignoram os riscos envolvidos.” (§205).

O modo de produção da economia digital

Em outro momento, Leão XIV se dedica ao modo de produção da economia digital. Ela se baseia, afirma, “no trabalho silencioso de milhões de seres humanos, empregados em atividades pouco visíveis, mas essenciais: etiquetagem de dados, moderação de conteúdos, muitas vezes extremamente nocivos, treinamento de modelos. Em muitos casos, trata-se de jovens, em sua maioria mulheres, que trabalham arduamente por salários miseráveis. A esse cansaço invisível soma-se outro, ainda mais brutal, relacionado à extração dos recursos necessários para a produção dos dispositivos e dos microprocessadores sobre os quais se apoia a IA”.

“Em algumas regiões do mundo, destaca o Sumo Pontífice, crianças e adolescentes trabalham em condições perigosas na trituração dos materiais dos quais são extraídas as terras raras. Corpos marcados, mutilados, utilizados para que o fluxo de processamento nunca seja interrompido. Além disso, redes criminosas utilizam plataformas online, sistemas de mensagens, pagamentos anônimos e técnicas de criação de perfis para recrutar, controlar e transportar vítimas do tráfico humano, frequentemente menores de idade, transformando homens e mulheres em ‘dados’ a serem rastreados e em ‘pacotes’ a serem deslocados dentro dos mesmos circuitos digitais que sustentam grande parte da economia mundial.”

E acrescenta: “Essa realidade interpela profundamente a consciência moral do nosso tempo. Não basta invocar a eficiência, nem celebrar os benefícios da inovação, se eles se baseiam em uma cadeia de exploração que permanece deliberadamente invisível.”

A paz, fruto da justiça e da caridade

Para o papa Prévost, “a paz não é uma esperança ingênua nem uma simples ausência de guerra”, mas “o fruto, sempre possível, da justiça e da caridade”. Ilustrando essa afirmação, Leão cita J.R.R. Tolkien, o grande escritor católico britânico do século XX, descrevendo, pela boca de Gandalf, um dos protagonistas da trilogia O Senhor dos Anéis, nossa responsabilidade: “Não nos cabe dominar todas as marés do mundo, mas fazer aquilo que está ao nosso alcance para o auxílio dos anos em que fomos colocados, arrancando o mal dos campos que conhecemos, para que aqueles que viverem depois de nós possam ter uma terra limpa para cultivar”.

Para nós, cujas terras cultiváveis e oliveiras são pulverizadas com glifosato e fósforo, essas palavras deveriam soar particularmente verdadeiras.

Próximo artigo:

Contra a ilusão pós-humanista, a capacidade de relação e de amor (3/3)

Leia também sobre o mesmo tema:

A encíclica Magnifica Humanitas de Leão XIV, texto fundador sobre a IA (1/3)