Diante da ilusão pós-humanista, a capacidade do vínculo

No âmbito geopolítico e diante do retorno da lógica da força nas relações internacionais, Leão XIV se apresenta como um verdadeiro alerta diante da ilusão tecnológica alimentada por uma certa elite do Vale do Silício. Esta pretende superar, por meio da inteligência artificial (IA), os limites do ser humano e conduzi-lo em direção ao transumanismo e ao pós-humanismo. São aspirações prometeicas de ultrapassar os limites humanos que revelam não apenas uma rejeição do mundo, mas também da própria ideia de um Criador.

A essas aspirações, a encíclica responde: “(…) A humanidade, magnífica e ferida, não deve ser substituída nem superada. Ela pode acolher os progressos da técnica para aliviar os sofrimentos e abrir novas possibilidades”, desde que não renuncie àquilo que a torna humana, isto é, a capacidade de relação e de amor (N.R.: os itálicos são nossos). Nesse ponto, uma questão decisiva se impõe: se existe um verdadeiro “mais que humano”, onde ele se encontra? A fé cristã responde indicando “um cumprimento que não deriva de uma divinização tecnológica, mas da ação da graça de Deus recebida em Cristo”.

A encíclica lembra que a inteligência artificial não é moralmente neutra, mas permanece influenciada pelos “vieses” de seus programadores. Sua própria concepção depende de escolhas éticas, valores e modelos econômicos subjacentes, o que exige grande lucidez por parte de seus usuários.

Isso porque o perigo da reificação mencionado anteriormente é um dos principais desafios lançados pela IA ao seu usuário: Leão XIV alerta para o risco de reduzir a pessoa humana a uma simples sequência de dados quantificáveis e indicadores de desempenho.

A encíclica também denuncia o colonialismo digital: ela alerta para a concentração massiva de poder e recursos digitais nas mãos de algumas empresas transnacionais privadas, criando novas formas de escravidão e um espaço de predação dos dados dos povos.

Uma simples exploração da internet permite constatar que existem robôs coletores de dados, scrapers e crawlers, que recolhem nossas menores interações.

Em perfeita continuidade com a evolução contemporânea da doutrina social iniciada pelo Papa Francisco, Magnifica humanitas dá um passo além ao reafirmar a superação da teoria clássica da “guerra justa”. Diante do desenvolvimento de armas autônomas e de algoritmos de seleção de alvos militares, insiste no fato de que confiar decisões letais irreversíveis a máquinas rompe definitivamente a responsabilidade moral do engajamento armado. Por isso, exige um “desarmamento algorítmico” mundial.

Contra as armas autônomas

O papa explica, de fato, que ouviu cientistas e engenheiros, autoridades políticas, funcionários públicos, pais e professores, além de outras vozes “muito preocupantes”, a respeito de “sistemas de armas cada vez mais autônomos, praticamente fora do alcance de qualquer controle humano”.

Ele também afirma possuir “testemunhos muito preocupantes de algoritmos capazes de bloquear o acesso aos cuidados de saúde, ao emprego e à segurança com base em dados contaminados por preconceitos e injustiças”. Ele expressa sua angústia diante do “silêncio daqueles que não têm voz quando decisões são tomadas, decisões suscetíveis de gerar novas formas de exclusão e sofrimento”.

Desarmar a IA

Dessa escuta nasceu uma “convicção inquietante”, expressa em Magnifica humanitas: é necessário “despertar as consciências e indicar o caminho a seguir para a humanidade”. “A inteligência artificial deve ser desarmada.”

Sobre esse tema, é importante saber que a Califórnia, onde estão sediados gigantes americanos da tecnologia como Google, Meta Platforms, OpenAI (ChatGPT) e Anthropic, implementou na segunda-feira, 29 de setembro de 2025, uma importante lei de regulamentação da IA. A legislação impõe obrigações de transparência às empresas que desenvolvem os modelos mais complexos, obrigando-as a tornar públicos seus protocolos de segurança e a comunicar incidentes graves.

O texto obriga as empresas a informar comportamentos enganosos e perigosos da IA durante os testes. Por exemplo, se um modelo mentir sobre a eficácia dos controles criados para impedir que ele auxilie na fabricação de armas biológicas ou nucleares, os desenvolvedores devem revelar o incidente caso ele aumente significativamente os riscos de danos.

“Os próprios relatórios das empresas líderes em IA revelam avanços preocupantes em todas as categorias de ameaças”, destacou em junho de 2025 o grupo de especialistas criado pelo governador da Califórnia para aprimorar o texto sob a orientação de renomados especialistas da Universidade de Stanford, chamada de “madrinha da IA”.

Magnifica Humanitas é publicada em um momento em que dezenas de bilhões de dólares em investimentos em IA chegam ao Vale do Silício, mas também crescem as preocupações sobre possíveis desvios dos modelos mais avançados. Foi nesse contexto que a encíclica foi apresentada durante uma sessão da qual participou Christopher Olah, cofundador da Anthropic, uma empresa que se recusou, em abril passado, a tornar público seu modelo mais poderoso, Claude Mythos. A encíclica considera esse modelo perigoso demais, em termos de cibersegurança, desenvolvimento de armas e impacto sobre a sociedade e o trabalho, para ser implantado sem salvaguardas rigorosas.

Magnifica Humanitas, uma encíclica para ser lida com urgência.

Leia também:

A encíclica de Leão XIV sobre a IA: Torre de Babel ou Cidade Santa (2/3)

A Encíclica "Magnifica humanitas" de Leão XIV, texto fundador sobre a IA (1/3)