Frente a la ilusión poshumanista, la capacidad del vínculo

En el ámbito geopolítico y ante el retorno de la lógica de la fuerza en las relaciones internacionales, León XIV se presenta como un verdadero denunciante de alerta ante la ilusión tecnológica alimentada por una élite de Silicon Valley. Esta pretende superar, mediante la inteligencia artificial (IA), los límites del ser humano y conducirlo hacia el transhumanismo y el poshumanismo. Son aspiraciones prometeicas de superar las fronteras humanas que revelan un rechazo no solo hacia el mundo, sino también hacia la propia idea de un Creador.

Frente a estas aspiraciones, la encíclica responde: “(…) La humanidad, magnífica y herida, no debe ser ni reemplazada ni superada. Puede acoger los avances de la técnica para aliviar los sufrimientos y abrir nuevas posibilidades”, siempre que no reniegue de aquello que la define, es decir, la capacidad de relación y de amor (N. del E., las cursivas son nuestras). En este punto surge una pregunta decisiva: si existe un auténtico “más que humano”, ¿dónde se encuentra? La fe cristiana responde señalando “un cumplimiento que no proviene de una divinización tecnológica, sino de la acción de la gracia de Dios recibida en Cristo”.

La encíclica recuerda que la inteligencia artificial no es moralmente neutral, sino que permanece influenciada por los “sesgos” de sus programadores. Su propia concepción depende de decisiones éticas, valores y modelos económicos subyacentes, lo que exige una gran lucidez por parte de sus usuarios.

El peligro de la cosificación mencionado anteriormente es uno de los principales desafíos que la IA plantea a quienes la utilizan: León XIV advierte sobre el riesgo de reducir a la persona humana a una simple secuencia de datos cuantificables y de indicadores de rendimiento.

La encíclica también denuncia el colonialismo digital: alerta sobre la concentración masiva del poder y de los recursos digitales en manos de unas pocas empresas transnacionales privadas, creando nuevas formas de esclavitud y un espacio de depredación de los datos de los pueblos.

Una simple exploración de la red permite constatar que existen robots recolectores de datos, scrapers y crawlers que recopilan hasta nuestros intercambios más pequeños.

En perfecta continuidad con la evolución contemporánea de la doctrina social iniciada por el papa Francisco, Magnifica Humanitas da un paso más al reafirmar la superación de la teoría clásica de la “guerra justa”. Ante el desarrollo de armas autónomas y algoritmos de selección de objetivos militares, insiste en que confiar decisiones letales e irreversibles a máquinas rompe definitivamente con la responsabilidad moral del uso de la fuerza armada. Por ello, exige un “desarme algorítmico” mundial.

Contra las armas autónomas

El papa explica, en efecto, que ha escuchado a científicos e ingenieros; a responsables políticos, funcionarios, padres y docentes, así como a otras voces “muy preocupantes” sobre “sistemas de armas cada vez más autónomos, prácticamente fuera del alcance de cualquier control humano”.

También precisa que posee “testimonios muy preocupantes de algoritmos capaces de bloquear el acceso a la atención médica, al empleo y a la seguridad sobre la base de datos marcados por prejuicios e injusticias”. Expresa su angustia ante “el silencio de quienes no tienen voz cuando se toman decisiones, decisiones susceptibles de generar nuevas formas de exclusión y sufrimiento”.

Desarmar la IA

De esta escucha nació una “convicción inquietante”, expresada en Magnifica Humanitas: es necesario “despertar las conciencias e indicar el camino que debe seguir la humanidad”. “La inteligencia artificial debe ser desarmada”.

Sobre este tema, es importante saber que California, donde tienen su sede los gigantes tecnológicos estadounidenses como Google, Meta, OpenAI (ChatGPT) y Anthropic, implementó el lunes 29 de septiembre de 2025 una importante ley de regulación de la IA. La norma impone obligaciones de transparencia a las empresas que desarrollan los modelos más complejos, obligándolas a hacer públicos sus protocolos de seguridad e informar sobre incidentes graves.

El texto obliga a las empresas a reportar comportamientos engañosos y peligrosos de la IA durante las pruebas. Por ejemplo, si un modelo miente sobre la eficacia de los controles diseñados para impedirle ayudar en la fabricación de armas biológicas o nucleares, los desarrolladores deben revelar el incidente si este incrementa considerablemente el riesgo de daños.

“Los propios informes de las empresas líderes en IA revelan avances preocupantes en todas las categorías de amenazas”, señalaba en junio de 2025 el grupo de expertos creado por el gobernador de California para perfeccionar el texto bajo la dirección de especialistas reconocidos de la Universidad de Stanford, apodada la “madrina de la IA”.

Magnífica Humanitas se publica en un momento en que decenas de miles de millones de dólares en inversiones en IA llegan a Silicon Valley, mientras crecen las preocupaciones sobre posibles desvíos de los modelos más avanzados. Así fue como la encíclica fue presentada durante una sesión en la que participó Christopher Olah, cofundador de Anthropic, una empresa que en abril pasado se negó a hacer público su modelo más potente, Claude Mythos. La encíclica considera que este modelo es demasiado peligroso, en materia de ciberseguridad, desarrollo de armas e impacto sobre la sociedad y el trabajo, como para ser desplegado sin estrictas medidas de protección.

Magnifica Humanitas, una encíclica que debe leerse sin demora.

Leer también:

La encíclica de León XIV sobre la IA: ¿Torre de Babel o Ciudad santa? (2/3)

La Encíclica "Magnifica humanitas" de León XIV, texto fundacional sobre la IA (1/3)