La encíclica de León XIV sobre la IA: ¿Torre de Babel o Ciudad santa? (2/3)

Para ilustrar su argumento y darle una dimensión bíblica, el papa León XIV utiliza, en su encíclica Magnifica Humanitas sobre la era digital y la Inteligencia Artificial (IA), una metáfora: la humanidad debe elegir entre construir una nueva “Torre de Babel” o edificar la “Ciudad santa”.

La historia de la Torre de Babel es un episodio bíblico del Libro del Génesis. Poco después del Diluvio, cuando todos los hombres hablaban la misma lengua, decidieron construir una ciudad y una torre cuya cima llegara hasta el cielo, con el objetivo de hacerse un nombre. Entonces Dios confundió su lengua para que dejaran de entenderse entre ellos y los dispersó por toda la superficie de la Tierra (Génesis 11:1-9).

El mito tuvo una fecundidad extraordinaria en la historia de las ideas y dio lugar a reflexiones sobre el origen de la diversidad de las lenguas, el poder del esfuerzo colectivo, el pecado de la soberbia, la aspiración a la totalidad del conocimiento, entre otros temas.

El tema de la “Ciudad santa”, iniciado en el Libro de Nehemías, cierra el Nuevo Testamento y ocupa un lugar central en la obra de san Agustín. La Ciudad santa simboliza todo aquello que es humanamente y divinamente posible y deseable: la paz, la justicia, las relaciones de amistad de Cristo con sus santos, la fidelidad doctrinal, entre otros elementos. Para la fe cristiana, corresponde a la humanidad elevarse por encima de sí misma para construir esta Ciudad, siguiendo las grandes orientaciones de la doctrina social de la Iglesia.

La irresponsabilidad de la “Realpolitik”

Al describir el mundo en el que vivimos, León XIV observa que, lejos de todas las promesas que las naciones se hicieron después de la Segunda Guerra Mundial y del grito de “Nunca más la guerra” que lanzó Europa, “la lógica del equilibrio armado y de la disuasión parece volver para imponerse”.

“Pero, a diferencia del escenario bipolar de la Guerra Fría, añade el Papa, la multiplicación de actores y de frentes de conflicto vuelve hoy esta lógica cada vez más frágil. La intensificación de los enfrentamientos conduce a guerras asimétricas e “híbridas”, libradas también en los ámbitos económico, financiero e informático, con el recurso a la desinformación y a campañas que alimentan el miedo para influir en la opinión pública. En numerosos países, incluidos los del Sur global, el aumento del gasto militar se presenta como la única respuesta ante un futuro incierto o frente a amenazas percibidas, mientras que el costo real recae sobre los más pobres, quienes ven disminuir los recursos destinados a la salud, la educación y los servicios sociales”.

“Detrás de todo esto, insiste León XIV, se esconde un falso “realismo”, basado no solo en la lógica bien establecida de la fuerza, sino también en una convicción cultural y antropológica, como si la guerra formara inevitablemente parte de la naturaleza humana. Siempre ha sido así, se dice, salvo breves paréntesis, ¡y siempre será así! El problema ya no es entonces la paz, perdida como referencia en el escenario internacional, sino cómo y cuándo actuar militarmente, mientras se afirma que sería irresponsable no prepararse para el enfrentamiento inevitable. Lo verdaderamente irresponsable es la Realpolitik, esa forma de “realismo” político que siembra tanto en las conciencias como en la cultura la resignación ante una guerra inevitable, y que considera la paz y el diálogo como posiciones utópicas o irracionales que ignoran los riesgos en juego.” (§205)

El modo de producción de la economía digital

En otro ámbito, León XIV se detiene en el modo de producción de la economía digital. Esta, afirma, “se basa en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos, a menudo muy perjudiciales, entrenamiento de modelos. En muchos casos se trata de jóvenes, en su mayoría mujeres, que trabajan arduamente por salarios miserables. A este cansancio invisible se suma otro aún más brutal: el de la extracción de los recursos necesarios para la producción de los dispositivos y microprocesadores sobre los que se sostiene la IA”.

“En algunas regiones del mundo, señala el Sumo Pontífice, niños y adolescentes trabajan en condiciones peligrosas en la trituración de materiales de los que se extraen tierras raras. Cuerpos marcados, mutilados, utilizados para que el flujo de procesamiento nunca se detenga. Además, redes criminales utilizan plataformas en línea, sistemas de mensajería, pagos anónimos y técnicas de perfilamiento para reclutar, controlar y trasladar a víctimas de trata, con frecuencia menores de edad, transformando a hombres y mujeres en “datos” que deben rastrearse y en “paquetes” que deben desplazarse dentro de los mismos circuitos digitales que sostienen gran parte de la economía mundial”.

Y añade: “Esta realidad interpela profundamente la conciencia moral de nuestro tiempo. No basta con invocar la eficiencia ni con celebrar los beneficios de la innovación si estos se apoyan en una cadena de explotación que permanece deliberadamente invisible”.

La paz, fruto de la justicia y la caridad

Para el papa Prevost, “la paz no es una esperanza ingenua ni una simple ausencia de guerra”, sino “el fruto, siempre posible, de la justicia y de la caridad”. Para ilustrar esta afirmación, León XIV cita a J.R.R. Tolkien, el gran escritor católico británico del siglo XX, quien describe nuestra responsabilidad a través de las palabras de Gandalf, uno de los protagonistas de la trilogía El Señor de los Anillos: “Sin embargo, no nos corresponde reunir todas las mareas del mundo, sino hacer lo que esté en nuestras manos para ayudar durante los años en los que nos ha tocado vivir, arrancando el mal de los campos que conocemos, para que quienes vivan después de nosotros puedan tener una tierra limpia que cultivar”.

Para nosotros, cuyas tierras cultivables y olivares son pulverizados con glifosato y fósforo, estas palabras deberían resonar con especial fuerza.

Próximo artículo:

Contra la ilusión poshumanista, la capacidad de relación y de amor (3/3)

Leer también sobre el mismo tema:
La encíclica Magnifica Humanitas de León XIV, texto fundador sobre la IA (1/3)