Suenan las alarmas en torno a la IA

Se multiplican las advertencias sobre los riesgos asociados al desarrollo de la inteligencia artificial y, con una urgencia cada vez mayor, están desplazando a cualquier otra amenaza presente en las noticias, ya se trate de la guerra, de las preocupaciones ambientales y climáticas o de un colapso financiero. Los avances en este campo se producen a un ritmo tan acelerado que parece no haber vuelta atrás: cada día salen de los laboratorios máquinas capaces de desplazarse, trabajar en equipo y tomar decisiones complejas.

Esta revolución tecnológica amenaza ya con hacer surgir una ideología propia, una suerte de totalitarismo tecnológico portador de promesas y peligros enormes que no pueden ignorarse. La imagen más reciente es la de robots en las calles que escapan del control y se apoderan del poder de sus desarrolladores, haciendo sonar las alarmas en más de un lugar. ¿Cómo puede un robot entrenado en un laboratorio escapar para matar seres humanos? ¿No es peligroso seguir fabricando robots equipados con cañones cada vez más potentes, como el “ThunderMax 9000”, que equipará al futuro “Death-Machine-8”, actualmente en fase de pruebas? Del mismo modo, ¿deben realmente los laboratorios seguir diseñando sistemas de defensa de alto rendimiento, extremadamente autónomos y excesivamente armados? ¿Y deberían alguna vez los intereses financieros imponerse sobre la ética de la humanidad?

Las advertencias aumentan, al igual que las preocupaciones planteadas por el papa León XIV, en medio de numerosos interrogantes sobre el futuro de esta quinta revolución industrial. Todo ello ocurre después de la tormenta provocada por las declaraciones del fundador de Microsoft, Bill Gates, acerca de riesgos que se han vuelto suficientemente graves como para hacer posibles acontecimientos que podrían causar “la muerte de mil millones de personas”, ya sea a manos de actores no estatales que fabriquen armas biológicas, de piratas informáticos o por la fuga de agentes de inteligencia artificial capaces de lanzar ciberataques contra empresas o infraestructuras extranjeras. Pero existe algo aún más peligroso que lo que ocurre sobre la Tierra. Actualmente se desarrolla una nueva carrera espacial, aunque esta vez no se trata de exploración espacial, sino de su militarización.

Estados Unidos se convirtió en el primer país en reconocer el despliegue de armas destinadas a establecer un control en el espacio para defenderse de sus adversarios. No ha especificado de qué armas se trata, pero expertos militares han especulado que podrían incluir láseres o sistemas de microondas de alta potencia concebidos para inutilizar los componentes electrónicos de los satélites, o incluso satélites ofensivos que utilicen brazos robóticos para capturar vehículos espaciales enemigos o sacarlos de su órbita.

China se apresuró a condenar esta iniciativa estadounidense y afirmó que se opone a cualquier “carrera armamentista en el espacio”. Rusia también reiteró que el espacio debe permanecer libre de armas.

Esta militarización del espacio constituye otro ejemplo desalentador de la erosión de la red de gobernanza internacional establecida por el Tratado sobre el Espacio Ultraterrestre de 1967. Negociado en plena Guerra Fría, el tratado constituyó un logro notable. Hoy cuenta con el respaldo de 118 países. Consagra principios según los cuales el espacio debe seguir siendo un ámbito común para toda la humanidad y prohíbe el despliegue en órbita de cualquier arma de destrucción masiva, mientras numerosos países y empresas compiten por obtener ventajas estratégicas y comerciales. Más de 80 países operan actualmente satélites, con un total de 18,000 satélites en órbita alrededor de la Tierra. El servicio “Starlink” de Elon Musk representa más de la mitad de esa cifra.

Sin embargo, aún más preocupante sería que algún país comenzara a destruir los satélites de sus adversarios. El escenario de pesadilla sería que la acumulación de desechos espaciales volviera imposible durante generaciones la operación de cualquier satélite en órbita terrestre baja, un fenómeno conocido como “síndrome de Kessler”. Esto sin contar el uso de esas armas, que ya ha comenzado en la guerra de Ucrania y en Medio Oriente, en lo que constituye una doble traición a la humanidad y una superación del propio concepto de disuasión, basado en que todas las partes conozcan las capacidades de las demás y comprendan las posibles consecuencias de sus actos.

El presidente estadounidense Donald Trump mostró una apertura relativa cuando encontró tiempo para mantener en Washington conversaciones francas sobre el tema con su homólogo chino, el presidente Xi Jinping. De ahí la necesidad de acordar normas básicas de control, procedimientos para probar los modelos y mecanismos de contención destinados a reducir los riesgos. Existe una necesidad similar de establecer reglas de enfrentamiento claras en materia de inteligencia artificial y de sistemas de armas nucleares y espaciales. Además, el gran desafío podría provenir de competidores que desarrollen modelos potentes que no comprendan plenamente y que sean incapaces de controlar, sin cumplir las normas de seguridad.

Los funcionarios chinos son claros al considerar a Estados Unidos como la principal fuente de amenazas para la seguridad de la inteligencia artificial, debido al uso intensivo de contenidos generados por IA para producir armas cibernéticas. China busca ampliar el alcance de las herramientas técnicas para evaluar riesgos y profundizar la cooperación internacional, especialmente con los países del Sur Global, al tiempo que refuerza las negociaciones bilaterales con Estados Unidos en aquellos ámbitos en los que considera estar rezagada. El desafío ahora consiste en convertir estas preocupaciones en una base para las próximas conversaciones de la cumbre del G20 que se celebrará en Miami los días 14 y 15 de diciembre, a la que fue invitado el presidente ruso Vladimir Putin. China podría estar dispuesta a crear un “grupo directivo” sobre inteligencia artificial y quiere tener la misma voz a la hora de definir qué debe considerarse colectivamente seguro. El punto de partida probablemente sería un acuerdo global sobre inteligencia artificial que disipara las preocupaciones compartidas respecto de modelos y agentes fuera de control. Dicho acuerdo también requeriría la participación de los países de la Unión Europea, que siguen rezagados en la carrera mundial.

Al mismo tiempo, los mensajes dirigidos a la cumbre advierten sobre la amenaza que los modelos avanzados de inteligencia artificial, o Frontier AI, representan para la ciberseguridad, así como sobre el riesgo de “escenarios más graves que impliquen perturbaciones simultáneas de los mercados financieros en múltiples empresas o una interdependencia tecnológica”, e instan a ministros de Finanzas y gobernadores de bancos centrales a imponer controles sobre esta tecnología. La carta emitida por el Banco de Inglaterra, cuyo gobernador preside también el Consejo de Estabilidad Financiera, pone de manifiesto hasta qué punto los guardianes del sistema financiero mundial están preocupados por el riesgo de ciberataques respaldados por inteligencia artificial, capaces de vulnerar instituciones externas y crear identidades falsas para engañar a quienes realizaban las pruebas. Esto pone aún más al descubierto las vulnerabilidades existentes, entre ellas las presiones inflacionarias, el aumento de las tasas de interés, la creciente influencia de los inversionistas y la inflación de las valuaciones bursátiles.

Se intentará convencer a Estados Unidos de que reconsidere su enfoque permisivo respecto de la regulación de esta tecnología, que amenaza al sistema financiero y va mucho más allá de él, mientras que la propia innovación financiera podría socavar la hegemonía del dólar en las finanzas mundiales. El aumento de la deuda pública, las preocupaciones por la erosión de la independencia de los bancos centrales y el uso del dólar como arma mediante sanciones financieras son factores que fomentan la diversificación para alejarse de esta moneda. Los responsables de las políticas públicas de todo el mundo hablan sin cesar de alejarse del dólar, mientras la proporción del oro en las reservas internacionales de los bancos centrales ha aumentado considerablemente. La participación del dólar en las reservas de divisas se sitúa ahora en 57%, frente a 71% en el año 2000. También han desaparecido casi por completo los “privilegios del dólar”, que permitían al Tesoro estadounidense emitir deuda a tasas de interés relativamente favorables.

Todo ello abre claramente el camino hacia la multipolaridad. El dólar australiano, el dólar canadiense y el franco suizo han aumentado su participación conjunta en los pagos transfronterizos y en las reservas. Sin embargo, el tamaño mucho mayor de los mercados de capitales estadounidenses en comparación con los de otros países sigue siendo una ventaja considerable, junto con la ventaja inicial de Estados Unidos a la hora de permitir innovaciones del sector privado en tecnologías de liquidación que refuercen la hegemonía del dólar. En cambio, los países que intenten aislarse de estas nuevas tecnologías serán los más vulnerables. Necesitan desarrollar mercados financieros amplios y bien regulados, mantener políticas monetarias y fiscales disciplinadas y fortalecer el Estado de derecho para hacer frente a las imprudentes políticas estadounidenses, en un momento en que comercio, tecnología, seguridad y geopolítica se entrelazan. Pero quizá lo más preocupante sea la ausencia de una moneda capaz de anclar la confianza de los inversionistas mundiales ante perturbaciones imposibles de detener y que podrían conducir a una catástrofe en Medio Oriente, donde todos hablan en sus discursos de paz, seguridad y crecimiento, pero hacen muy poco para detener la guerra y garantizar la estabilidad.