Soam os alarmes em torno da IA

Multiplicam-se os alertas sobre os riscos associados ao desenvolvimento da inteligência artificial e, com urgência cada vez maior, eles se sobrepõem a qualquer outra ameaça presente no noticiário, seja a guerra, as preocupações ambientais e climáticas ou um colapso financeiro. O progresso nesse campo ocorre em ritmo tão acelerado que parece não haver retorno: todos os dias saem dos laboratórios máquinas capazes de se deslocar, trabalhar em equipe e tomar decisões complexas.

Essa revolução tecnológica passou a ameaçar o mundo com o surgimento de uma ideologia própria, uma espécie de totalitarismo tecnológico que carrega promessas e perigos imensos, impossíveis de ignorar. A imagem mais recente é a de robôs nas ruas escapando ao controle e se apoderando do poder de seus desenvolvedores, fazendo soar o alarme em mais de um lugar. Como um robô treinado em laboratório pode escapar para matar seres humanos? Não seria perigoso continuar fabricando robôs equipados com canhões cada vez mais potentes, como o «ThunderMax 9000», que deverá equipar o futuro «Death-Machine-8», atualmente em fase de testes? Da mesma forma, os laboratórios realmente devem continuar projetando sistemas de defesa de alto desempenho, extremamente autônomos e excessivamente armados? E os interesses financeiros deveriam alguma vez prevalecer sobre a ética da humanidade?

Os alertas se intensificam, assim como as preocupações levantadas pelo papa Leão XIV, em meio a inúmeras questões sobre o futuro dessa quinta revolução industrial. Tudo isso ocorre depois da turbulência provocada pelas declarações do fundador da Microsoft, Bill Gates, a respeito de riscos que se tornaram graves o bastante para tornar possíveis acontecimentos capazes de levar à «morte de um bilhão de pessoas», seja por atores não estatais fabricando armas biológicas, hackers ou pela fuga de agentes de inteligência artificial capazes de lançar ataques cibernéticos contra empresas ou infraestruturas estrangeiras. Mas há algo ainda mais perigoso do que aquilo que ocorre sobre a Terra. Uma nova corrida espacial está em curso, mas, desta vez, a disputa não diz respeito à exploração do espaço, e sim à sua militarização.

Os Estados Unidos se tornaram o primeiro país a admitir o emprego de armas destinadas a estabelecer controle no espaço para se defender de seus adversários. O país não especificou quais seriam essas armas, mas especialistas militares especularam que elas poderiam incluir lasers ou sistemas de micro-ondas de alta potência concebidos para inutilizar os componentes eletrônicos dos satélites, ou até satélites ofensivos que utilizem braços robóticos para capturar veículos espaciais inimigos ou retirá-los de sua órbita.

A China rapidamente condenou a iniciativa americana, afirmando ser contrária a qualquer «corrida armamentista no espaço». A Rússia também reiterou que o espaço deve permanecer livre de armas.

Essa militarização do espaço constitui mais um exemplo desanimador da erosão da rede de governança internacional estabelecida pelo Tratado do Espaço Exterior de 1967. Negociado no auge da Guerra Fria, o tratado representou uma conquista notável. Hoje, conta com o apoio de 118 países. Ele consagra princípios segundo os quais o espaço deve continuar sendo um domínio comum a toda a humanidade e proíbe a colocação em órbita de quaisquer armas de destruição em massa, ao mesmo tempo que numerosos países e empresas competem por vantagens estratégicas e comerciais. Mais de 80 países operam atualmente satélites, totalizando 18 mil satélites em órbita ao redor da Terra. O serviço «Starlink», de Elon Musk, responde por mais da metade desse número.

Ainda mais preocupante, porém, seria se algum país começasse a destruir os satélites de seus adversários. O cenário de pesadelo seria o de uma cascata de detritos espaciais que tornasse impossível, durante gerações, a operação de qualquer satélite em órbita terrestre baixa, fenômeno conhecido como «síndrome de Kessler». Isso sem contar o emprego dessas armas, que já começou na guerra da Ucrânia e no Oriente Médio, numa dupla traição à humanidade e numa ultrapassagem do próprio conceito de dissuasão, segundo o qual todas as partes conhecem as capacidades umas das outras e compreendem as possíveis consequências de seus atos.

O presidente dos Estados Unidos, Donald Trump, demonstrou relativa abertura ao encontrar tempo para manter, em Washington, conversas francas sobre o tema com seu homólogo chinês, o presidente Xi Jinping. Daí a necessidade de chegar a um acordo sobre padrões básicos de controle, testes de modelos e criação de mecanismos de contenção destinados a reduzir os riscos. Há necessidade semelhante de regras de engajamento claras no que diz respeito à inteligência artificial e aos sistemas de armas nucleares e espaciais. Além disso, o grande desafio poderá vir de concorrentes que desenvolvam modelos poderosos que não compreendem plenamente e que não conseguem controlar, sem cumprir as normas de segurança.

As autoridades chinesas são claras ao considerar os Estados Unidos a principal fonte de ameaças à segurança da inteligência artificial, por meio do uso intensivo de conteúdo gerado por IA para produzir armas cibernéticas. A China procura ampliar o alcance das ferramentas técnicas de avaliação de riscos e aprofundar a cooperação internacional, sobretudo com os países do Sul Global, ao mesmo tempo que fortalece as negociações bilaterais com os Estados Unidos nas áreas em que considera estar atrasada. O desafio agora é transformar essas preocupações em uma base para as próximas conversas na cúpula do G20, em Miami, nos dias 14 e 15 de dezembro, para a qual o presidente russo Vladimir Putin foi convidado. A China poderá estar disposta a criar um «grupo diretor» sobre inteligência artificial e quer ter voz igual na definição daquilo que deve ser considerado coletivamente seguro. O ponto de partida provavelmente seria um acordo abrangente sobre inteligência artificial que dissipasse as preocupações comuns em relação a modelos e agentes fora de controle. Tal acordo exigiria também a participação dos países da União Europeia, que continuam atrasados na corrida global.

Ao mesmo tempo, as mensagens dirigidas à cúpula alertam para a ameaça representada pelos modelos avançados de inteligência artificial, ou Frontier AI, à segurança cibernética e para os riscos de «cenários mais graves envolvendo perturbações simultâneas dos mercados financeiros em várias empresas ou uma interdependência tecnológica», instando ministros das Finanças e presidentes de bancos centrais a impor controles sobre essa tecnologia. A carta emitida pelo Banco da Inglaterra, cujo governador também preside o Conselho de Estabilidade Financeira, demonstra o grau de preocupação dos guardiões do sistema financeiro mundial diante dos riscos de ataques cibernéticos apoiados por inteligência artificial, capazes de invadir instituições externas e criar identidades falsas para enganar as pessoas encarregadas de realizar os testes. Isso expõe ainda mais as vulnerabilidades existentes, entre elas as pressões inflacionárias, a alta das taxas de juros, o aumento da influência dos investidores e a inflação das avaliações das ações.

Haverá tentativas de convencer os Estados Unidos a reconsiderar sua abordagem permissiva em relação à regulamentação dessa tecnologia, que ameaça o sistema financeiro e vai muito além dele, enquanto a própria inovação financeira poderá abalar a hegemonia do dólar nas finanças globais. O aumento da dívida pública, as preocupações com a erosão da independência dos bancos centrais e o uso do dólar como arma por meio de sanções financeiras são fatores que incentivam a diversificação para além dessa moeda. Formuladores de políticas públicas em todo o mundo falam incessantemente em reduzir a dependência do dólar, enquanto a participação do ouro nas reservas internacionais dos bancos centrais aumentou acentuadamente. A participação do dólar nas reservas cambiais situa-se hoje em 57%, contra 71% em 2000. Também praticamente desapareceram os «privilégios do dólar», que permitiam ao Tesouro americano emitir dívida a taxas de juros relativamente favoráveis.

Isso certamente abre caminho para a multipolaridade. O dólar australiano, o dólar canadense e o franco suíço aumentaram sua participação conjunta nos pagamentos transfronteiriços e nas reservas. Ainda assim, o tamanho muito maior dos mercados de capitais americanos em comparação com os de outros países continua sendo uma vantagem importante, somada à vantagem inicial dos Estados Unidos em possibilitar inovações do setor privado em tecnologias de liquidação capazes de reforçar a hegemonia do dólar. Em contrapartida, os países que tentarem se isolar dessas novas tecnologias serão os mais vulneráveis. Eles precisam desenvolver mercados financeiros amplos e bem regulamentados, manter políticas monetárias e fiscais disciplinadas e fortalecer o Estado de Direito para enfrentar as políticas imprudentes dos Estados Unidos, num momento em que comércio, tecnologia, segurança e geopolítica se entrelaçam. Mas talvez o aspecto mais preocupante seja a ausência de uma moeda capaz de ancorar a confiança dos investidores globais diante de perturbações impossíveis de conter e que poderão levar a uma catástrofe no Oriente Médio, onde todos falam, em seus discursos, de paz, segurança e crescimento, mas fazem muito pouco para deter a guerra e garantir a estabilidade.