EUA e China propõem controles semelhantes aos nucleares para IA

Propostas de segurança para inteligência artificial entre potências

Especialistas em segurança de ambas as superpotências estão recomendando que os Estados Unidos e a China adotem medidas de proteção para sistemas de inteligência artificial similares aos protocolos estabelecidos para armamentos nucleares. A iniciativa surge em contexto de crescente preocupação com máquinas cada vez mais autônomas e poderosas que poderiam interferir em infraestruturas críticas ou redes de comando militar.

Um cenário particularmente crítico apontado pelos especialistas envolve sistemas de IA que possam comprometer operações nucleares ou executar ataques digitais de grande escala. Nessas situações, governos como Washington ou Pequim teriam apenas minutos para determinar se o ataque foi perpetrado intencionalmente pelo país rival ou se resultou de falha tecnológica, deixando margem mínima para decisões adequadas.

Diálogo bilateral sobre IA e segurança nacional

O diálogo entre representantes dos dois países ocorre através de iniciativa conjunta envolvendo a Brookings Institution e o Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua, mantida desde 2019. Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participam ativamente dessas discussões que orientam negociações oficiais de segurança.

As recomendações foram divulgadas antes de negociações governamentais sobre segurança de IA e de encontro agendado entre Donald Trump e Xi Jinping, marcado para 24 de setembro em Washington. Esse contexto evidencia a importância estratégica crescente que as duas nações atribuem aos riscos emergentes da inteligência artificial em ambientes militares.

Limites rígidos para sistemas nucleares autônomos

Entre as propostas apresentadas, destaca-se a exigência de que apenas seres humanos tenham autoridade para iniciar ataques digitais envolvendo sistemas de IA contra infraestruturas nucleares ou estratégicas. Sisson argumenta que máquinas autônomas são vulneráveis a falhas, podem extrapolar suas instruções originais ou ser comprometidas por hackers, criando situações potencialmente catastróficas.

O risco de interpretação equivocada é particularmente grave em cenários militares. Um país alvo de ataque pode ter dificuldade em distinguir se a ação foi acidental, resultado de erro técnico, ou constituiu operação deliberada ordenada pelo rival. Essa ambiguidade em ambiente de alta tensão geopolítica poderia levar a escaladas indesejadas e perigosas.

Jiang propôs limites explícitos impedindo que inteligência artificial decida independentemente sobre emprego de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Essas proteções deveriam estender-se também a infraestruturas críticas como setores de energia, finanças e saúde, setores que sustentam a estabilidade socioeconômica das nações.

Definição comum de controle humano significativo

Ambos os países reconhecem formalmente que seres humanos devem manter controle sobre decisões de emprego de armas nucleares. Todavia, falta definição clara e mutuamente aceita do que constitui "controle humano significativo" em operações mediadas por inteligência artificial. A ausência dessa padronização permite interpretações divergentes que poderiam justificar diferentes níveis de autonomia das máquinas.

Jiang defendeu estabelecimento de definição comum para evitar que Washington e Pequim usem a mesma linguagem para legitimar práticas substantivamente diferentes. Tal clareza é fundamental para construir confiança mútua e evitar suspeitas recíprocas que poderiam alimentar corrida armamentista tecnológica descontrolada.

Esse princípio foi anteriormente endossado pelo presidente Joe Biden e pelo líder chinês Xi Jinping em novembro de 2024, representando raro ponto de convergência entre as potências. Pesquisadora sênior do Instituto Internacional de Pesquisa para a Paz de Estocolmo, Lora Saalman observou em fevereiro que esse consenso é importante, apesar de sinais indicarem que ambos os países integram cada vez mais IA a sistemas nucleares e energéticos.

Linha direta para incidentes de IA autônoma

Jiang também propôs estabelecimento de linha direta militar exclusiva entre Washington e Pequim para gerenciar incidentes envolvendo inteligência artificial. A justificativa é que trocas digitais automatizadas podem intensificar-se rapidamente, reduzindo drasticamente o tempo disponível para intervenção humana e análise racional.

Cenário preocupante envolve IA defensiva de um país respondendo automaticamente a atividades suspeitas, enquanto o outro lado interpreta a reação como ataque efetivo, retalando antes de compreender o ocorrido. Uma linha direta permitiria comunicação rápida entre governos para informar que operação incomum de IA foi acidental, não autorizada ou permanecia sob investigação.

Contudo, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade prática dessa linha direta, considerando experiências recentes. Freeman citou recusa de autoridades chinesas em atender ligações de homólogos norte-americanos durante "incidente do balão espião" em fevereiro de 2023, demonstrando fragilidades em mecanismos de comunicação existentes.

Desafios bureaucráticos chineses para comunicação

A rígida hierarquia da burocracia chinesa representa obstáculo adicional. Oficiais de baixo escalão raramente tomam iniciativa em interações com homólogos norte-americanos sem autorização de liderança superior. Freeman argumentou que ninguém no sistema chinês se comunica com Estados Unidos até que alta liderança, em consulta com atores relevantes no partido-Estado, tenha decidido sobre resposta, processo que pode levar dias ou mais.

Essa estrutura burocrática contrasta com sistemas de tomada de decisão ocidentais mais ágeis, criando assimetrias que poderiam comprometer efetividade de mecanismos de comunicação em crises que exigem resposta rápida e coordenada.

Posicionamento oficial dos governos

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua até o momento. Todavia, a China vem incorporando progressivamente inteligência artificial à sua estrutura de controle de armas. A IA é área formal de atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador chinês para desarmamento, afirmou em reunião da ONU em Genebra em junho que IA militar pode afetar estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar potencial de escalada de conflitos. Segundo ele, armas devem permanecer sob controle humano efetivo.

Pequim também argumenta que segurança de IA não deve servir de pretexto para criação de barreiras tecnológicas que prejudiquem seu desenvolvimento. Washington, por sua vez, não possui órgão único equivalente para tratar controle de armas relacionado à inteligência artificial. A política é distribuída entre Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências.

Cautelesismo ante restrições tecnológicas

Ambos os governos mantêm postura cautelosa ante medidas que possam desacelerar seu desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos controles tecnológicos norte-americanos tentativa de preservar liderança militar e econômica. Essa dinâmica de desconfiança mútua complica negociações sobre frameworks de segurança para inteligência artificial, ainda que ambas as nações reconheçam a urgência de estabelecer guardrails para evitar escaladas inadvertidas em ambiente onde máquinas processam informações em velocidades que transcendem capacidade cognitiva humana.