Especialistas em segurança dos Estados Unidos e da China defendem que os dois países estabeleçam limites rígidos e canais de comunicação para sistemas de inteligência artificial usados em contextos nucleares e militares.
As recomendações foram divulgadas na semana passada, dias antes de negociações oficiais sobre IA e do encontro entre os presidentes Donald Trump e Xi Jinping, marcado para 24 de setembro, em Washington.
Quem está por trás das propostas
As recomendações partem de Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor da Universidade de Fudan. Os dois integram um diálogo entre EUA e China sobre IA e segurança nacional, mantido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
Sisson defende que apenas seres humanos tenham autoridade para iniciar ataques digitais com IA contra sistemas de comando, controle e comunicação nucleares de outro país. Um sistema autônomo pode falhar, extrapolar instruções ou ser comprometido — e o país-alvo teria dificuldade para saber se o ataque foi acidental ou deliberado.
Jiang propôs limites explícitos para impedir que a IA decida sozinha sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear, além de proteções para infraestruturas críticas como energia, finanças e saúde. Ele defende ainda uma definição comum de controle humano significativo, para evitar que os dois países usem a mesma expressão com sentidos diferentes.
A proposta reforça um princípio já endossado por Joe Biden e Xi Jinping em novembro de 2024: o de que humanos devem manter o controle sobre decisões de uso de armas nucleares. As recomendações foram publicadas estrategicamente às vésperas das negociações formais sobre IA que os dois países planejam realizar antes da visita de Xi a Washington, marcada para 24 de setembro.
Linha direta para incidentes automatizados
Jiang também propôs a criação de uma linha direta militar exclusiva entre EUA e China para incidentes envolvendo IA autônoma. Segundo ele, trocas digitais automatizadas podem se intensificar rapidamente, reduzindo o tempo disponível para intervenção humana: a IA defensiva de um país pode responder automaticamente a uma atividade suspeita, e o outro lado pode interpretar a reação como ataque e retaliar antes de entender o que ocorreu.
Ceticismo e resistência dos governos
Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua. Ainda assim, a China já trata a IA como área formal do Departamento de Controle de Armas do Ministério das Relações Exteriores, e o embaixador para desarmamento, Shen Jian, afirmou em reunião da ONU, em Genebra, que a IA militar pode aumentar riscos de erro de cálculo e escalada de conflitos.
O ministro da Segurança do Estado chinês, Chen Yixin, foi mais direto ao afirmar nesta semana que a IA “transforma fundamentalmente a forma da luta militar”, citando ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã. A retórica reforça um alerta que Pequim já havia feito a Washington em março, quando comparou os riscos da militarização da tecnologia a um cenário de descontrole das máquinas.
Especialistas como Carla Freeman, da Johns Hopkins, questionam se uma nova linha direta funcionaria melhor que os canais já existentes: ela cita a recusa de autoridades chinesas em atender ligações dos EUA durante o incidente do balão espião, em 2023, e aponta que a hierarquia rígida da burocracia chinesa impede que oficiais de baixo escalão tomem iniciativa em crises. Do lado americano, a política de segurança nacional é dividida entre Casa Branca, Departamento de Estado e Pentágono, sem um órgão único para o tema — desafio que ecoa o alerta da ONU de que governos já perderam a corrida contra o avanço da IA.