Dois pesquisadores oferecem um modelo para Washington e Pequim
Especialistas dos Estados Unidos e da China querem impedir que sistemas de inteligência artificial tomem decisões autônomas sobre o emprego de armas nucleares, e agora apresentaram propostas específicas que esperam que ambos os governos adotem. Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade de Fudan, publicaram as recomendações antes de uma reunião planejada entre o presidente Trump e o presidente Xi Jinping em 24 de setembro — um momento que parece ter sido escolhido para colocar linguagem concreta diante dos formuladores de políticas enquanto um diálogo de alto nível ainda está agendado.
Em vez de pedir uma moratória ampla sobre aplicações militares da IA, os dois pesquisadores concentram-se em um pequeno número de linhas vermelhas claramente definidas. Esse enquadramento reflete um julgamento implícito: as áreas em que os interesses americano e chinês mais obviamente se sobrepõem são também aquelas em que as consequências de um erro de cálculo seriam mais difíceis de conter.
As linhas vermelhas que as propostas traçariam
As recomendações detalham várias proibições, cada uma voltada a um modo específico de falha, e não à tecnologia em geral.
Nenhuma autoridade independente para lançar
A primeira e mais consequente regra diz respeito à autoridade de lançamento. Segundo as propostas, nenhum sistema de IA teria permissão para lançar armas nucleares por conta própria. A disposição fecharia qualquer caminho pelo qual um algoritmo, por mais capaz que seja, pudesse ordenar um ataque sem uma decisão humana por trás.
Sistemas de comando nuclear fora dos limites
Uma segunda linha vermelha proíbe o uso de IA para atacar sistemas de comando nuclear. Como esses sistemas estão no centro da capacidade de um Estado de detectar, decidir e retaliar, operações automatizadas contra eles carregam um risco excepcionalmente alto de serem interpretadas como preparação para um primeiro ataque. Excluí-los do direcionamento habilitado por IA pretende remover esse gatilho específico.
Humanos mantêm controle exclusivo de operações cibernéticas
Uma terceira disposição aborda o ciberespaço. Humanos seriam obrigados a manter controle exclusivo sobre ciberataques conduzidos por IA direcionados a infraestrutura estratégica. Operações cibernéticas são um domínio em que a ação na velocidade da máquina já é plausível e em que a linha entre sondar e paralisar um adversário pode ser turvada pelo ritmo das ferramentas automatizadas.
Concordar sobre o que "controle humano" realmente significa
Na base das proibições específicas está um problema de definição. As propostas pedem que ambos os países concordem com uma definição compartilhada de "controle humano". Sem esse vocabulário comum, cada lado poderia alegar conformidade enquanto opera sob padrões que o outro não reconhece — precisamente o tipo de ambiguidade que acordos de controle de armas historicamente tiveram dificuldade em eliminar.
Apoiando-se em um acordo já alcançado
As recomendações baseiam-se em um entendimento entre Biden e Xi alcançado em novembro de 2024. Esse compromisso anterior estabeleceu adesão política no mais alto nível, mas não resolveu as questões operacionais sobre o que é proibido, quem verifica a conformidade ou como as disputas são resolvidas. As novas propostas são uma tentativa de converter uma declaração de intenções em algo mais próximo de um manual de regras funcional.
Enquadrar o esforço como extensão de um entendimento existente é uma escolha diplomática deliberada. Permite que ambos os governos apresentem as medidas como continuidade, e não como concessão, o que importa quando públicos domésticos de ambos os lados tendem a ler qualquer arranjo bilateral de segurança como enfraquecimento de posição.
Uma linha direta criada em torno de incidentes de IA
Jiang também propõe criar uma linha direta dedicada a incidentes de IA. O raciocínio é direto e vale detalhar. Suponha que um sistema de IA defensivo responda automaticamente ao que registra como atividade suspeita. O outro lado, observando essa resposta sem contexto, poderia lê-la como o movimento de abertura de um ataque, e não como reação a um sinal mal interpretado. Uma linha direta entre os governos permitiria que um lado esclarecesse que um incidente foi acidental antes que a situação escale além do ponto em que o esclarecimento ainda é útil.
Na prática, a linha direta é projetada para quebrar um ciclo automatizado com uma conversa humana — restaurando a tomada de decisão mais lenta e deliberada que os sistemas automatizados deveriam comprimir.
Por que alguns analistas duvidam da ideia da linha direta
Nem todos estão convencidos de que esse canal funcionaria quando é mais necessário. Carla Freeman, da Universidade Johns Hopkins, questiona se linhas diretas desse tipo funcionariam sequer. Ela aponta para a crise do balão espião em 2023, quando a China não atendeu quando os Estados Unidos ligaram.
Esse exemplo vai ao cerne do problema de verificação. Uma linha direta só tem valor na medida da disposição de ambas as partes de atendê-la durante uma crise genuína, e momentos de crise são exatamente quando os governos estão menos inclinados a confiar em um canal desconhecido. A objeção não é que a comunicação seja desnecessária, mas que mecanismos institucionais precisam ser exercitados e normalizados muito antes que uma emergência os torne essenciais.
Cinco anos de alertas, nenhuma regra vinculante
Esta não é a primeira vez que o alarme é soado. A Comissão Nacional de Segurança sobre Inteligência Artificial pediu a preservação do controle humano sobre armas nucleares já em 2021. Mais de cinco anos depois, mecanismos vinculantes ainda não existem.
Essa lacuna — entre um diagnóstico amplamente compartilhado e a ausência de qualquer instrumento aplicável — é o obstáculo central que as novas propostas precisam superar. O consenso entre especialistas foi alcançado em linhas gerais: poucas vozes sérias argumentam que máquinas deveriam decidir se usar armas nucleares. O que se mostrou elusivo é a engrenagem para tornar esse consenso vinculante, verificável e duradouro ao longo de mudanças de governo.
A janela estreita antes de 24 de setembro
As propostas chegam em um momento em que os dois governos se preparam para se reunir, o que dá às ideias uma chance de passar das páginas de um artigo de think tank para as conversas preparatórias que moldam a agenda de uma cúpula. Se isso acontecerá, e se alguma das linhas vermelhas sobreviverá ao contato com o processo de negociação, dependerá de fatores que estão bem fora do controle dos pesquisadores.
O que as propostas conseguem é tornar o caso concreto. Em vez de alertas gerais sobre os riscos da IA militar, elas identificam proibições específicas, uma tarefa de definição e um canal de comunicação de crise — um conjunto de itens que poderia plausivelmente ser discutido, adotado em parte ou rejeitado de imediato. Em uma área de política em que os riscos são medidos em minutos e milhas, essa especificidade é, por si só, uma contribuição: transforma uma preocupação abstrata em uma lista de decisões que os formuladores de políticas podem de fato tomar.
Este artigo é baseado em reportagem do The Decoder. Leia o artigo original.
Originally published on the-decoder.com
