O Exército está testando até onde a defesa cibernética autônoma deve ir

O Exército dos EUA está se movendo rapidamente para examinar um papel mais agressivo da IA na defesa cibernética depois que um exercício de guerra recente com líderes de tecnologia do setor privado explorou como ataques futuros poderiam sobrecarregar operadores humanos. O exercício, conhecido como AI Table Top Exercise 2.0, reuniu executivos de 14 empresas de tecnologia, autoridades do Exército e o U.S. Cyber Command em torno de um cenário duro: uma crise no Indo-Pacífico em 2027 escalando para uma guerra cibernética contra redes militares americanas.

A principal conclusão não foi que a IA pode resolver a defesa cibernética sozinha. Foi que a defesa na velocidade humana talvez não seja mais suficiente se adversários estiverem usando sistemas de ataque adaptativos, habilitados por IA, capazes de sondar, explorar e mudar de tática mais rápido do que as pessoas conseguem responder. Isso levou autoridades do Exército a falar de forma mais aberta sobre IA agêntica, capaz de ir da detecção à ação, e sobre a criação de uma estrutura de política para quando esses sistemas deveriam receber maior autonomia.

Do alerta à resposta

Brandon Pugh, principal assessor de cibersegurança do secretário do Exército Daniel Driscoll, enquadrou a questão em termos de apetite ao risco. Em tempos de paz, a supervisão humana pode continuar sendo o padrão. Em tempo de guerra, especialmente durante uma onda de ataques, o Exército pode precisar de um limiar diferente para permitir que agentes de software ajam. Essa é a lógica por trás do que autoridades descreveram como uma possível política de “contínuo de risco”, uma abordagem que variaria a participação humana conforme as circunstâncias.

Essa distinção é crítica. O Departamento de Defesa já usa IA para ajudar a detectar intrusões em suas redes. A detecção, porém, é apenas o primeiro passo. A questão mais difícil é se os sistemas de IA devem ser autorizados a tomar medidas diretas de resposta por conta própria quando uma violação estiver em andamento.

Pugh disse que o Exército já é forte no uso de IA para detecção, mas agora precisa avançar para capacidades agênticas que não apenas identifiquem comportamento malicioso, mas também reajam a ele. Isso pode significar isolar sistemas, bloquear conexões, acionar contramedidas ou interromper um ataque antes que ele se espalhe.

Por que o Exército considera isso urgente

O tenente-general Christopher Eubank, que lidera o Army Cyber Command, descreveu o desafio em termos diretos. Em um mundo de IA agêntica, disse ele, dizer aos defensores para “aplicar patches mais rápido” é irrealista. Se sistemas ofensivos estão lançando ataques repetidos que se adaptam continuamente às mudanças defensivas, equipes humanas sozinhas podem simplesmente ser lentas demais para acompanhar.

O cenário do exercício foi construído exatamente em torno dessa premissa. Autoridades disseram que o adversário hipotético usou IA para lançar salva após salva de ataques cibernéticos que se adaptavam à postura defensiva do Exército mais rápido do que um defensor humano poderia responder. Esse tipo de pressão é diferente da defesa de rede comum. Ele transforma as operações cibernéticas em uma corrida de velocidade na qual a hesitação em si se torna uma vulnerabilidade.

Visto assim, o interesse do Exército em maior autonomia tem menos a ver com entusiasmo por automação e mais com uma resposta prática à compressão do tempo. Se o ciclo de ataque está acelerando, o ciclo de defesa também precisa acelerar.

O papel da indústria na formação da doutrina

Um aspecto notável do exercício é que ele não foi conduzido como uma simulação técnica estritamente roteirizada. Projetado e coordenado pelo Strategic Competitive Studies Project, ele usou um formato em estilo seminário no qual executivos de 14 empresas de tecnologia ofereceram recomendações e participantes militares questionaram essas ideias. Esse formato sinaliza que o Exército não está apenas comprando produtos. Ele está tentando entender como o pensamento comercial em IA deve moldar a doutrina cibernética militar.

Essa é uma distinção importante. As questões centrais não são simplesmente se uma ferramenta funciona, mas quem está autorizado a aprová-la, sob quais condições, com quais salvaguardas e com qual tolerância a falsos positivos ou consequências não intencionais. Essas são questões de política e comando tanto quanto de engenharia.

O Exército parece reconhecer isso. O exercício não produziu respostas definitivas, e as autoridades foram francas quanto a isso. Mas ele deu aos líderes militares perspectivas externas sobre como pensar a defesa autônoma em um cenário de conflito em que o atraso poderia ser catastrófico.

O problema político pode ser mais difícil que o técnico

Construir sistemas cibernéticos agênticos é difícil. Construir confiança neles pode ser ainda mais difícil. Uma IA defensiva que age devagar demais é ineficaz. Uma que age rápido demais ou de forma ampla demais pode atrapalhar operações amigas, derrubar tráfego legítimo ou introduzir novos riscos durante uma crise.

É por isso que o conceito emergente de “contínuo de risco” pode importar mais do que qualquer anúncio específico de produto. Ele sugere que o Exército está se preparando para um futuro em que os níveis de autonomia não serão fixos, mas condicionais. Um ambiente de rede rotineiro pode exigir controle humano rígido. Um grande ataque em tempo de guerra pode justificar uma supervisão muito mais frouxa se a alternativa for ficar para trás diante de ataques conduzidos por máquinas.

Uma estrutura assim não resolveria todas as questões éticas ou operacionais, mas ofereceria uma forma de conectar capacidades técnicas à autoridade de comando e ao contexto da missão. Na prática, isso pode ser o que determina se a defesa agêntica será utilizável em escala.

O que vem a seguir

Os próximos passos do Exército provavelmente incluirão tanto desenvolvimento de ferramentas quanto desenho de políticas. Autoridades disseram que querem acelerar novas capacidades de IA ao mesmo tempo em que trabalham nas regras que regerão seu uso. Essa abordagem dupla faz sentido porque uma sem a outra falharia. Tecnologia sem doutrina gera caos. Doutrina sem tecnologia capaz gera irrelevância.

A implicação mais ampla é que a defesa cibernética militar está entrando em uma nova fase. A IA já não está sendo tratada apenas como um auxílio para analistas. Está sendo considerada um agente operacional, que talvez precise agir na velocidade da máquina quando o tempo humano já não for suficiente.

O Exército ainda não decidiu quanta liberdade dará a esses agentes. Mas, depois desse exercício de guerra, claramente está se preparando para um futuro em que não tomar essa decisão possa ser o maior risco.

Este artigo é baseado em reportagem da Breaking Defense. Leia o artigo original.