Ataque a escola no Irã expõe falhas na ofensiva do Pentágono com IA para seleção de alvos

O histórico de precisão do Maven

O ataque em Minab forçou um acerto de contas público com dados de desempenho que o Pentágono geralmente manteve fora de documentos públicos. A precisão geral de seleção de alvos do Maven na campanha contra o Irã foi estimada em aproximadamente 60% - o que significa que cerca de dois em cada cinco alvos gerados pelo sistema contêm erros graves o suficiente para afetar o resultado do ataque, incluindo identificação equivocada de estruturas civis. Em comparação, analistas humanos experientes trabalhando nos mesmos conjuntos de alvos alcançam cerca de 84% de precisão sob restrições de tempo semelhantes.

Em condições adversas - pouca luz, cobertura de nuvens pesada, contramedidas ativas - a precisão do Maven cai abaixo de 30%. As pontuações de confiança exibidas aos operadores nos terminais de seleção de alvos não se ajustam de acordo. Um estudo da Força Aérea de 2021 sobre uma IA anterior de seleção de alvos mostrou que o sistema exibia níveis de confiança de 90% em suas saídas, mas alcançava apenas 25% de precisão real durante a avaliação em campo. Operadores do Maven relataram incompatibilidades semelhantes entre a confiança exibida e a confiabilidade real.

A infraestrutura institucional que não existia

O ataque também expôs o grau em que as estruturas humanas de supervisão criadas para detectar erros da IA haviam sido esvaziadas antes do início das operações. O Civilian Protection Center of Excellence do Pentágono, encarregado de desenvolver doutrina e revisar procedimentos para minimizar vítimas civis em operações assistidas por IA, teve seu orçamento e equipe reduzidos em cerca de 90% nos 18 meses anteriores à campanha contra o Irã. A equipe dedicada do CENTCOM para avaliação de vítimas civis - a unidade responsável por revisar os resultados dos ataques e sinalizar padrões que exigem investigação - havia sido reduzida de 10 pessoas para um único oficial.

Essas reduções refletiam uma postura institucional mais ampla na qual implantar o Maven em escala era tratado como um ganho de eficiência que reduzia a necessidade de estruturas paralelas de revisão humana. A suposição era de que a IA tornaria o processo de seleção de alvos simultaneamente mais rápido e mais preciso, reduzindo, e não aumentando, a carga de trabalho humana necessária para uma operação responsável. O resultado em Minab sugere que a suposição estava errada.

A implantação obrigatória continua

Apesar das conclusões da investigação, o vice-secretário de Defesa Steve Feinberg avançou com a formalização do Maven como um programa oficial, com um mandato que exige adoção em todos os ramos militares até setembro de 2026. A justificativa, segundo autoridades informadas sobre a decisão, é que o desempenho geral de seleção de alvos da campanha no Irã - incluindo o ataque em Minab - ainda representa uma melhora em relação ao que seria possível sem o sistema. A velocidade com que o Maven viabilizou a seleção de alvos nas primeiras horas da operação é vista como uma necessidade estratégica diante do ambiente de ameaça.

Críticos dentro e fora do Pentágono argumentam que o prazo de setembro cria pressão para implantar antes que os problemas de supervisão e de atualização de banco de dados identificados na investigação de Minab tenham sido corrigidos. Um desenvolvedor ucraniano de drones que trabalhou com sistemas semiautônomos em condições de combate disse em uma declaração pública após o ataque que Minab "expôs um perigo familiar da guerra semiautônoma: o sistema funciona conforme a especificação, a especificação estava errada, e crianças estão mortas."

Como seria a reforma

As propostas que circulam dentro do Pentágono e entre pesquisadores de política de defesa incluem requisitos obrigatórios de atualização para entradas de banco de dados de inteligência usadas na seleção de alvos gerada por IA - nenhuma entrada com mais de 30 dias seria elegível para recomendação autônoma sem revisão humana. Outras propostas sugerem que a exibição de confiança do Maven seja substituída por estimativas de faixa de precisão que reflitam a degradação conhecida de desempenho em condições adversas, para que os operadores tenham uma visão mais honesta da confiabilidade. Restaurar a infraestrutura de proteção civil e avaliação de baixas que foi cortada antes da campanha é amplamente citado como pré-requisito para a continuidade responsável da operação do sistema.

O que não está na agenda de reformas, segundo autoridades, é suspender o Maven até uma revisão abrangente. O sistema agora está incorporado ao planejamento operacional em vários teatros, e o impulso institucional por seleção de alvos assistida por IA é substancial. O debate já não é sobre se a IA ajudará nas decisões de seleção de alvos, mas sobre quais salvaguardas precisam existir antes que as vantagens de velocidade desses sistemas sejam autorizadas a sobrepor a deliberação que a revisão humana oferece.

Este artigo é baseado em reportagem da Defense News. Leia o artigo original.