Abrindo os Cofres
O Departamento de Defesa dos EUA está planejando permitir que empresas de inteligência artificial treinem seus modelos em dados militares classificados, de acordo com um oficial de defesa citado pela MIT Technology Review. A iniciativa, se implementada, representaria uma das expansões mais significativas do acesso de IA a informações governamentais sensíveis na história dos EUA — e uma aposta deliberada de que as vantagens de capacidade ganhas superam os riscos de expor dados classificados a sistemas comerciais de IA e às empresas que os constroem.
O oficial descreveu um marco em desenvolvimento que permitiria que empresas de IA verificadas acessassem conjuntos de dados classificados em ambientes de computação segura, usando esses dados para treinar e ajustar modelos para aplicações de defesa específicas. Os dados classificados permaneceriam dentro da infraestrutura controlada pelo governo — empresas de IA não levariam os dados para fora do local — mas seu pessoal e pipelines de treinamento de modelos seriam concedidos acesso a informações normalmente restritas a pessoal com autorizações de segurança apropriadas.
Por Que o Pentágono Quer Isto
A razão militar é direta: as aplicações de IA mais valiosas para defesa requerem acesso ao tipo de dados que apenas os militares possuem. Treinar um modelo de IA para reconhecer hardware militar específico em imagens de satélite, analisar inteligência de sinais, sintetizar inteligência de fontes classificadas, ou otimizar logística para operações classificadas requer dados de treinamento que reflijam esses domínios específicos — e esses dados, por definição, são classificados.
Modelos de IA comerciais treinados em dados disponíveis publicamente são úteis para muitas aplicações de defesa, mas fundamentalmente limitados nos domínios onde a classificação cria as maiores lacunas de capacidade. Um modelo treinado em imagens de satélite de código aberto nunca igualará o desempenho de um treinado em inteligência aérea classificada. O interesse do Pentágono em dados de treinamento classificados reflete o reconhecimento de que o desenvolvimento comercial de IA não pode fechar essas lacunas sem acesso a dados que apenas o governo controla.
Os Riscos
Os riscos associados a essa abordagem são substanciais e abrangem várias categorias. O mais óbvio é a ameaça interna e exfiltração de dados: dar ao pessoal de empresas de IA e sistemas acesso a dados classificados expande a superfície para possíveis vazamentos, seja por roubo deliberado, divulgação acidental ou comprometimento adversarial da infraestrutura de empresas de IA.
Um segundo risco é inversão de modelo e ataques de inferência de associação — técnicas pelas quais um adversário que tem acesso a um modelo treinado pode extrair informações sobre os dados usados para treiná-lo. Se dados classificados forem usados para treinar um modelo de IA, e esse modelo ou suas saídas forem posteriormente implantados em contextos onde adversários podem interagir com ele, há um caminho potencial para recuperar informações sensíveis das representações aprendidas do modelo.
Terceiro, há questões significativas sobre a postura de segurança das próprias empresas de IA. Até mesmo os maiores desenvolvedores de IA tiveram incidentes de segurança, e seus ambientes de desenvolvimento não são construídos com os padrões necessários para lidar com informações de segurança nacional classificadas. Fechar essa lacuna adiciona custo e complexidade que poderiam retardar o desenvolvimento de capacidade que a iniciativa foi projetada para acelerar.
O Imperativo Competitivo
O impulso vem em um contexto de urgência genuína. O programa de IA militar da China está avançando rapidamente, e o desenvolvimento de IA apoiado pelo estado chinês pode acessar dados de PLA sem as barreiras legais e institucionais que separam empresas comerciais de sistemas classificados dos EUA. O Pentágono vê a lacuna entre capacidade comercial de IA e capacidade de IA treinada em dados classificados como uma vulnerabilidade estratégica — uma que um marco de compartilhamento de dados mais permissivo foi projetado para abordar.
A iniciativa está em desenvolvimento em vez de implementação, e sua forma final dependerá de revisões legais, decisões de autoridades de classificação e negociação de acordos de segurança com empresas participantes. Mas a direção da viagem é clara: o Pentágono está se movendo em direção a um modelo no qual o limite entre dados militares classificados e desenvolvimento comercial de IA se torna mais permeável a serviço da manutenção da superioridade de IA sobre competidores estratégicos.
Este artigo é baseado em reportagem da MIT Technology Review. Leia o artigo original.
Originally published on technologyreview.com
