A resposta de segurança da NHS England desencadeou uma disputa sobre transparência
A NHS England enfrenta oposição crescente depois de informar aos funcionários que o software existente e o futuro deveria ser retirado da vista do público até 11 de maio, por causa de preocupações de que sistemas de IA possam identificar vulnerabilidades em código aberto. A medida, descrita por críticos como ineficaz e prejudicial, está atraindo uma reação cada vez maior de tecnólogos, ativistas e ex-funcionários que argumentam que fechar o código faz pouco para melhorar a segurança, ao mesmo tempo em que mina a transparência e a reutilização.
No centro da disputa está uma nova classe de análise de software habilitada por IA. Segundo o relatório original, a preocupação se intensificou após relatos de que o Mythos, uma IA criada pela Anthropic, poderia descobrir falhas em praticamente qualquer software. A resposta da NHS England foi dizer aos funcionários que o código desenvolvido com financiamento público deveria ser mantido em sigilo, em vez de ficar disponível abertamente on-line.
A decisão contraria a política existente
A medida é controversa em parte porque vai diretamente contra o padrão de serviço do NHS, que exige que o software produzido por funcionários seja de código aberto para que possa ser reutilizado, aprimorado e expandido sem duplicação de esforço. Defensores do código aberto argumentam que essa abordagem não é apenas mais eficiente para o setor público, mas também costuma ser mais segura, porque mais revisores podem inspecionar e melhorar o código.
Uma carta aberta pedindo que a NHS England revertesse a decisão reuniu rapidamente centenas de assinaturas, incluindo as do autor Cory Doctorow e do ex-secretário de saúde do Reino Unido Matt Hancock. Em comentários destacados pelo relatório, Hancock chamou a política de um grande erro e argumentou que o código financiado publicamente deveria continuar disponível ao público que o pagou.
Críticos dizem que segredo não é segurança
A objeção mais forte é técnica, não ideológica. Especialistas citados no relatório dizem que retirar o código de repositórios públicos não melhorará de forma significativa a segurança. Se ferramentas de IA podem ajudar a identificar vulnerabilidades, os defensores também podem usá-las. Mais importante, manter o software privado não remove as falhas; apenas muda quem pode inspecioná-las.
Vlad-Stefan Harbuz, da Universidade de Edimburgo, coautor da carta aberta, disse que seu grupo usou o Mythos para varrer o código aberto do NHS e encontrou um pequeno número de vulnerabilidades relativamente graves, que foram divulgadas de forma responsável antes da mudança de política atual. Esse detalhe complica a história. Ele sugere que a ameaça é real o bastante para produzir descobertas acionáveis, mas também reforça o argumento dos críticos de que a resposta prática é auditar e corrigir, não ocultar.
Uma questão maior sobre software público na era da IA
O caso do NHS expõe um dilema mais amplo que muitas instituições públicas terão de enfrentar. O software de código aberto há muito é defendido com base em eficiência, interoperabilidade, responsabilidade e segurança por meio de escrutínio. A análise de código assistida por IA muda a economia do escrutínio ao reduzir o custo de encontrar bugs tanto para defensores quanto para atacantes. A questão é se essa mudança invalida a lógica antiga do código aberto ou torna a manutenção disciplinada ainda mais importante.
A NHS England parece estar agindo com base na suposição de que a visibilidade pública agora cria risco demais. Os opositores argumentam o contrário: quando a IA torna mais fácil descobrir vulnerabilidades, a resposta é fortalecer correções, auditoria e governança, não recuar da abertura.
Por que isso importa além do NHS
A disputa importará fora da saúde britânica porque governos em todo o mundo estão reavaliando o risco digital sob a pressão de ferramentas de IA cada vez mais capazes. Se uma grande instituição pública decide que a abertura do código não é mais viável, outras podem seguir o mesmo caminho. Se a reação for bem-sucedida, ela pode reforçar a ideia de que transparência continua compatível com segurança mais forte, desde que as instituições invistam em práticas defensivas modernas.
Por enquanto, a NHS England transformou uma preocupação técnica de segurança em um teste de política de alto perfil. O medo subjacente é compreensível: a IA pode tornar mais fácil encontrar falhas em escala. Mas os críticos estão levantando uma pergunta mais dura. Esconder o código é uma defesa real ou apenas uma reação visível a uma ameaça que se move rápido? A resposta pode moldar a forma como o software do setor público é governado muito além do NHS.
Este artigo é baseado em reportagem da New Scientist. Leia o artigo original.
Originally published on newscientist.com
