Complexo artístico de Berlim pede desculpas após evento de IA militar

A Kraftwerk Berlin, complexo artístico pós-industrial associado ao clube de techno Tresor e ao festival experimental Atonal, pediu desculpas após sediar um evento de um sistema de IA militar desenvolvido pela startup alemã de defesa Helsing.

O espaço disse que a reserva foi um “grave erro de julgamento” e que revisará as políticas utilizadas por seu departamento de aluguel comercial. A controvérsia provocou um debate nas comunidades de música e artes de Berlim sobre os limites entre espaços culturais, eventos da indústria de defesa e o ambiente de segurança em transformação na Europa.

Um lançamento encenado como uma sala de guerra

O evento ocorreu em 11 de novembro no salão central da Kraftwerk Berlin. Segundo relatos, mapas e imagens aéreas foram projetados em paredes de concreto, drones foram suspensos do teto e havia guardas usando coletes à prova de balas acompanhados por cães farejadores.

O local foi usado para o lançamento da Clarity, um sistema de seleção de alvos com IA da Helsing, sediada em Munique. A empresa descreve a Clarity como uma plataforma de inteligência agentiva destinada a usar dados de drones, satélites e sensores para identificar e rastrear alvos. A Helsing afirma que operadores humanos continuam responsáveis por aprovar ataques.

A transformação visual de um espaço estreitamente associado à vida noturna de Berlim foi um ponto central das críticas. Kraftwerk e Tresor ocupam o mesmo empreendimento, e o complexo é conhecido por música experimental e eventos ligados à história cultural industrial de Berlim.

Pessoas fazem fila à noite diante da entrada do Club Tresor, iluminada por luz azul sob sua placa brilhante
Club Tresor em Berlim. Fotografia: Ullstein Bild/Getty

O papel da Helsing na tecnologia de defesa europeia

A Helsing foi fundada em 2021 e atraiu investidores importantes, incluindo Daniel Ek, cofundador do Spotify, listado entre seus investidores e copresidentes do conselho. A empresa apresenta a Clarity como uma alternativa desenvolvida e controlada pela Europa em um campo dominado por grandes fornecedores americanos de software de defesa.

O lançamento ocorre enquanto governos europeus buscam maior autonomia sobre tecnologia militar e sistemas de dados. O Guardian informou que o Maven, da Palantir, é o líder estabelecido do mercado de software para campos de batalha, enquanto governos europeus procuram alternativas a sistemas desenvolvidos nos Estados Unidos. O serviço de inteligência doméstica da França anunciou planos de substituir a Palantir por um concorrente nacional.

Essas considerações estratégicas transformaram a tecnologia de defesa europeia em uma prioridade comercial e política crescente. Também tornaram a apresentação cultural da IA militar mais visível — e, em alguns ambientes, mais controversa.

Por que a reação importa

A disputa não trata apenas do aluguel de um espaço. Ela reflete um choque mais amplo entre a identidade cultural histórica de Berlim e a normalização da tecnologia de defesa na vida pública. Espaços de vida noturna e artes da cidade são frequentemente associados a tradições antimilitaristas, expressão experimental e ceticismo em relação ao poder comercial ou estatal.

Críticos contestaram o uso de um conhecido espaço cultural para apresentar um sistema ligado à seleção de alvos militares. A encenação, descrita como semelhante a uma sala de guerra, intensificou a reação ao colocar a estética e o hardware do conflito moderno dentro de um espaço associado à música, à vida noturna e à experimentação artística.

Para a Kraftwerk Berlin, o pedido de desculpas indica que futuras reservas serão analisadas com mais rigor. A revisão prometida da política de reservas pode se tornar um teste de como instituições culturais avaliam clientes do setor de defesa, especialmente à medida que a IA se integra mais à vigilância, à inteligência e à tomada de decisões relacionadas a armas.

Homens experimentam óculos de realidade virtual do sistema Maven da Palantir em uma feira de tecnologia de defesa
Pessoas experimentam o sistema Maven da Palantir no evento Defence Security Equipment International, em Tóquio, no ano passado. Fotografia: Kim Kyung-Hoon/Reuters

O controle humano continua sendo uma questão central

A Helsing afirma que operadores humanos são responsáveis por aprovar qualquer ataque que envolva a Clarity. Essa distinção é significativa nos debates sobre IA militar, nos quais o grau de participação humana em decisões letais continua sendo uma das questões éticas e políticas mais importantes.

Mesmo quando uma pessoa aprova formalmente um ataque, sistemas que combinam dados de drones, satélites e outros sensores podem influenciar o que os operadores veem, priorizam e fazem. O debate, portanto, vai além de saber se uma pessoa aperta o botão final. Inclui como as recomendações de alvos são geradas, quão confiáveis são as informações subjacentes e quanto tempo ou capacidade prática o operador tem para contestar a saída do sistema.

O episódio de Berlim não resolve essas questões. Mas mostra como elas estão rapidamente saindo da aquisição governamental e dos círculos especializados de defesa para chegar aos espaços culturais e ao debate público.

Uma linha mais clara para espaços culturais

A resposta da Kraftwerk Berlin reconhece que operadores de espaços não são anfitriões neutros quando uma reserva carrega forte peso político ou ético. A decisão de rever a política de aluguel comercial sugere que organizações artísticas podem precisar de padrões mais claros para avaliar clientes e eventos ligados à tecnologia militar.

Ao mesmo tempo, a controvérsia destaca uma tensão europeia mais ampla. Governos buscam tecnologia que opere sob controle europeu, enquanto comunidades perguntam onde e como essa tecnologia deve ser desenvolvida e promovida. Em Berlim, a questão chegou a um dos espaços culturais mais simbolicamente carregados da cidade.

Este artigo é baseado em reportagem do The Guardian. Leia o artigo original.

Originally published on theguardian.com