Uma consulta tomada por respostas automatizadas
Uma consulta do governo britânico sobre políticas de tabaco e vaping foi inundada por contribuições geradas por máquinas, no que pesquisadores descrevem como uma tentativa em grande escala de influenciar um processo formal de saúde pública.
Segundo pesquisa publicada na revista Tobacco Control, o Department of Health and Social Care recebeu 118.756 respostas à consulta de 2023 sobre o projeto de lei de tabaco e vapes. O órgão identificou 90.835 delas, ou 76%, como enviadas por bots.
A consulta incluía propostas do governo conservador liderado por Rishi Sunak, entre elas a proibição de vapes descartáveis. Quase todos os envios automatizados respondiam à mesma pergunta e se opunham à proposta. O Department of Health and Social Care excluiu as respostas dos bots da tomada de decisão.
A descoberta importa para além da disputa política específica. Consultas públicas têm o objetivo de fornecer aos governos evidências sobre como regras propostas podem afetar cidadãos, empresas, profissionais de saúde e outros grupos. Grandes volumes de respostas artificiais podem fazer uma campanha pequena e coordenada parecer uma ampla opinião pública.
O que a análise descobriu
A pesquisa foi liderada pelo Dr. Nason Maani, da Universidade de Edimburgo, e pela professora Anna Gilmore, da Universidade de Bath. Os pesquisadores disseram que o episódio parece ser o primeiro caso documentado de interferência automatizada em grande escala em uma consulta formal de política de saúde pública.
Os métodos departamentais de detecção de bots mostraram que as respostas eram frequentemente duplicadas e enviadas em alta frequência a partir de um pequeno número de endereços IP. Das 90.835 respostas identificadas como automatizadas, todas, exceto duas, respondiam à mesma pergunta da consulta.
Esse padrão deu aos funcionários uma base para distinguir a campanha automatizada da participação pública legítima. Mas o caso também ilustra um desafio para os sistemas de consulta: detectar envios idênticos ou altamente repetitivos é mais simples do que identificar respostas automatizadas individualmente variadas, mais persuasivas no tom ou distribuídas por um número maior de fontes técnicas.
Maani disse que a preocupação mais ampla é que futuras campanhas possam ser mais difíceis de identificar. Se a interferência automatizada se tornar menos visível, os formuladores de políticas talvez não saibam quando um sentimento público aparente foi fabricado.
Por que o episódio é significativo
O volume envolvido foi substancial. Mais de três quartos de todas as respostas recebidas pela consulta foram identificados como gerados por bots. Se tivessem sido tratados como envios comuns, os registros poderiam ter criado uma impressão fortemente enganosa da oposição pública à proposta sobre vapes descartáveis.
A campanha não mudou o resultado imediato. O governo trabalhista liderado por Keir Starmer herdou o projeto de lei de tabaco e vapes em 2024 e o aprovou como lei, incluindo a proibição de empresas venderem ou fornecerem vapes descartáveis.
O episódio, porém, levanta uma questão mais ampla sobre a resiliência de processos democráticos e administrativos à medida que a IA generativa e as ferramentas automatizadas se tornam mais fáceis de usar. Uma consulta não funciona como uma eleição, mas ambas dependem da capacidade das instituições de distinguir participação real de manipulação coordenada.
O risco não é simplesmente um excesso de mensagens. Envios automatizados podem consumir o tempo das equipes, complicar a análise de dados e fazer um debate político parecer mais polarizado do que realmente é. Em um processo de grande volume, também podem dificultar a identificação de evidências detalhadas de grupos afetados.
A detecção é apenas parte da resposta
Neste caso, o Department of Health and Social Care utilizou métodos de detecção de bots e excluiu os envios identificados. A medida impediu que o volume automatizado fosse contabilizado na decisão política.
Mas a pesquisa aponta para um problema institucional contínuo, e não para uma anomalia técnica isolada. Sistemas de consulta precisam aceitar ampla participação pública e, ao mesmo tempo, proteger a integridade das evidências resultantes. O equilíbrio é delicado: barreiras criadas para desestimular a automação também podem dificultar a participação legítima.
Caroline Cerny, vice-diretora executiva da Action on Smoking and Health, classificou as evidências como preocupantes e disse que autoridades de saúde pública devem ficar atentas à forma como avanços tecnológicos podem ser usados para enfraquecer regulações. A indústria do tabaco tem histórico de tentar enfraquecer regras de saúde pública, afirmou, embora a pesquisa não estabeleça quem foi responsável pelos envios automatizados.
Um alerta para instituições públicas
A principal lição não é que consultas devam ser abandonadas ou que toda resposta coordenada seja inválida. Grupos organizados há muito incentivam apoiadores a participar de consultas públicas. A distinção, neste caso, está na escala e na natureza automatizada da atividade, além da tentativa de criar a aparência de participação em massa por meio de dezenas de milhares de respostas geradas por máquinas.
À medida que sistemas automatizados se tornam mais capazes de produzir textos variados, os métodos usados para avaliar evidências de consultas enfrentarão pressão crescente. O caso britânico mostra por que governos precisam manter a capacidade de examinar padrões de envio, avaliar a procedência e explicar como tratam suspeitas de manipulação.
A medida sobre vapes descartáveis acabou avançando, mas a consulta se tornou um caso de teste para uma questão política muito mais ampla: se instituições públicas conseguem preservar uma participação pública significativa quando o custo de fabricar uma opinião pública aparente cai drasticamente.
Este artigo é baseado em reportagem do The Guardian. Leia o artigo original.
Originally published on theguardian.com


