Duas empresas revelaram tipos diferentes de abuso de IA com poucos dias de diferença
Google e OpenAI divulgaram separadamente operações que dizem ter se originado na China, mas os dois casos apontam para formas distintas pelas quais ferramentas avançadas de IA estão sendo incorporadas ao abuso digital. No caso do Google, o problema é fraude em massa contra consumidores. No caso da OpenAI, trata-se de atividade de influência encoberta voltada a moldar o debate público. Juntas, as divulgações mostram como os sistemas de IA agora são centrais não apenas para produtividade e desenvolvimento de software, mas também para a industrialização de golpes e operações de informação.
A atitude do Google foi incomumente agressiva. De acordo com o material da fonte fornecido, a empresa entrou com uma ação no Tribunal Distrital dos Estados Unidos para o Distrito Sul de Nova York contra uma rede de cibercrime que chama de Outsider Enterprise. O Google alega que o grupo usou o Gemini para atingir centenas de milhares de americanos com fraude financeira. A queixa afirma que os réus criaram 131 kits de software capazes de gerar milhares de sites falsos que imitavam marcas e instituições como Google, YouTube, o Serviço Postal dos EUA e o sistema E-ZPass de Nova York.
A escala descrita na fonte é substancial. Em um período de duas semanas em maio, a rede teria enviado 2,5 milhões de mensagens a usuários de Android contendo links para 9.000 sites falsos e mais de um milhão de URLs fraudulentas. A operação teria sido coordenada por meio do Telegram. O Google diz que esta é a primeira ação judicial em que trabalha ao lado do FBI e de grandes operadoras, incluindo AT&T, T-Mobile e Verizon. A empresa busca uma ordem de restrição que facilitaria a empresas e autoridades agir em conjunto, com apreensão de domínios ou congelamento de contas.
A divulgação da OpenAI, publicada em seu relatório de ameaças de junho de 2026, aponta para um padrão de ameaça diferente. A empresa disse ter banido dois grupos do ChatGPT supostamente baseados na China que tentaram influenciar o debate sobre a política de tecnologia dos EUA. Um dos grupos, chamado Data Center Bandwagon, gerou comentários em inglês, tirinhas e imagens editadas alegando que a expansão de data centers de IA estava elevando os preços da eletricidade para famílias comuns. A OpenAI disse que o conteúdo foi disseminado por meio do que descreveu como contas do X provavelmente inautênticas, usando hashtags ligadas a temas de energia e capacidade.
A fonte acrescenta que a OpenAI rastreou os atores por trás dessa campanha até uma empresa privada de tecnologia chinesa que atuava em nome de autoridades provinciais. Trata-se de uma acusação séria porque desloca a questão de spam genérico ou manipulação freelance para uma construção de narrativa ligada ao Estado, ainda que de forma indireta. As conclusões da empresa também destacam como a geração de conteúdo barata e rápida pode sustentar operações que não precisam convencer todo mundo. Elas só precisam inundar os canais com material aparentemente orgânico o suficiente para distorcer o tom do debate.
O que liga as duas divulgações não é apenas a alegação de origem. É a convergência crescente entre cibercrime e trabalho de influência em torno de ferramentas de IA. Redes de fraude podem usar modelos para tornar páginas de phishing, mensagens e imitações de marca mais convincentes. Operadores de influência podem usar a mesma classe de sistemas para produzir em massa comentários, imagens e pontos de argumentação ajustados a disputas específicas de política pública. Em ambos os casos, a IA comprime o custo de experimentação. Os atacantes podem testar narrativas, alvos e formatos mais rápido e em maior volume do que antes.
O sinal mais amplo
- O Google está tratando a fraude habilitada por IA como um problema jurídico e de infraestrutura, não apenas de moderação.
- A OpenAI está descrevendo o uso indevido de IA no discurso político como parte de uma função recorrente de relatório de ameaças.
- As duas divulgações sugerem que a defesa das plataformas agora depende da coordenação entre fornecedores de modelos, empresas de telecomunicações e autoridades.
- A linha entre spam tradicional, cibercrime e operações de influência está ficando mais tênue.
Os fatos imediatos dos dois casos diferem, e ambas as empresas estão apresentando suas próprias conclusões. Mas o quadro estratégico está mais claro do que era há até um ano. O abuso de IA já não é um problema hipotético do futuro. Ele já está incorporado em campanhas ativas envolvendo fraude ao consumidor, imitação de infraestrutura e manipulação de narrativas políticas. Isso significa que a próxima fase da governança de IA será julgada menos por demonstrações de produto do que pela capacidade das empresas que constroem esses sistemas de conter as formas como eles são transformados em arma.
Este artigo se baseia na cobertura do The Decoder. Leia o artigo original.
Originally published on the-decoder.com