A IA está sendo usada para voltar o tempo dos golpistas contra eles
A inteligência artificial está acelerando várias formas de fraude on-line, mas também se tornou uma ferramenta para atrapalhar quem opera golpes. Uma abordagem crescente de combate ao cibercrime usa IA conversacional para se passar por alvos plausíveis, desviando golpistas para ligações e conversas on-line que consomem seu tempo enquanto coletam informações sobre suas operações.
A empresa australiana Apate está entre as organizações que adotam essa estratégia. Nos últimos dois anos, desenvolveu um sistema para redirecionar golpistas telefônicos a bots de IA capazes de manter a conversa sem entregar dinheiro ou informações sensíveis. A premissa é simples: cada minuto gasto tentando convencer uma vítima sintética é um minuto que o golpista não usa para alcançar uma pessoa real.
Isso importa porque operações de fraude em larga escala podem depender de discagem automática e mensagens em alto volume. Uma conversa convincente pode não eliminar uma rede de golpes, mas pode interferir na eficiência que torna essas redes difíceis de combater. Também pode produzir informações úteis para bancos, empresas de telecomunicações e investigadores identificarem campanhas ativas.
Criando alvos convincentes, mas não vulneráveis
O fundador e CEO da Apate, Dali Kaafar, descreve o objetivo como criar “vítimas perfeitas” do ponto de vista do golpista: alvos que parecem persuadíveis o bastante para manter a interação, mas que nunca caem no golpe. Os bots devem dar aos interlocutores a esperança de que um pagamento, dado de conta ou outro resultado esteja ao alcance, mantendo sua atenção.
A empresa diz que bancos usam sua plataforma e que ela conta com apoio de companhias de telecomunicações, além de operar cerca de 350 mil bots. Segundo Kaafar, os bots não apenas atendem chamadas: também podem entrar em grupos de conversa de golpes e responder a mensagens de texto, ampliando a mesma estratégia de atraso e coleta de informações para diferentes canais.
O sistema usa personalidades, capacidades linguísticas e perfis variados para que as respostas não se tornem repetitivas ou fáceis de identificar. Alguns personagens podem usar WhatsApp, enquanto outros não. Alguns atendem e outros encerram a chamada dizendo que retornarão depois. Essa variação é central: um bot antifraude não precisa vencer uma discussão, apenas permanecer convincente tempo suficiente para desviar a atenção do golpista de possíveis vítimas.
Informação é tão importante quanto atraso
Fazer o golpista perder tempo é apenas uma parte do modelo. A Apate afirma ter coletado mais de 250 mil informações em tempo real sobre fraudadores, incluindo URLs de golpes, contas de laranjas e dados bancários. Essas informações podem ser úteis porque operações de fraude dependem frequentemente de uma rede mutável de números, rotas de pagamento, links e contas de mensagens.
Em teoria, informações reunidas durante interações ao vivo podem tornar os sistemas defensivos mais responsivos. Um banco pode identificar um destino de pagamento suspeito; uma operadora pode reconhecer um número ou padrão recorrente; uma plataforma pode agir sobre um link fraudulento. O artigo não detalha como cada item é verificado ou compartilhado, portanto a escala e o impacto operacional devem ser tratados como a versão da empresa. Ainda assim, o caso mostra por que os defensores se interessam por sistemas capazes de interagir e observar.
O modelo difere das campanhas tradicionais de conscientização pública, que pedem às pessoas que reconheçam sinais de alerta e recusem pedidos suspeitos. A educação continua importante, mas coloca grande parte da responsabilidade nos usuários. As iscas de IA procuram devolver parte desse peso aos atacantes, usando alvos disponíveis o tempo todo e capazes de interagir em escala.
Uma disputa pela verossimilhança
A utilidade da abordagem depende de uma pergunta difícil: os bots conseguem continuar parecendo reais para golpistas profissionais? Os fraudadores se adaptam rapidamente, e muitos sabem conduzir pessoas ansiosas ou distraídas por interações roteirizadas. Se identificarem facilmente um bot, o efeito dissuasório diminui e a operação pode revelar informações sobre seus próprios métodos.
Por isso, o desenho das personas, a variação linguística e um comportamento imperfeito, mas semelhante ao humano, são importantes. Uma voz polida demais ou um padrão repetido pode ser tão suspeito quanto uma recusa evidente. Iscas eficazes precisam ser convincentes o bastante para estimular a continuidade, mas respeitar limites de segurança: não podem fornecer credenciais reais, transferir dinheiro ou criar novos riscos para pessoas legítimas.
Também há questões mais amplas sobre onde e quando sistemas defensivos enganosos devem ser usados. Eles podem coletar informações valiosas, mas as organizações precisam controlar o tratamento de dados, a colaboração com autoridades e as interações involuntárias com usuários reais. O artigo destaca o potencial da tecnologia, mas não oferece um relato completo de sua governança ou de testes independentes de eficácia.
Um uso defensivo emergente para a IA generativa
O crescimento das fraudes habilitadas por IA facilita enxergar a tecnologia apenas como amplificador do cibercrime. Operações criminosas podem ampliar seu alcance por meio da automação, enquanto texto e voz realistas tornam a manipulação mais difícil de detectar. As iscas de IA oferecem um contraponto: a mesma capacidade de conduzir conversas naturais pode ser redirecionada para a defesa.
Em vez de tentar impedir toda chamada maliciosa antes que ela alcance alguém, esses sistemas procuram alterar a economia do golpe depois que o contato é feito. Se o fraudador não consegue distinguir rapidamente um bot de uma possível vítima, cada pista falsa pode reduzir a produtividade da operação. Em escala suficiente, campanhas de alto volume podem se tornar mais caras e menos lucrativas.
Ainda é cedo para tratar a tática como substituta da aplicação da lei, de salvaguardas mais fortes das plataformas ou da proteção ao consumidor. Mas ela demonstra uma mudança na defesa cibernética: da filtragem passiva para o envolvimento ativo. A IA não apenas examina atividades suspeitas; tenta ocupar as pessoas por trás delas.
O próximo teste é medir o impacto
O argumento mais forte a favor dos sistemas conversacionais antifraude dependerá de evidências de resultados: menos golpes bem-sucedidos, campanhas mais curtas, informações mais úteis e uma contabilização clara de falsos positivos ou consequências não intencionais. Empresas, bancos e operadoras também precisarão definir como esses sistemas se encaixam nos processos existentes de denúncia e resposta a fraudes.
Por enquanto, o trabalho da Apate mostra como a IA pode transformar o principal recurso de um golpista — o tempo — em uma vulnerabilidade. À medida que criminosos cibernéticos automatizam cada vez mais o contato, os defensores começam a automatizar a tarefa de mantê-los ocupados.
Este artigo baseia-se em reportagem da Wired. Leia o artigo original.
Originally published on wired.com
