L’IA sert à retourner le temps des escrocs contre eux
L’intelligence artificielle accélère de nombreuses formes de fraude en ligne, mais elle devient aussi un outil pour perturber ceux qui organisent les escroqueries. Une approche croissante de lutte contre la cybercriminalité utilise l’IA conversationnelle pour se faire passer pour des cibles plausibles, détournant les escrocs vers des appels et échanges en ligne qui consomment leur temps tout en recueillant des informations sur leurs opérations.
L’entreprise australienne Apate fait partie des organisations qui suivent cette stratégie. Depuis deux ans, elle développe un système destiné à rediriger les escrocs téléphoniques vers des bots d’IA capables de prolonger une conversation sans céder d’argent ni d’informations sensibles. Le principe est simple : chaque minute passée à convaincre une victime synthétique est une minute que l’escroc ne consacre pas à une personne réelle.
Ce principe compte car les opérations frauduleuses à grande échelle peuvent s’appuyer sur la numérotation automatique et la messagerie intensive. Une conversation convaincante ne suffit pas à éliminer un réseau, mais elle peut perturber l’efficacité qui rend ces réseaux difficiles à combattre. Elle peut aussi produire des renseignements utiles aux banques, aux télécoms et aux enquêteurs pour reconnaître les campagnes actives.
Créer des cibles crédibles mais non vulnérables
Le fondateur et directeur général d’Apate, Dali Kaafar, décrit l’objectif comme la création de « victimes parfaites » du point de vue d’un escroc : des cibles assez faciles à persuader pour prolonger l’échange, mais qui ne se feront jamais réellement escroquer. Les bots doivent donner aux interlocuteurs l’espoir qu’un paiement, une donnée de compte ou un autre résultat est à portée de main, afin de retenir leur attention.
L’entreprise affirme que des banques utilisent sa plateforme, soutenue par des sociétés de télécommunications, et qu’elle exploite environ 350 000 bots. Selon Kaafar, ceux-ci ne répondent pas seulement aux appels : ils peuvent aussi rejoindre des groupes de discussion d’escrocs et répondre à des SMS, étendant la même stratégie de retardement et de collecte d’informations à plusieurs canaux.
Le système utilise des personnalités, des capacités linguistiques et des profils variés afin que ses réponses ne deviennent pas répétitives ou faciles à identifier. Certaines personnes virtuelles peuvent utiliser WhatsApp, d’autres non. Certaines répondent à un appel, d’autres le terminent en promettant de rappeler plus tard. Cette variation est essentielle : un bot antifraude n’a pas besoin de gagner un débat, seulement de rester crédible assez longtemps pour détourner l’attention d’un escroc de ses victimes potentielles.
Le renseignement compte autant que le délai
Faire perdre du temps n’est qu’une partie du modèle. Apate affirme avoir recueilli plus de 250 000 informations en temps réel sur des fraudeurs, notamment des URL frauduleuses, des comptes de mules financières et des coordonnées bancaires. Ces informations peuvent être utiles car les opérations de fraude reposent souvent sur un réseau changeant de numéros, de circuits de paiement, de liens et de comptes de messagerie.
En théorie, les renseignements recueillis lors d’échanges en direct peuvent rendre les systèmes défensifs plus réactifs. Une banque peut repérer une destination de paiement suspecte, un opérateur télécom reconnaître un numéro ou un schéma récurrent et une plateforme agir sur un lien frauduleux. L’article ne précise pas comment chaque élément est vérifié ou partagé ; l’ampleur et l’impact opérationnel doivent donc être considérés comme les affirmations de l’entreprise. Cela montre toutefois pourquoi les défenseurs s’intéressent aux systèmes capables d’interagir et d’observer.
Ce modèle diffère des campagnes traditionnelles de sensibilisation, qui demandent aux particuliers de repérer les signaux d’alerte et de refuser les demandes suspectes. L’éducation reste importante, mais elle fait peser une grande partie de la charge sur les utilisateurs. Les leurres d’IA cherchent à en reporter une partie sur les attaquants, grâce à des cibles disponibles en permanence et capables d’interagir à grande échelle.
Une compétition autour du réalisme
L’utilité de cette approche dépend d’une question difficile : les bots peuvent-ils rester crédibles auprès d’escrocs professionnels ? Les fraudeurs s’adaptent rapidement et savent souvent guider des personnes anxieuses ou distraites à travers des échanges scénarisés. S’ils identifient facilement un bot, l’effet dissuasif diminue et l’opération risque de révéler des informations sur ses propres méthodes.
La conception des personnages, la variation linguistique et un comportement imparfait mais humain sont donc importants. Une voix trop parfaite ou un schéma de réponse répétitif peut être aussi suspect qu’un refus évident. Les leurres doivent être suffisamment convaincants pour encourager la poursuite de l’échange, tout en respectant des limites strictes : ne jamais fournir de vrais identifiants, transférer de l’argent ou créer de nouveaux risques pour des personnes légitimes.
Des questions plus larges se posent également sur le lieu et le moment où ces systèmes défensifs trompeurs doivent être utilisés. Ils peuvent recueillir des renseignements précieux, mais les organisations doivent contrôler la gestion des données, la coopération avec les autorités et les interactions involontaires avec de vrais utilisateurs. L’article souligne le potentiel de la technologie sans fournir un bilan complet de sa gouvernance ou de tests indépendants d’efficacité.
Un nouvel usage défensif de l’IA générative
La montée de la fraude alimentée par l’IA incite à voir cette technologie uniquement comme un amplificateur de la cybercriminalité. Les escrocs peuvent élargir leur portée par l’automatisation et les textes et voix réalistes rendent la manipulation plus difficile à détecter. Les leurres d’IA offrent un contrepoint : la même capacité à mener des conversations naturelles peut être réorientée vers la défense.
Plutôt que d’empêcher chaque appel malveillant d’atteindre quelqu’un, ces systèmes cherchent à modifier l’économie de l’escroquerie une fois le contact établi. Si l’escroc ne distingue pas rapidement un bot d’une victime potentielle, chaque fausse piste peut réduire sa productivité. À une échelle suffisante, les campagnes massives pourraient devenir plus coûteuses et moins rentables.
Il est trop tôt pour considérer cette tactique comme un substitut à l’action des autorités, à de meilleures protections des plateformes ou à la protection des consommateurs. Elle témoigne toutefois d’un passage du filtrage passif à l’engagement actif. L’IA ne se contente plus de repérer les activités suspectes : elle tente d’occuper ceux qui les dirigent.
Le prochain test sera celui de l’impact mesurable
Le meilleur argument en faveur des systèmes conversationnels antifraude dépendra de preuves concrètes : moins d’escroqueries réussies, des campagnes plus courtes, des renseignements plus utiles et un bilan clair des faux positifs ou des conséquences imprévues. Les entreprises, banques et opérateurs devront également déterminer comment intégrer ces systèmes à leurs procédures de signalement et de réponse à la fraude.
Pour l’instant, le travail d’Apate montre comment l’IA peut transformer la principale ressource d’un escroc — le temps — en vulnérabilité. Alors que les cybercriminels automatisent de plus en plus leur prospection, les défenseurs commencent à automatiser l’action de les maintenir occupés.
Cet article s’appuie sur un reportage de Wired. Lire l’article original.
Originally published on wired.com
