Scammers సమయాన్ని వారికే వ్యతిరేకంగా మలచేందుకు AI
Artificial intelligence online fraudకు అనేక రూపాల్లో వేగం పెంచుతోంది; అదే సమయంలో scams నడిపించే వారిని అడ్డుకునే toolగా కూడా మారుతోంది. పెరుగుతున్న anti-cybercrime approach, plausible targetsలా నటించేందుకు conversational AIను ఉపయోగిస్తుంది. దీని వల్ల scammers phone calls మరియు online exchangesలో సమయం వెచ్చిస్తారు; వారి operations గురించి information కూడా సేకరించబడుతుంది.
ఈ strategyపై పనిచేస్తున్న సంస్థల్లో Australian company Apate ఒకటి. గత రెండు సంవత్సరాలుగా, phone scammersను డబ్బు లేదా sensitive information ఇవ్వకుండా సంభాషణ కొనసాగించగల AI botsవైపు మళ్లించే systemను అభివృద్ధి చేస్తోంది. ఆలోచన సులభం: synthetic victimను ఒప్పించేందుకు ఖర్చు చేసిన ప్రతి నిమిషం, నిజమైన వ్యక్తిని చేరుకోవడానికి scammer ఉపయోగించలేని నిమిషం.
పెద్ద fraud operations automated dialing మరియు high-volume messagingపై ఆధారపడగలవు కాబట్టి ఈ premise ముఖ్యం. ఒక convincing conversational exchange scam networkను అంతం చేయకపోయినా, అలాంటి networksను ఎదుర్కోవడం కష్టమయ్యే efficiencyకి అంతరాయం కలిగించగలదు. Active campaignsను banks, telecommunications providers మరియు investigators గుర్తించేందుకు ఉపయోగపడే intelligenceను కూడా ఇది అందించవచ్చు.
నమ్మదగిన కానీ బలహీనంగా లేని targets సృష్టించడం
Apate founder మరియు chief executive Dali Kaafar లక్ష్యం scammer దృష్టిలో “perfect victims”ను సృష్టించడం అని చెబుతున్నారు: interactionను కొనసాగించేంతగా persuadableగా కనిపించే, కానీ నిజంగా fraudకు గురికాని targets. Payment, account detail లేదా ఇతర outcome తమకు అందుబాటులో ఉండవచ్చని callersకు bots ఆశ కలిగిస్తాయి; దీనివల్ల system వారి దృష్టిని నిలుపుతుంది.
తమ platformను banks ఉపయోగిస్తున్నాయని, telecommunications companies support చేస్తున్నాయని మరియు సుమారు 350,000 bots పనిచేస్తున్నాయని company చెబుతోంది. Kaafar ప్రకారం ఆ bots phone callsకు సమాధానం చెప్పడమే కాదు. అవి scam chat groupsలో చేరి text messagesకు reply చేయగలవు; ఈ delaying మరియు intelligence-gathering approachను వివిధ channelsలో విస్తరించగలవు.
Responses repetitiveగా లేదా సులభంగా గుర్తించదగినవిగా మారకుండా systemలో విభిన్న personalities, language abilities మరియు user profiles ఉపయోగిస్తారు. కొన్ని bot personas WhatsApp వాడవచ్చు; మరికొన్ని వాడకపోవచ్చు. కొన్ని callను answer చేయవచ్చు; ఇంకొన్ని callను ముగించి తర్వాత తిరిగి వస్తామని చెప్పవచ్చు. ఈ variation tacticకు కేంద్రం: anti-scam bot argumentలో గెలవాల్సిన అవసరం లేదు; potential victims నుంచి scammer దృష్టిని మళ్లించేంతకాలం credibleగా ఉంటే చాలు.
Delayతో సమానంగా Intelligence కూడా ముఖ్యం
Time-wasting modelలో ఒక భాగం మాత్రమే. Fraudsters గురించి 250,000కు పైగా real-time information itemsను సేకరించామని Apate చెబుతోంది; అందులో scam URLs, money-mule accounts మరియు bank details ఉన్నాయి. Fraud operations మారుతూ ఉండే phone numbers, payment routes, links మరియు messaging accounts networkపై ఆధారపడతాయి కాబట్టి ఈ information ఉపయోగపడవచ్చు.
Live interactionsలో సేకరించిన intelligence defensive systemsను మరింత responsiveగా మార్చవచ్చు. ఒక bank suspicious payment destinationను గుర్తించగలదు; telecom provider recurring number లేదా patternను గుర్తించగలదు; platform scam linkపై చర్య తీసుకోగలదు. ప్రతి item ఎలా verify లేదా share చేయబడుతుందో article వివరించదు; అందువల్ల data scale మరియు operational impactను company accountగా పరిగణించాలి. అయితే engage చేయగలిగే, observe చేయగలిగే conversational systemsపై defenders ఎందుకు ఆసక్తి చూపుతున్నారో ఇది వివరిస్తుంది.
Warning signsను గుర్తించి suspicious requestsను తిరస్కరించమని ప్రజలను కోరే traditional public-awareness campaignsకు ఈ model భిన్నం. Education ముఖ్యమే, కానీ అందులో burdenలో ఎక్కువ భాగం individual usersపైనే ఉంటుంది. AI decoys ఎప్పుడూ అందుబాటులో ఉండే, scaleలో engage చేయగల targets ద్వారా ఆ burdenలో కొంత భాగాన్ని attackersవైపు మళ్లించాలని చూస్తాయి.
Realismపై పోటీ
ఈ approach ఉపయోగకరత ఒక కఠినమైన ప్రశ్నపై ఆధారపడి ఉంటుంది: professional scammersకు bots believableగా కొనసాగగలవా? Fraudsters త్వరగా adapt అవుతారు; ఆందోళనలో ఉన్న లేదా distracted వ్యక్తులను scripted interactions ద్వారా నడిపించడంలో చాలామందికి అనుభవం ఉంది. వారు botను సులభంగా గుర్తిస్తే deterrent effect తగ్గుతుంది మరియు operation తన methods గురించి informationను బయటపెట్టవచ్చు.
అందుకే persona design, language variation మరియు imperfect human-like behavior ముఖ్యం. Overly polished voice లేదా repeated response pattern స్పష్టమైన refusalంతే suspiciousగా ఉండవచ్చు. Effective decoys continued engagementను ప్రోత్సహించేంత convincingగా ఉండాలి; అదే సమయంలో firm safety boundariesలో ఉండాలి: అవి నిజమైన credentials ఇవ్వకూడదు, money transfer చేయకూడదు లేదా legitimate peopleకు కొత్త risks సృష్టించకూడదు.
Deceptive defensive systemsను ఎక్కడ, ఎప్పుడు ఉపయోగించాలనే దానిపై broader questions కూడా ఉన్నాయి. అవి valuable intelligenceను సేకరించగలవు; కానీ వాటిని deploy చేసే organizations data handling, authoritiesతో collaboration మరియు real usersతో unintended interactionsను నివారించేందుకు controls కలిగి ఉండాలి. Technology potentialను article చూపిస్తుంది; అయితే governance లేదా independent effectiveness testingపై పూర్తి వివరణ ఇవ్వదు.
Generative AIకు ఏర్పడుతున్న defensive ఉపయోగం
AI-enabled fraud పెరగడంతో technologyను cybercrime amplifierగా మాత్రమే చూడటం సులభమైంది. Scam operations automation ద్వారా తమ reachను పెంచగలవు; realistic text మరియు voice manipulationను గుర్తించడం కష్టతరం చేయగలవు. AI decoys దీనికి counterpointను చూపిస్తున్నాయి: సహజంగా అనిపించే conversations నిర్వహించే అదే సామర్థ్యాన్ని defenseవైపు మళ్లించవచ్చు.
ప్రతి malicious call ఎవరినైనా చేరకముందే ఆపేందుకు ప్రయత్నించకుండా, contact ఏర్పడిన తర్వాత scams economicsను మార్చడమే ఈ systems లక్ష్యం. Fraudster botను prospective victimనుంచి త్వరగా వేరు చేయలేకపోతే, ప్రతి false lead operation productivityని తగ్గించవచ్చు. తగిన scaleలో ఇది high-volume scam campaignsను ఖరీదైనవిగా, తక్కువ rewardingగా మార్చగలదు.
ఈ tacticను enforcement, stronger platform safeguards లేదా consumer protectionకు substituteగా చూడటం ఇంకా తొందరపాటు. అయితే cyber defenseలో passive filtering నుంచి active engagementకు మార్పును ఇది చూపిస్తుంది. ఈ మార్పులో AI suspicious activityను screen చేయడమే కాదు; దాని వెనుక ఉన్న వ్యక్తులను బిజీగా ఉంచేందుకు ప్రయత్నిస్తోంది.
తదుపరి పరీక్ష measurable impact
Conversational anti-scam systemsకు బలమైన ఆధారం results evidenceపై ఆధారపడి ఉంటుంది: తక్కువ successful scams, campaign lifetimes తగ్గడం, ఉపయోగకరమైన intelligence పెరగడం మరియు false positives లేదా unintended consequencesకు స్పష్టమైన లెక్క. ఈ systems existing reporting మరియు fraud-response processesలో ఎలా సరిపోతాయో companies, banks మరియు telecoms కూడా నిర్ణయించాలి.
ప్రస్తుతం Apate పని, scammer ప్రధాన resource అయిన timeను vulnerabilityగా మార్చేందుకు AI ఎలా ఉపయోగపడుతుందో చూపిస్తుంది. Cybercriminals outreachను మరింత automate చేస్తున్న కొద్దీ, defenders వారిని busyగా ఉంచే చర్యను కూడా automate చేయడం ప్రారంభిస్తున్నారు.
ఈ కథనం Wired reporting ఆధారంగా రూపొందించబడింది. అసలు కథనం చదవండి.
Originally published on wired.com
