Scammersचा वेळ त्यांच्याविरुद्ध वळवण्यासाठी AI तैनात
Artificial intelligence online fraudच्या अनेक प्रकारांना वेग देत आहे; पण scams चालवणाऱ्यांना अडथळा आणण्यासाठी ते toolही बनत आहे. वाढता anti-cybercrime approach plausible targetsचे रूप घेण्यासाठी conversational AI वापरतो. त्यामुळे scammers phone calls आणि online exchangesमध्ये अडकतात, त्यांचा वेळ खर्च होतो आणि त्यांच्या operationsविषयी information गोळा होते.
या strategyवर काम करणाऱ्या संस्थांमध्ये Australian company Apateचा समावेश आहे. गेल्या दोन वर्षांपासून ती phone scammersना पैसे किंवा sensitive information न देता संभाषण सुरू ठेवू शकणाऱ्या AI botsकडे redirect करणारे system विकसित करत आहे. विचार सोपा आहे: synthetic victimला पटवण्यात घालवलेला प्रत्येक minute म्हणजे scammerने खऱ्या व्यक्तीपर्यंत पोहोचण्यासाठी न वापरलेला minute.
मोठ्या fraud operations automated dialing आणि high-volume messagingवर अवलंबून राहू शकतात, म्हणून हा premise महत्त्वाचा आहे. एक convincing conversational exchange scam network संपवू शकत नाही; परंतु अशा networksना तोंड देणे कठीण बनवणाऱ्या efficiencyमध्ये अडथळा आणू शकतो. Active campaigns ओळखण्यासाठी banks, telecommunications providers आणि investigatorsना उपयुक्त ठरेल अशी intelligenceही यातून मिळू शकते.
विश्वसनीय पण vulnerable नसलेले targets तयार करणे
Apateचे founder आणि chief executive Dali Kaafar यांच्या मते, scammerच्या दृष्टीने “perfect victims” तयार करणे हे उद्दिष्ट आहे: interaction सुरू ठेवण्याइतके persuadable वाटणारे, पण प्रत्यक्षात fraudला बळी न पडणारे targets. Payment, account detail किंवा इतर outcome मिळण्याची शक्यता callersना वाटावी, यासाठी bots तयार केले आहेत; त्यामुळे system त्यांचे लक्ष धरून ठेवू शकते.
आपले platform banks वापरतात आणि telecommunications companies support करतात, तसेच सुमारे 350,000 bots कार्यरत आहेत, असे companyचे म्हणणे आहे. Kaafar यांच्या मते, हे bots केवळ phone callsना उत्तर देत नाहीत. ते scam chat groupsमध्ये सहभागी होऊन text messagesना replyही करू शकतात; त्यामुळे delaying आणि intelligence-gathering approach वेगवेगळ्या channelsमध्ये विस्तारते.
Responses repetitive किंवा सहज ओळखता येण्यासारखे होऊ नयेत म्हणून systemमध्ये विविध personalities, language abilities आणि user profiles वापरले जातात. काही bot personas WhatsApp वापरू शकतात, तर काही नाही. काही call उचलू शकतात, तर काही call संपवून नंतर परत येण्याचे सांगू शकतात. ही variation tacticच्या केंद्रस्थानी आहे: anti-scam botला argument जिंकण्याची गरज नाही; potential victimsपासून scammerचे लक्ष दूर ठेवेल इतका credible राहणे आवश्यक आहे.
Intelligence ही delayइतकीच महत्त्वाची
Time-wasting हा modelचा केवळ एक भाग आहे. Fraudstersविषयी real-time informationच्या 250,000हून अधिक items गोळा केल्याचे Apateचे म्हणणे आहे; त्यात scam URLs, money-mule accounts आणि bank detailsचा समावेश आहे. Fraud operations अनेकदा बदलत राहणाऱ्या phone numbers, payment routes, links आणि messaging accountsच्या networkवर अवलंबून असतात, त्यामुळे ही information उपयुक्त ठरू शकते.
तत्त्वतः live interactionsदरम्यान मिळालेली intelligence defensive systemsना अधिक responsive बनवू शकते. एखादी bank suspicious payment destination ओळखू शकते; telecom provider recurring number किंवा pattern ओळखू शकतो; platform scam linkवर कारवाई करू शकतो. प्रत्येक item कसा verify किंवा share केला जातो, हे article स्पष्ट करत नाही; त्यामुळे dataचा scale आणि operational impact हा companyचा दावा म्हणून पाहावा. मात्र engage आणि observe दोन्ही करू शकणाऱ्या conversational systemsमध्ये defendersना रस का आहे, हे यावरून स्पष्ट होते.
लोकांनी warning signs ओळखून suspicious requests नाकाराव्यात असे सांगणाऱ्या traditional public-awareness campaignsपेक्षा हा model वेगळा आहे. Education महत्त्वाचे आहे; पण त्यात burdenचा मोठा भाग individual usersवर असतो. AI decoys सतत उपलब्ध आणि scaleवर engage करू शकणाऱ्या targetsद्वारे या burdenचा काही भाग attackersकडे परत वळवण्याचा प्रयत्न करतात.
Realismसाठी स्पर्धा
या approachची usefulness एका कठीण प्रश्नावर अवलंबून आहे: professional scammersना bots believable वाटत राहतील का? Fraudsters वेगाने adapt होतात आणि anxious किंवा distracted लोकांना scripted interactionsमधून मार्गदर्शन करण्याचा अनुभव अनेकांना असतो. ते bot सहज ओळखू शकले तर deterrent effect कमी होईल आणि operation स्वतःच्या methodsविषयी information उघड करू शकते.
म्हणून persona design, language variation आणि imperfect human-like behavior महत्त्वाचे ठरतात. खूप polished voice किंवा repeated response pattern हे obvious refusalइतकेच संशयास्पद वाटू शकते. Effective decoysनी continued engagementला प्रोत्साहन देईल इतके convincing असावे, पण firm safety boundariesमध्ये राहावे: ते real credentials देऊ शकत नाहीत, money transfer करू शकत नाहीत किंवा legitimate peopleसाठी नवीन risks निर्माण करू शकत नाहीत.
Deceptive defensive systemsचा वापर कुठे आणि कधी करावा, याबाबतही broader questions आहेत. ते valuable intelligence गोळा करू शकतात; पण deploying organizationsकडे data handling, authoritiesसोबत collaboration आणि real usersसोबत unintended interactions टाळण्यासाठी controls असणे आवश्यक आहे. Article technologyचे potential दाखवतो; मात्र governance किंवा independent effectiveness testingचे संपूर्ण चित्र देत नाही.
Generative AIचा उदयोन्मुख defensive वापर
AI-enabled fraud वाढल्यामुळे technologyकडे केवळ cybercrime amplifier म्हणून पाहणे सोपे झाले आहे. Scam operations automationद्वारे reach वाढवू शकतात आणि realistic text व voiceमुळे manipulation ओळखणे कठीण होऊ शकते. AI decoys याला counterpoint देतात: नैसर्गिक वाटणारी conversations करण्याची हीच क्षमता defenseकडे वळवता येते.
प्रत्येक malicious call कोणापर्यंत पोहोचण्यापूर्वी थांबवण्याचा प्रयत्न करण्याऐवजी, contact झाल्यानंतर scamsची economics बदलणे हा या systemsचा उद्देश आहे. Fraudster bot आणि prospective victim यांच्यातील फरक पटकन ओळखू शकला नाही, तर प्रत्येक false lead operationची productivity कमी करू शकतो. पुरेशा scaleवर यामुळे high-volume scam campaigns अधिक महाग आणि कमी rewarding होऊ शकतात.
या tacticला enforcement, stronger platform safeguards किंवा consumer protectionचा पर्याय मानणे अजून लवकर आहे. मात्र cyber defenseमध्ये passive filteringकडून active engagementकडे होत असलेला बदल ती दाखवते. या बदलात AI केवळ suspicious activity screen करत नाही; त्यामागील लोकांना व्यस्त ठेवण्याचाही प्रयत्न करते.
पुढील कसोटी measurable impactची
Conversational anti-scam systemsसाठी मजबूत समर्थन resultsच्या evidenceवर अवलंबून असेल: कमी successful scams, campaignsची कमी lifetimes, अधिक उपयुक्त intelligence आणि false positives किंवा unintended consequencesचा स्पष्ट हिशोब. ही systems existing reporting आणि fraud-response processesमध्ये कशी बसतात, हे companies, banks आणि telecomsनाही ठरवावे लागेल.
आतापर्यंत Apateचे काम दाखवते की scammerचा मुख्य resource—time—वulnerabilityमध्ये बदलण्यासाठी AIचा वापर होऊ शकतो. Cybercriminals outreach अधिकाधिक automate करत असताना, defenders त्यांना busy ठेवण्याची कृतीही automate करू लागले आहेत.
हा लेख Wiredच्या reportingवर आधारित आहे. मूळ लेख वाचा.
Originally published on wired.com
