AI धोखाधड़ी और AI रक्षा के बीच हथियारों की दौड़
कृत्रिम बुद्धिमत्ता ने विश्वसनीय फिशिंग ईमेल, नकली नौकरी की सूची और गहरी नकल भर्ती वीडियो उत्पन्न करना तुच्छ रूप से आसान बना दिया है। अब साइबर सुरक्षा कंपनियां जवाबी कार्रवाई के लिए अपनी स्वयं की AI को तैनात कर रही हैं - और परिणाम मिश्रित हैं। NordVPN ने हाल ही में एक घोटाला पहचान सुविधा लॉन्च की है जो वास्तविक समय में संदिग्ध संदेशों और लिंक का विश्लेषण करने के लिए मशीन लर्निंग का उपयोग करती है। सवाल यह है कि क्या यह उपयोगकर्ताओं के खिलाफ उपयोग की जाने वाली AI उपकरणों का विश्वसनीय रूप से पता लगा सकता है।
समय उल्लेखनीय है। जैसे-जैसे जनरेटिव AI परिपक्व हुआ है, ऑनलाइन घोटालों की परिष्कृतता नाटकीय रूप से बढ़ी है। धोखेबाजों की नौकरी की पोस्टिंग अब पॉलिश कवर लेटर, यथार्थवादी कंपनी प्रोफाइल और लक्ष्य के कार्य इतिहास के व्यक्तिगत संदर्भ के साथ आती है। साधारण कीवर्ड-आधारित फिल्टर अब पर्याप्त नहीं हैं।
NordVPN का घोटाला चेकर वास्तव में क्या करता है
यह सुविधा URL, ईमेल और संदेशों दोनों के मेटाडेटा और सामग्री का विश्लेषण करके काम करती है। जब कोई उपयोगकर्ता किसी को संदिग्ध के रूप में चिह्नित करता है, तो चेकर इसे ज्ञात खतरे के पैटर्न के डेटाबेस के विरुद्ध चलाता है जबकि एक साथ भाषा मॉडल विश्लेषण लागू करता है ताकि धोखेबाज़ इरादे, असंगत विवरण और हेराफेरी की रणनीति की पहचान की जा सके।
पहले के नियम-आधारित सिस्टम के विपरीत, NordVPN का दृष्टिकोण एक प्रकार की प्रतिकूल प्रशिक्षण का उपयोग करता है - इसे AI-जनित घोटालों के उदाहरणों पर प्रशिक्षित किया गया था, जिसका अर्थ है कि इसने ये पैटर्न देखे हैं। यह सैद्धांतिक रूप से एक लाभ है, लेकिन अपनी स्वयं की हथियारों की दौड़ की गतिविधि बनाता है: जैसे-जैसे घोटाला जनरेटर सुधरते हैं, पहचान उपकरणों को गति के साथ रहने के लिए फिर से प्रशिक्षित किया जाना चाहिए।
AI-जनित भर्ती घोटालों के विरुद्ध परीक्षण
वास्तविक दुनिया परीक्षण उन्नत भर्ती घोटालों के विरुद्ध - जिस तरह के बड़े भाषा मॉडल द्वारा जनित किए जाते हैं और पेशेवरों को लक्ष्य किया जाता है - एक सूक्ष्म तस्वीर प्रकट की। सीधे फिशिंग प्रयासों के लिए, उपकरण ने अच्छा प्रदर्शन किया, संदिग्ध लिंक और असंभव प्रेषक विवरण को सही ढंग से चिह्नित किया। चुनौती अधिक परिष्कृत उदाहरणों के साथ आई।
AI-जनित भर्ती घोटाले तेजी से वास्तविक कंपनियों की नकल करते हैं, प्रामाणिक कर्मचारियों का संदर्भ देते हैं और प्रशंसनीय नौकरी विवरण का उपयोग करते हैं। इन मामलों में, घोटाला चेकर की सटीकता गिर गई, विशेष रूप से जब धोखेबाज़ संपर्क LinkedIn या स्वच्छ प्रेषक प्रतिष्ठा वाली ईमेल सेवाओं जैसे वैध प्लेटफॉर्म के माध्यम से रूट किया गया था।
यह एक ज्ञात सीमा है: AI पहचान उपकरण संघर्ष करते हैं जब घोटालेबाज़ विश्वसनीय बुनियादी ढांचे का उपयोग करते हैं। एक नकली भर्तिकर्ता जो वास्तविक कॉर्पोरेट ईमेल डोमेन का उपयोग करता है, वास्तविक नौकरी की पोस्टिंग का संदर्भ देता है, और एक वैध वीडियो कॉन्फ्रेंसिंग सेवा के लिए एक मीटिंग लिंक प्रदान करता है, स्वचालित फिल्टर के माध्यम से बच सकता है चाहे वह कितना भी परिष्कृत क्यों न हो।
कोई भी डिटेक्टर हल नहीं कर सकता यह सीमा
किसी भी घोटाला पहचान प्रणाली के लिए मौलिक चुनौती यह है कि धोखाधड़ी को सक्षम करने वाली समान AI क्षमताएं पहचान को भी कठिन बनाती हैं। एक भाषा मॉडल जो मानव पाठ उत्पन्न करता है वह ऐसा पाठ भी उत्पन्न करता है जो मानक प्रामाणिकता मेट्रिक्स पर अच्छी तरह स्कोर करता है। पहचान उपकरणों को व्यवहारिक संकेतों पर निर्भर होना चाहिए - समय पैटर्न, असामान्य अनुरोध अनुक्रम, ज्ञात धोखाधड़ी नेटवर्क के साथ क्रॉस-संदर्भ - अकेले सामग्री के बजाय।
NordVPN का उपकरण व्यवहारिक विश्लेषण पर वादा दिखाता है, सही ढंग से कई घोटालों की पहचान करते हुए जो सामग्री परीक्षा को पारित करते थे लेकिन संदिग्ध लिंक संरचना प्रदर्शित करते थे या असामान्य रूप से जल्दी एक बातचीत में संवेदनशील जानकारी मांगते थे। यह सुझाव देता है कि AI घोटाला पहचान के लिए सबसे सुरक्षित रणनीति किसी भी एकल संदेश को अलग से विश्लेषण करने के बजाय एक बातचीत के पैटर्न को देखना है।
साइबर सुरक्षा के लिए व्यापक निहितार्थ
यह परीक्षा दर्शाता है कि साइबर सुरक्षा उद्योग एक ऐसे चरण में प्रवेश कर रहा है जहां AI-बनाम-AI संघर्ष खतरे के परिदृश्य की एक स्थायी विशेषता बन जाएगा। AI-जनित धोखाधड़ी के खिलाफ बचाव के लिए सबसे अच्छी स्थिति में कंपनियां वास्तविक दुनिया के घोटाले उदाहरणों के सबसे बड़े प्रशिक्षण डेटासेट वाली कंपनियां हैं - एक डेटा खाई जो स्थापित सुरक्षा फर्मों के पास नई प्रविष्टियों पर है।
इस बीच, उपयोगकर्ताओं को किसी भी एकल उपकरण को निश्चित सुरक्षा के रूप में नहीं मानना चाहिए। सबसे अच्छा दृष्टिकोण स्वचालित पहचान को व्यक्तिगत सत्यापन आदतों के साथ जोड़ता है: भर्तिकर्ता पहचान को स्वतंत्र रूप से पुष्टि करना, किसी भी प्रक्रिया से सावधान रहना जो असामान्य रूप से तेजी से चलती है, और वित्तीय जानकारी या व्यक्तिगत दस्तावेजों के अनुरोधों को संबंध में जल्दी लाल झंडे के रूप में माना जाता है चाहे कोई चेकर क्या कहे।
व्यापक कहानी तकनीकी लोकतांत्रिकरण में से एक है जो दोनों तरीकों से काट रही है। AI ने कम कौशल वाले हमलावरों के लिए परिष्कृत धोखाधड़ी को सुलभ बनाया है और पहचान उपकरणों को अधिक सक्षम बनाया है। रक्षा, अभी के लिए, आगे नहीं चल रहा है - लेकिन यह गति बनाए हुए है।
यह लेख ZDNET द्वारा रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on zdnet.com
