AI ஏமாற்று மற்றும் AI பாதுகாப்பிற்கு இடையிலான ஆயுதங்களின் பந்தயம்
कृत्रिम बुद्धिमत्ता विश्वসनीय फिशिंग ईमेल, नकली नौकरी की सूचियां, और गहरी नकली भर्ती वीडियो बनाना बेहद आसान बना दिया है। अब साइबर सुरक्षा कंपनियां वापस लड़ने के लिए अपने स्वयं के एआई तैनात कर रही हैं - और परिणाम मिश्रित हैं। NordVPN ने हाल ही में एक धोखाधड़ी पहचान सुविधा लॉन्च की है जो वास्तविक समय में संदिग्ध संदेशों और लिंक का विश्लेषण करने के लिए मशीन लर्निंग का उपयोग करती है। सवाल यह है कि क्या यह उपयोगकर्ताओं के खिलाफ उपयोग किए जा रहे बिल्कुल एआई उपकरणों को विश्वसनीय रूप से पहचान सकता है।
समय महत्वपूर्ण है। जैसे-जैसे जनरेटिव एआई परिपक्व हुआ है, ऑनलाइन घोटालों की परिष्कृतता नाटकीय रूप से बढ़ी है। जालसाजी नौकरी की पोस्टिंग अब पॉलिश्ड कवर लेटर, यथार्थवादी कंपनी प्रोफाइल, और लक्ष्य के काम के इतिहास के व्यक्तिगत संदर्भ के साथ आती है। सरल कीवर्ड-आधारित फिल्टर अब पर्याप्त नहीं हैं।
NordVPN का स्कैम चेकर वास्तव में क्या करता है
यह सुविधा URL, ईमेल, और संदेशों की मेटाडेटा और सामग्री दोनों को विश्लेषण करके काम करती है। जब कोई उपयोगकर्ता किसी चीज़ को संदिग्ध के रूप में चिह्नित करता है, तो चेकर इसे ज्ञात खतरे के पैटर्न के एक डेटाबेस के खिलाफ चलाता है जबकि एक साथ भाषा मॉडल विश्लेषण लागू करता है धोखापूर्ण इरादे, बेमेल विवरण, और हेरफेर रणनीति की पहचान करने के लिए।
पहले के नियम-आधारित सिस्टम के विपरीत, NordVPN का दृष्टिकोण एक प्रकार की प्रतिकूल प्रशिक्षण का उपयोग करता है - इसे AI-जनित घोटालों के उदाहरणों पर सिखाया गया था, जिसका अर्थ है कि इसने ये पैटर्न देखे हैं जो ये उपकरण उत्पादन करते हैं। यह सैद्धांतिक रूप से एक लाभ है, लेकिन अपना स्वयं का हथियार दौड़ गतिशीलता बनाता है: जैसे-जैसे घोटाले जनरेटर में सुधार होता है, पहचान उपकरणों को गति बनाए रखने के लिए पुनः प्रशिक्षित किया जाना चाहिए।
AI-जनित भर्ती घोटालों के खिलाफ परीक्षण
उन्नत भर्ती घोटालों के विरुद्ध वास्तविक दुनिया की परीक्षा - जो बड़े भाषा मॉडल द्वारा उत्पन्न होती हैं और पेशेवरों को लक्षित करती हैं - एक सूक्ष्म चित्र प्रकट किया। सीधी फिशिंग प्रयासों के लिए, उपकरण ने अच्छी तरह से प्रदर्शन किया, संदिग्ध लिंक और अविश्वसनीय प्रेषक विवरण को सही ढंग से चिह्नित किया। चुनौती अधिक परिष्कृत उदाहरणों के साथ आई।
AI-जनित भर्ती घोटाले बढ़ते हुए वास्तविक कंपनियों का प्रतिरूपण करते हैं, प्रामाणिक कर्मचारियों का संदर्भ देते हैं, और प्रशंसनीय नौकरी के विवरण का उपयोग करते हैं। इन मामलों में, घोटाला चेकर की सटीकता गिरी, विशेष रूप से जब धोखापूर्ण संपर्क LinkedIn या स्वच्छ प्रेषक प्रतिष्ठा के साथ ईमेल सेवाओं जैसे वैध प्लेटफार्मों के माध्यम से रूट किया गया था।
यह एक ज्ञात सीमा है: AI पहचान उपकरण संघर्ष करते हैं जब घोटालेबाज विश्वसनीय अवसंरचना का उपयोग करते हैं। एक नकली भर्तिकर्ता जो वास्तविक कॉर्पोरेट ईमेल डोमेन का उपयोग करते हुए, वास्तविक नौकरी की पोस्टिंग का संदर्भ देते हुए, और वैध वीडियो कॉन्फ्रेंसिंग सेवा के लिए एक मीटिंग लिंक प्रदान करते हुए, उनकी परिष्कार के बावजूद स्वचालित फिल्टर के माध्यम से फिसल सकता है।
कोई भी डिटेक्टर हल नहीं कर सकता सीमा
किसी भी घोटाला पहचान प्रणाली के लिए मौलिक चुनौती यह है कि वही AI क्षमताएं जो धोखाधड़ी को सक्षम करती हैं, पहचान को भी कठिन बनाती हैं। एक भाषा मॉडल जो प्रेरक मानव पाठ उत्पन्न करता है वह भी पाठ उत्पन्न करता है जो मानक प्रामाणिकता मेट्रिक्स पर अच्छा स्कोर करता है। पहचान उपकरणों को व्यवहारिक संकेतों पर निर्भर करने की आवश्यकता है - समय पैटर्न, असामान्य अनुरोध अनुक्रम, ज्ञात घोटाला नेटवर्क के साथ क्रॉस-संदर्भ - बल्कि केवल सामग्री विश्लेषण के बजाय।
NordVPN का उपकरण व्यवहार विश्लेषण पर वादा दिखाया गया, कई घोटालों को सही ढंग से पहचानते हुए जो सामग्री जांच को पास करते थे लेकिन संदिग्ध लिंक संरचनाएं या असामान्य प्रारंभिक बातचीत में संवेदनशील जानकारी के लिए कहा। यह सुझाव देता है कि AI घोटाला पहचान के लिए सबसे रक्षाशील रणनीति एक बातचीत में पैटर्न देख रहा है बजाय अलगाव में किसी एकल संदेश का विश्लेषण करने।
साइबर सुरक्षा के लिए व्यापक निहितार्थ
यह परीक्षा जो चित्रित करता है वह यह है कि साइबर सुरक्षा उद्योग एक ऐसे चरण में प्रवेश कर रहा है जहां AI-बनाम-AI संघर्ष खतरे के परिदृश्य की एक स्थायी विशेषता बन जाएगा। AI-जनित धोखाधड़ी के विरुद्ध रक्षा करने के लिए सबसे अच्छी स्थिति में कंपनियां हैं जिनके पास वास्तविक दुनिया के घोटालों के सबसे बड़े प्रशिक्षण डेटासेट हैं - एक डेटा मोट जो स्थापित सुरक्षा फर्मों के पास नए प्रवेशकर्ताओं पर है।
उपयोगकर्ता, इस बीच, किसी भी एकल उपकरण को निश्चित सुरक्षा के रूप में मानना नहीं चाहिए। सर्वोत्तम दृष्टिकोण स्वचालित पहचान को व्यक्तिगत सत्यापन आदतों के साथ जोड़ता है: स्वतंत्र रूप से भर्तिकर्ता पहचान की पुष्टि, किसी भी प्रक्रिया के प्रति सावधान रहना जो असामान्य रूप से तेजी से चलती है, और एक संबंध में वित्तीय जानकारी या व्यक्तिगत दस्तावेजों के लिए अनुरोधों को लाल झंडा के रूप में मानना कि एक चेकर क्या कहता है इसके बावजूद।
यहाँ की व्यापक कहानी तकनीकी लोकतांत्रिकरण दोनों तरफ से काटना है। AI ने कम-कौशल हमलावरों के लिए परिष्कृत धोखाधड़ी को सुलभ बना दिया है और अधिक सक्षम पहचान उपकरण बनाए हैं। रक्षा, अब के लिए, आगे दौड़ नहीं है - लेकिन यह गति बनाए हुए है।
यह लेख ZDNET द्वारा रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on zdnet.com
