सायबर गुन्हेगारीतील एआय टप्पा वेग घेत आहे
जनरेटिव्ह एआय आता केवळ उत्पादकता सॉफ्टवेअर आणि ग्राहक साधने बदलत नाही. ते ऑनलाइन फसवणूक आणि सायबर गुन्हेगारीला देखील नव्याने आकार देत आहे. The Download च्या 24 एप्रिलच्या आवृत्तीत MIT Technology Review ने एक मुख्य प्रवाह अधोरेखित केला: एआय-आधारित घोटाळे वाढत आहेत, आणि हल्ल्यांचा आकार व वेग यांच्याशी जुळवून घेणे संस्थांना कठीण जात आहे.
या बदलाचा उगम 2022 च्या उत्तरार्धातील ChatGPT च्या प्रकाशनापर्यंत नेला जातो, जेव्हा मोठ्या भाषा मॉडेल्सनी विश्वासार्ह, मानवीसदृश मजकूर तयार करणे सोपे केले. सायबर गुन्हेगारांनी त्याचे मूल्य लगेच ओळखले. दिलेल्या मजकुरानुसार, त्यांनी हानिकारक ईमेल तयार करण्यासाठी LLMs वापरण्यास सुरुवात केली, आणि त्यानंतर turbocharged phishing, अत्यंत वास्तवदर्शी deepfakes, आणि automated vulnerability scans पर्यंत विस्तार केला आहे.
सर्वांत महत्त्वाचे म्हणजे दिशा. एआय हल्ला तयार करण्याचा खर्च कमी करत आहे, तर प्रमाण आणि विश्वासार्हता वाढवत आहे. हा संयोग सार्वजनिक डिजिटल ठसा असलेल्या जवळपास प्रत्येक संस्थेसाठी सुरक्षा समीकरण बदलतो.
समस्या का वाढत चालली आहे
MIT Technology Review चे म्हणणे स्पष्ट आहे: एआय हल्ले अधिक वेगवान, स्वस्त आणि करणे सोपे करत आहे. लेख पुढे म्हणतो की अनेक संस्था सायबरहल्ल्यांच्या प्रचंड संख्येशी झुंजत आहेत, आणि अधिक गुन्हेगार ही साधने स्वीकारत गेले आणि साधने स्वतः सुधारत गेली तर समस्या आणखी बिघडण्याची शक्यता आहे.
हा एक रचनात्मक इशारा आहे, एकदाच घडलेली घटना नाही. पारंपरिक सायबरसुरक्षा बचाव सहसा friction, detectability, आणि attacker cost यापैकी काही संयोजनावर अवलंबून असतात. जनरेटिव्ह एआय या तिन्ही गोष्टी कमजोर करते. त्यामुळे वाईट हेतू असलेल्यांना परिष्कृत मजकूर तयार करणे, आवाज किंवा प्रतिमा अधिक विश्वासार्हरीत्या अनुकरण करणे, आणि आधी अधिक वेळ किंवा कौशल्य मागणारी संशोधन वा स्कॅनिंगची कामे स्वयंचलित करणे शक्य होते.
परिणाम म्हणजे केवळ चांगली phishing नाही. तो औद्योगिक स्तरावर केलेले लक्ष्यीकरण आहे.
हानिकारक ईमेलपासून कृत्रिम मनधरणीपर्यंत
गुन्हेगारीतील एआय वापराची पहिली स्पष्ट लाट मजकूर निर्मितीची होती. जर phishing ला पूर्वी खराब व्याकरण, अडखळणारे शब्दप्रयोग, किंवा विसंगत शैलीमुळे अडथळे येत असतील, तर तो अडथळा आता कमी झाला आहे. मोठी भाषा मॉडेल्स सुसंगत, संदर्भजाण, आणि लक्ष्याला अनुरूप वाटणारे ईमेल तयार करणे सोपे करतात.
पण दिलेल्या अहवालातून स्पष्ट होते की हे क्षेत्र आता ईमेल रचनेपलीकडे गेले आहे. अत्यंत वास्तवदर्शी deepfakes फसवणूक आवाज, व्हिडिओ, आणि ओळख अनुकरणापर्यंत नेतात. Automated vulnerability scans एक तांत्रिक थर जोडतात, ज्यामुळे हल्लेखोरांना प्रणालींवर जलद चाचपणी करता येते. या वेगळ्या पद्धती नाहीत. एकत्र वापरल्यास, त्या सामाजिक अभियांत्रिकीला संधीसाधू system exploitation सोबत जोडणाऱ्या व्यापक मोहिमांना पाठबळ देऊ शकतात.
हाच संयोग सध्याचा काळ वेगळा बनवतो. एआय हे केवळ हल्लेखोरांच्या टूलकिटमधील नवीन साधन नाही; ते वाढत्या प्रमाणावर फसवणूक ऑपरेशन्सना मोठ्या प्रमाणावर चालविण्यास मदत करणारा जोडणारा थर बनत आहे.
संस्था दबावाखाली का आहेत
संरक्षकांसमोरील आव्हान केवळ तांत्रिक गुंतागुंत नाही. ते प्रमाण आहे. तुलनेने सक्षम हल्लेखोर आता पूर्वीपेक्षा खूप अधिक सानुकूल संदेश, प्रकार, आणि चाचणी उदाहरणे तयार करू शकतो. त्यामुळे गोंधळ वाढतो, यशस्वी हल्ल्याची शक्यता वाढते, आणि रक्षणकर्त्यांना triage वर अधिक वेळ घालवावा लागतो.
अनेक सायबरहल्ल्यांच्या प्रचंड संख्येशी संस्थांना झुंजावे लागत आहे, हा MIT Technology Review चा इशारा अनेक सुरक्षा पथकांनी आधीच अनुभवलेल्या बदलाला पकडतो. एकही घोटाळा विशेषतः प्रगत नसला, तरी AI-सहाय्यित अनेक प्रयत्नांचा एकत्रित परिणाम कर्मचारी आणि प्रणालींना गुदमरवू शकतो.
जेव्हा फसवणूक अनेक चॅनेल्सवर पसरते तेव्हा हे विशेषतः खरे ठरते. जर ईमेल, ऑडिओ, आणि व्हिडिओ हे सर्व कमी खर्चात synthesize किंवा जुळवून घेता येत असतील, तर पडताळणी अधिक श्रमप्रधान होते. एक tone, लेखनशैली, किंवा परिचित चेहरा ओळखण्यावर अवलंबून असलेले trust workflows कमी विश्वासार्ह होतात.
इशाऱ्याचे मोठे महत्त्व
प्रकाशनाने “supercharged scams” ला सध्या एआयमधील महत्त्वाच्या 10 गोष्टींपैकी एक म्हटले आहे. हे संपादकीय framing महत्त्वाचे आहे, कारण ते गुन्हेगारी गैरवापराला मुख्य प्रवाहातील model development आणि commercial deployment सोबत या क्षेत्राच्या सध्याच्या टप्प्याचे निर्णायक वैशिष्ट्य म्हणून ठेवते.
दुसऱ्या शब्दांत, एआय धोका हा एआय boom पासून वेगळा साइड विषय नाही. तो त्या boom चाच भाग आहे.
दिलेला मजकूर विशिष्ट धोरणात्मक उपाय किंवा बचाव आराखडा देत नाही. पण तो एक ठोस निष्कर्ष समर्थित करतो: जनरेटिव्ह एआयचे सुरक्षा परिणाम आता काल्पनिक राहिलेले नाहीत, आणि क्षमता पसरत गेल्याने attack surface वाढत आहे.
एआय स्वीकाराच्या पुढील टप्प्यासाठी याचा अर्थ
एआय प्रणाली स्वस्त होत चालल्यावर आणि सामान्य सॉफ्टवेअरमध्ये अधिक अंतर्भूत होत गेल्यावर, गुन्हेगारांचा learning curve आणखी सपाट होण्याची शक्यता आहे. सामान्य-उद्देश उत्पादकता प्रणाली म्हणून सुरू होणारी साधनेही दुष्ट वापरासाठी पुनर्वापर, जुळवून घेणे, किंवा नक्कल करण्यासाठी वापरली जाऊ शकतात. वास्तववाद, वेग, आणि उपलब्धता या प्रत्येक सुधारण्याचा परिणाम वैध आणि अवैध दोन्ही घटकांवर होतो.
याचा अर्थ असा नाही की प्रत्येक नवीन एआय फीचर सायबर गुन्हेगारी सरळ रेषेत वाढवते. पण दिलेल्या रिपोर्टिंगमधून स्पष्ट होते की विश्वासार्ह घोटाळे सुरू करण्याचे अडथळे आधीच कमी झाले आहेत. आता प्रश्न असा नाही की गुन्हेगार एआय वापरतील का, तर routine AI-assisted deception शी बचाव किती वेगाने जुळवून घेऊ शकतील.
ही एक सुरक्षा कथा आहे, फक्त एआय कथा नाही
एआय कव्हरेजमध्ये लक्ष प्रामुख्याने frontier models, स्पर्धात्मक लॉन्चेस, आणि product rollouts वर जाते. MIT Technology Review चा घोटाळ्यांवर दिलेला भर आठवण करून देतो की एआयचे सर्वात तात्काळ सामाजिक परिणाम नवकल्पना ब्रँडिंगमधून नव्हे, तर गैरवापरातून येऊ शकतात.
म्हणूनच हा तांत्रिक प्रश्न जितकाच आहे, तितकाच तो governance आणि operational issue देखील आहे. जे संस्थे एआयला केवळ अंतर्गत उत्पादकतेचे साधन मानतात, ते अधिक तातडीचे वास्तव चुकवू शकतात: प्रतिपक्षी याच प्रकारची साधने अधिक कार्यक्षमपणे हल्ल्यासाठी स्वीकारत आहेत.
त्यामुळे लेखाचा मुख्य इशारा थेट आणि विश्वासार्ह आहे. एआयने आधीच सायबर गुन्हेगारीची अर्थव्यवस्था बदलली आहे. घोटाळे अधिक scalable आहेत, output अधिक विश्वासार्ह आहेत, आणि रक्षणकर्त्यांवरील ओझे अधिक जड आहे. मूलभूत मॉडेल्स विकसित होत राहिले तरी हे पुढेही खरे राहण्याची शक्यता आहे.
हा लेख MIT Technology Review च्या अहवालावर आधारित आहे. मूळ लेख वाचा.
Originally published on technologyreview.com