दोन कंपन्यांनी काही दिवसांच्या अंतराने AI गैरवापराचे वेगवेगळे प्रकार उघड केले
Google आणि OpenAI यांनी स्वतंत्रपणे अशा मोहिमा उघड केल्या आहेत ज्या त्यांच्या मते चीनमध्ये सुरू झाल्या, पण या दोन प्रकरणांमधून प्रगत AI साधने डिजिटल गैरवापरात वेगवेगळ्या प्रकारे कशी सामील होत आहेत हे दिसते. Google च्या बाबतीत मुद्दा मोठ्या प्रमाणावर होणारी ग्राहक फसवणूक आहे. OpenAI च्या बाबतीत, तो सार्वजनिक चर्चेला वळण देण्यासाठी करण्यात येणारी गुप्त प्रभाव मोहीम आहे. एकत्र पाहिल्यास, या खुलाशांमधून हे स्पष्ट होते की AI प्रणाली आता केवळ उत्पादकता आणि सॉफ्टवेअर विकासासाठीच नाही, तर फसवणूक आणि माहिती मोहिमांचे औद्योगिकीकरण करण्यासाठीही मध्यवर्ती ठरल्या आहेत.
Google चे पाऊल असामान्यपणे आक्रमक होते. दिलेल्या स्रोत सामग्रीनुसार, कंपनीने Outsider Enterprise असे नाव दिलेल्या cybercrime network विरुद्ध न्यूयॉर्कच्या Southern District मधील US District Court मध्ये खटला दाखल केला. Google चा आरोप आहे की या गटाने Gemini चा वापर करून आर्थिक फसवणुकीद्वारे शेकडो हजारो अमेरिकनांना लक्ष्य केले. तक्रारीत म्हटले आहे की प्रतिवाद्यांनी 131 software kits तयार केल्या ज्या हजारो बनावट साइट्स तयार करू शकत होत्या, आणि त्या Google, YouTube, US Postal Service, तसेच New York च्या E-ZPass system यांसारख्या ब्रँड्स आणि संस्थांची नक्कल करत होत्या.
स्रोतामध्ये वर्णन केलेला आकार लक्षणीय आहे. मे महिन्यातील दोन आठवड्यांच्या कालावधीत, या नेटवर्कने कथितपणे Android वापरकर्त्यांना 2.5 million संदेश पाठवले, ज्यात 9,000 बनावट वेबसाइट्सच्या लिंक आणि 10 लाखांहून अधिक fraudulent URLs होत्या. ही मोहीम Telegram द्वारे समन्वित करण्यात आल्याचे सांगितले जाते. Google म्हणते की हे पहिलेच प्रकरण आहे ज्यात ते FBI आणि AT&T, T-Mobile, Verizon यांसह मोठ्या carriers सोबत एकत्र काम करत आहे. domains जप्त करणे किंवा खाती गोठवणे यासारख्या मार्गांनी कंपन्या आणि law enforcement यांना समन्वयाने हालचाल करता यावी म्हणून कंपनी restraining order मागत आहे.
OpenAI चा खुलासा, जो त्यांच्या June 2026 threat report मध्ये प्रसिद्ध झाला, एका वेगळ्या प्रकारच्या धोक्याच्या नमुन्याकडे निर्देश करतो. अमेरिकेच्या technology policy भोवतीची चर्चा प्रभावित करण्याचा प्रयत्न करणारे चीनमध्ये आधारित असल्याचा आरोप असलेले ChatGPT चे दोन clusters त्यांनी बंद केले, असे कंपनीने सांगितले. Data Center Bandwagon नावाच्या एका cluster ने English-language टिप्पण्या, comic strips आणि संपादित प्रतिमा तयार केल्या, ज्यात असा दावा केला गेला की AI data center विस्तारामुळे सामान्य कुटुंबांसाठी वीजदर वाढत आहेत. OpenAI च्या म्हणण्यानुसार, ही सामग्री energy आणि capacity मुद्द्यांशी संबंधित hashtags वापरणाऱ्या likely inauthentic X accounts द्वारे पसरवण्यात आली.
स्रोत पुढे सांगतो की OpenAI ने त्या मोहिमेमागील घटकांचा माग काढून एका private Chinese technology company पर्यंत नेला, जी provincial authorities च्या वतीने काम करत होती. हा गंभीर आरोप आहे, कारण यामुळे हा मुद्दा generic spam किंवा freelance manipulation पासून थेट न जाता, तरीही, state-linked narrative shaping कडे वळतो. कंपनीच्या निष्कर्षांत हेही अधोरेखित होते की स्वस्त आणि जलद content generation अशा मोहिमांना कशी मदत करू शकते ज्यांना प्रत्येकाला पटवण्याची गरज नसते. त्यांना फक्त चर्चेची रचना बिघडवण्यासाठी पुरेसे नैसर्गिक दिसणारे साहित्य चॅनेलमध्ये भरायचे असते.
या दोन खुलाशांना जोडणारी गोष्ट केवळ त्यांचा origin claim नाही. AI tooling भोवती cybercrime आणि influence work यांच्यातील वाढता convergence हा मुख्य मुद्दा आहे. Fraud networks models चा वापर करून phishing pages, messages, आणि brand impersonation अधिक विश्वासार्ह करू शकतात. Influence operators त्याच प्रकारच्या systems चा वापर करून विशिष्ट policy fights साठी अनुरूप comments, images, आणि talking points मोठ्या प्रमाणावर तयार करू शकतात. दोन्ही प्रकरणांत, AI प्रयोगाचा खर्च कमी करते. Attackers पूर्वीपेक्षा जलद आणि अधिक प्रमाणात narratives, targets, आणि formats तपासू शकतात.
व्यापक संकेत
- Google AI-सक्षम फसवणुकीला केवळ moderation समस्या न मानता कायदेशीर आणि infrastructure समस्या म्हणून पाहत आहे.
- OpenAI राजकीय discourse मधील AI गैरवापराला recurring threat-reporting function चा भाग म्हणून वर्णन करत आहे.
- दोन्ही खुलाशांमुळे platform defense आता model providers, telecom firms, आणि law enforcement यांच्यातील समन्वयावर अवलंबून असल्याचे दिसते.
- पारंपरिक spam, cybercrime, आणि influence operations यांच्यामधील रेषा अधिक पातळ होत आहे.
या दोन प्रकरणांतील तातडीचे तथ्य वेगवेगळे आहेत, आणि दोन्ही कंपन्या आपापले निष्कर्ष सादर करत आहेत. पण रणनीतिक चित्र एका वर्षापूर्वीपेक्षा आता खूप स्पष्ट आहे. AI गैरवापर हा आता भविष्यातील काल्पनिक प्रश्न राहिलेला नाही. तो आधीच consumer fraud, infrastructure impersonation, आणि राजकीय narrative manipulation यांसारख्या प्रत्यक्ष मोहिमांमध्ये समाविष्ट आहे. याचा अर्थ असा की AI governance चा पुढचा टप्पा product demos पेक्षा अधिक यावर ठरेल की ही प्रणाली तयार करणाऱ्या कंपन्या त्यांचा शस्त्र म्हणून वापर रोखू शकतात की नाही.
हा लेख The Decoder च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.
Originally published on the-decoder.com