இரண்டு நிறுவனங்கள் சில நாட்கள் இடைவெளியில் AI தவறுபயன்பாட்டின் வெவ்வேறு வகைகளை வெளிப்படுத்தின
Google மற்றும் OpenAI தனித்தனியாக சீனாவில் தோன்றியதாக அவர்கள் கூறும் நடவடிக்கைகளை வெளிப்படுத்தியுள்ளன, ஆனால் இந்த இரண்டு வழக்குகள் மேம்பட்ட AI கருவிகள் டிஜிட்டல் தவறுபயன்பாட்டில் எவ்வாறு வேறுபட்ட வழிகளில் இணைக்கப்படுகின்றன என்பதை காட்டுகின்றன. Google வழக்கில், பிரச்சினை பெரிய அளவிலான நுகர்வோர் மோசடி. OpenAI வழக்கில், அது பொது விவாதத்தை வடிவமைக்க நோக்கப்பட்ட இரகசிய தாக்கம் செலுத்தும் செயற்பாடு. இவற்றை சேர்த்து பார்க்கும்போது, AI அமைப்புகள் இப்போது உற்பத்தித்திறன் மற்றும் மென்பொருள் மேம்பாட்டிற்கே değil, மோசடிகள் மற்றும் தகவல் செயல்பாடுகளின் தொழில்மயமாக்கலுக்கும் மையமாகி விட்டன என்பது தெரிகிறது.
Google எடுத்த நடவடிக்கை மிகவும் தாக்குதல்மிகுந்ததாக இருந்தது. வழங்கப்பட்ட மூலப் பொருளின்படி, நிறுவனம் Outsider Enterprise என்று அழைக்கும் ஒரு cybercrime network மீது New York Southern District-இல் உள்ள US District Court-ல் வழக்கு தொடர்ந்தது. அந்த குழு Gemini-யை பயன்படுத்தி நிதி மோசடி மூலம் நூற்றுக்கணக்கான ஆயிரக்கணக்கான அமெரிக்கர்களை இலக்காக்கியது என்று Google குற்றம் சாட்டுகிறது. அந்த புகாரில், பிரதிவாதிகள் Google, YouTube, US Postal Service, மற்றும் New York-ன் E-ZPass system உள்ளிட்ட பிராண்டுகள் மற்றும் நிறுவனங்களைப் போல தோற்றமளிக்கும் ஆயிரக்கணக்கான போலி தளங்களை உருவாக்கக் கூடிய 131 software kits-ஐ உருவாக்கியதாக கூறப்படுகிறது.
மூலத்தில் விவரிக்கப்பட்ட அளவு குறிப்பிடத்தக்கது. மே மாதத்தில் இரண்டு வாரங்களுக்குள், அந்த வலைப்பின்னல் Android பயனர்களுக்கு 2.5 million செய்திகள் அனுப்பியதாகக் கூறப்படுகிறது; அதில் 9,000 போலி இணையதளங்களுக்கான இணைப்புகள் மற்றும் 10 லட்சத்துக்கும் அதிகமான fraudulent URLs இருந்தன. இந்த செயல்பாடு Telegram வழியாக ஒருங்கிணைக்கப்பட்டதாக கூறப்படுகிறது. FBI மற்றும் AT&T, T-Mobile, Verizon உள்ளிட்ட பெரிய carriers உடன் இணைந்து செயல்படும் முதல் வழக்கு இதுவென்று Google கூறுகிறது. domains-ஐ பறிமுதல் செய்வதன் மூலம் அல்லது கணக்குகளை முடக்குவதன் மூலம் நிறுவனங்களும் law enforcement-உம் ஒருங்கிணைந்து செயல்பட எளிதாக்கும் restraining order-ஐ நிறுவனம் கோருகிறது.
OpenAI-யின் disclosure, அதன் June 2026 threat report-இல் வெளியிடப்பட்டது, வேறு வகையான அச்சுறுத்தல் வடிவத்தை சுட்டிக்காட்டுகிறது. அமெரிக்க technology policy குறித்து நடைபெறும் விவாதத்தை பாதிக்க முயன்றதாகக் கூறப்படும், China-வில் அமைந்ததாக சந்தேகிக்கப்படும் இரண்டு ChatGPT clusters-ஐ நிறுவனம் தடை செய்ததாக தெரிவித்தது. Data Center Bandwagon என்று பெயரிடப்பட்ட ஒரு cluster, AI data center விரிவாக்கம் சாதாரண குடும்பங்களுக்கான மின்சார கட்டணத்தை உயர்த்துகிறது என்று கூறும் English-language comments, comic strips, மற்றும் திருத்தப்பட்ட படங்களை உருவாக்கியது. OpenAI விவரிப்பின்படி, இந்த உள்ளடக்கம் energy மற்றும் capacity பிரச்சினைகளுடன் தொடர்புடைய hashtags-ஐ பயன்படுத்திய likely inauthentic X accounts மூலம் பரப்பப்பட்டது.
அந்த பிரச்சாரத்திற்குப் பின்னால் இருந்தவர்களை ஒரு private Chinese technology company-க்கு OpenAI தொடர்புபடுத்தியதாக மூலத்தில் கூறப்படுகிறது; அந்த நிறுவனம் provincial authorities சார்பில் செயல்பட்டதாக கூறப்படுகிறது. இது கடுமையான குற்றச்சாட்டு, ஏனெனில் இது பிரச்சினையை generic spam அல்லது freelance manipulation-இலிருந்து state-linked narrative shaping-ஐ நோக்கி, மறைமுகமாக இருந்தாலும், நகர்த்துகிறது. குறைந்த செலவில், விரைவாக content உருவாக்கும் திறன், அனைவரையும் நம்ப வைக்கத் தேவையில்லாத நடவடிக்கைகளுக்கு எவ்வாறு ஆதரவளிக்க முடியும் என்பதையும் நிறுவனத்தின் கண்டுபிடிப்புகள் எடுத்துக்காட்டுகின்றன. விவாதத்தின் தோற்றத்தை சிதைக்க போதுமான அளவு, இயல்பானதாகத் தோன்றும் உள்ளடக்கத்தால் சேனல்களை நிரப்பினாலே போதும்.
இந்த இரண்டு disclosures-ஐ இணைப்பது அவற்றின் origin claim மட்டுமல்ல. AI tooling-ஐச் சுற்றி cybercrime மற்றும் influence work இடையே அதிகரித்து வரும் convergence-உம் அதில் அடங்கும். Fraud networks models-ஐ பயன்படுத்தி phishing pages, messages, மற்றும் brand impersonation-ஐ மேலும் நம்பத்தகுந்ததாக மாற்றலாம். Influence operators அதே வகை systems-ஐப் பயன்படுத்தி குறிப்பிட்ட policy fights-க்கு ஏற்ற வகையில் comments, images, talking points ஆகியவற்றை mass-produce செய்யலாம். இரு சந்தர்ப்பங்களிலும் AI சோதனைச் செலவைக் குறைக்கிறது. Attackers முன்பைவிட வேகமாகவும் அதிக அளவிலும் narratives, targets, formats-ஐ சோதிக்க முடியும்.
பரந்த சைகை
- Google AI-இயக்கப்பட்ட மோசடியை moderation பிரச்சினையாக மட்டும் அல்லாமல், சட்டரீதியான மற்றும் infrastructure பிரச்சினையாகவும் கருதுகிறது.
- OpenAI அரசியல் discourse-இல் AI தவறுபயன்பாட்டை மீண்டும் மீண்டும் வரும் threat-reporting function-இன் பகுதியாக விவரிக்கிறது.
- இரு disclosures-உம் platform defense இப்போது model providers, telecom firms, மற்றும் law enforcement இடையிலான ஒருங்கிணைப்பில் சார்ந்துள்ளது என்பதை சுட்டிக்காட்டுகின்றன.
- பாரம்பரிய spam, cybercrime, மற்றும் influence operations இடையிலான கோடு மேலும் மெல்லியதாகி வருகிறது.
இரண்டு வழக்குகளின் உடனடி உண்மைகள் வேறுபட்டவை, மேலும் இரு நிறுவனங்களும் தங்களின் சொந்த கண்டுபிடிப்புகளை முன்வைக்கின்றன. ஆனால் உத்தி சார்ந்த படம் ஒரு வருடத்திற்கு முன்பதைவிட இப்போது மிகத் தெளிவாக உள்ளது. AI தவறுபயன்பாடு இனி எதிர்காலத்தில் வரக்கூடிய ஒரு கற்பனைப் பிரச்சினை அல்ல. அது consumer fraud, infrastructure impersonation, மற்றும் அரசியல் narrative manipulation ஆகியவற்றை உள்ளடக்கிய நேரடி நடவடிக்கைகளில் ஏற்கனவே பதியப்பட்டுள்ளது. இதன் பொருள், AI governance-இன் அடுத்த கட்டம் product demos-ஐ விட, இந்த அமைப்புகளை உருவாக்கும் நிறுவனங்கள் அவை ஆயுதமாக மாற்றப்படுவதைக் கட்டுப்படுத்த முடியுமா என்பதிலேயே அதிகமாக மதிப்பிடப்படும் என்பதுதான்.
இந்தக் கட்டுரை The Decoder வெளியிட்ட செய்தியினை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.
Originally published on the-decoder.com