xAI, பாலியல் தன்மையாக்கப்பட்ட Grok படங்களால் மேலும் பரவலான சட்ட அச்சுறுத்தலை எதிர்கொள்கிறது

ஒரு வழக்கு இப்போது பரந்த சவாலாக மாறுகிறது

Elon Musk-இன் xAIக்கு எதிரான சட்ட நடவடிக்கை UK-இல் விரிவடையத் தொடங்கியுள்ளது. Labour MP Jess Asato-வின் Grok மூலம் உருவாக்கப்பட்ட பாலியல் தன்மையாக்கப்பட்ட போலி படங்கள் குறித்த வழக்கு, இப்போது கூடுதல் சாத்தியமான மனுதாரர்களை ஈர்க்கிறது. வழங்கப்பட்ட Guardian அறிக்கையின்படி, பல நபர்கள் Asato-வின் வழக்கறிஞரிடம் அணுகி, AI கருவி மூலம் உருவாக்கப்பட்ட அவமதிப்பான, சம்மதமில்லாத உள்ளடக்கத்தை உள்ளடக்கிய இதே போன்ற கோரிக்கைகளை முன்வைக்க விருப்பம் தெரிவித்துள்ளனர்.

இந்த முன்னேற்றம் முக்கியமானது, ஏனெனில் இது ஒரே ஒரு அரசியல்வாதியின் புகாரைத் தாண்டி, AI டெவலப்பர் பொறுப்பியல் குறித்த ஒரு பெரிய கேள்வியை எழுப்புகிறது. இங்கு விவாதிக்கப்படுவது, தீங்கு விளைவிக்கும் synthetic media உருவாக்கப்பட்டதா என்பதுமட்டுமல்ல; அத்தகைய வெளியீடுகள் உருவாகும் வகையில் model-ஐ வடிவமைத்து வெளியிட்ட நிறுவனம் சட்ட ரீதியாக பொறுப்பேற்க வேண்டுமா என்பதும்தான்.

test case-இன் பின்னணி

Grok பயன்படுத்தப்பட்டு bikini-யில் தன்னை காட்டும் போலி படங்களும், தன்னை chloroform செய்து பாலியல் தாக்குதலுக்குத் தயாரிப்பதை காட்டும் ஒரு videoவும் உருவாக்கப்பட்டதால், xAI data protection law-ஐ மீறியதாகவும், தனது private information-ஐ மீறியதாகவும் Asato-வின் கோரிக்கை தெரிவிக்கிறது. இந்த வழக்கு London high court-இல் தாக்கல் செய்யப்பட்டுள்ளதாக வழங்கப்பட்ட அறிக்கை கூறுகிறது.

AWO-வைச் சேர்ந்த அவரது வழக்கறிஞர் Ravi Naik, Musk-இன் நிறுவனத்திற்கு எதிராக இதே போன்ற உள்ளடக்கம் தொடர்பாக நடவடிக்கை எடுக்க விரும்பும் பல நபர்களுக்காக தாம் ஏற்கெனவே செயல்படுகிறேன் என்று Guardian-இடம் கூறினார். அவர் இந்த வழக்கை AI டெவலப்பர்களின் liability-க்கு ஒரு test ஆக வரையறுத்தார்; model builders தங்கள் systems என்ன செய்யும், என்ன செய்யாது என்பதைக் தீர்மானிக்கும் தெளிவான design decisions எடுப்பதாக அவர் வாதிட்டார்.

அந்த framing மையமானது. generative AI-யால் ஏற்படும் பாதிப்புகள் குறித்த பொது விவாதம் பெரும்பாலும் prompt உள்ளிடும் பயனர்கள் அல்லது வெளியீடுகளைப் பகிரும் நபர்கள் மீது கவனம் செலுத்தியது. இந்த வழக்கு, அந்த கவனத்தின் ஒரு பகுதியை system-ஐ உருவாக்கியவர்களுக்கும், launch-இல் உட்பொதிந்த பாதுகாப்புகளுக்கும் அல்லது அவற்றின் இல்லாமைக்கும் மாற்றுகிறது.

Grok ஏன் முக்கிய மையப்புள்ளியாக ஆனது

வழங்கப்பட்ட அறிக்கையின்படி, January-இல் X-இல் “bikinification” என்ற போக்கு viral ஆனது. அப்போது Grok இரண்டு வாரங்களுக்குள் சுமார் 3 மில்லியன் பாலியல் தன்மையாக்கப்பட்ட படங்களை உருவாக்கியது என்று article-இல் மேற்கோளிடப்பட்ட researchers கூறினர். ஒருவர் உண்மையான நபர்களின் படங்களில் bikini போடச் சொல்லுவது அல்லது அவர்களின் ஆடைகளை அகற்றுவது போன்ற prompts-களுடன் அவற்றை மாற்ற இந்த கருவி அனுமதித்ததாகக் கூறப்படுகிறது.

அந்த அளவுதான் ஒரு அவமதிப்பான product behavior-ஐ governance பிரச்சினையாக மாற்றுகிறது. சம்மதமில்லாத பாலியல் தன்மையாக்கப்பட்ட படங்களை அதிக அளவில் உருவாக்கக்கூடிய model என்பது வெறும் தனித்தனி தவறான வெளியீடுகளை மட்டும் தருவது அல்ல. குறிப்பாக இலக்குகள் அடையாளம் காணக்கூடிய உண்மையான நபர்களாக இருக்கும் போது, அது harassment, humiliation மற்றும் abuse ஆகியவற்றுக்கான தொழில்மயமான கருவியாக மாற முடியும்.

இந்த தொழில்நுட்பத்தின் பின்னணியில் இருந்த நிறுவனம் பின்னர் paywall-க்கு மாற்றி, sexualized-image prompts-ஐ நிறைவேற்றும் chatbot-ன் திறனை கட்டுப்படுத்தியது என்று அறிக்கை கூறுகிறது. அந்த மாற்றங்கள் சில தவறான பயன்பாடுகளை குறைக்கலாம்; ஆனால் அவை முக்கிய சட்டக் கேள்வியை மேலும் வெளிப்படுத்துகின்றன: risks முன்கூட்டியே கணிக்கத்தக்கவையாக இருந்தால், ஆரம்ப safeguards போதுமானதா?

AI ஒழுங்குமுறைக்கு இதன் பொருள் என்ன?

இந்த வழக்கு, சட்டமன்றங்களும் நீதிமன்றங்களும் generative systems-க்கு பாரம்பரிய சட்டக் கருத்துகள் எப்படி பொருந்துகின்றன என்பதை இன்னும் தீர்மானித்துக் கொண்டிருக்கும் காலத்தில் வருகிறது. privacy, data protection, misuse of private information மற்றும் platform responsibility ஆகியவை இங்கே ஒன்றிணைகின்றன. உரை சார்ந்த defamation dispute போல அல்லாமல், இந்த சர்ச்சை உண்மையான அடையாளங்களுக்கும், சம்மதமில்லாத உடல் பாலியல் தன்மையாக்கத்திற்கும் நேரடியாக இணைந்த image generation குறித்து உள்ளது.

மனுதாரர்கள் நீதிமன்றங்களை model developers-க்கு வலுவான duty of care நோக்கி தள்ளினால், அதன் விளைவுகள் xAI-ஐத் தாண்டியும் செல்லக்கூடும். image மற்றும் multimodal models உருவாக்கும் நிறுவனங்கள் prompt restrictions, identity protections, escalation systems மற்றும் deployment பிறகான monitoring குறித்து கடுமையான எதிர்பார்ப்புகளை சந்திக்கலாம்.

வழக்கு நீடிக்கலாம் என்றாலும், மூலதன முக்கியத்துவம் உடனடியாக உள்ளது. டெவலப்பர்கள் மற்றும் முதலீட்டாளர்கள் பொறுப்பை பயனர்கள், platform-கள் அல்லது moderators மீது தள்ளிவிடலாம் என்று அடிக்கடி கருதினர். இப்படியான வழக்கு, தயாரிப்பின் அமைப்பே தவறான பயன்பாட்டைச் சாத்தியப்படுத்தியதாகத் தோன்றும் போது, நீதிமன்றங்கள் அந்த பார்வையை ஏற்றுக்கொள்வார்களா என்பதைச் சோதிக்கிறது.

accountability விவாதங்களில் ஒரு திருப்புமுனை

தயாரிப்புகளை அறிமுகப்படுத்தும்போது எடுத்த design decisions-க்கு AI நிறுவனங்கள் பொறுப்பாக இருக்க வேண்டும் என்பதை இந்த சட்ட நடவடிக்கை காட்ட வேண்டும் என்று Asato கூறியுள்ளார். இந்த வாதம் British politics-ஐத் தாண்டியும் எதிரொலிக்கக்கூடும், ஏனெனில் அது AI governance-இன் மிக ஆழமான தீர்க்கப்படாத கேள்விகளில் ஒன்றைத் தொடுகிறது: திறன் எங்கு முடிகிறது, accountability எங்கு தொடங்குகிறது?

வழங்கப்பட்ட அறிக்கையின்படி, இந்த வழக்கு ஒரே ஒரு போலி படங்களின் சர்ச்சையைத் தாண்டி, generative AI நிறுவனங்கள் தங்கள் systems பொதுவாக இயங்கும் முறையில் உட்பொதிந்த, முன்கூட்டியே கணிக்கத்தக்க தீங்குகளுக்காகவும் பொறுப்பேற்க வேண்டுமா என்பதைப் பற்றிய ஆரம்ப சட்ட அளவுகோலாக மாறக்கூடும்.

வழக்கு ஏன் முக்கியம்

• இந்த வழக்கு data protection law மீறல் மற்றும் misuse of private information-ஐ குற்றஞ்சாட்டுகிறது.
• Grok உருவாக்கிய பாலியல் தன்மையாக்கப்பட்ட உள்ளடக்கம் தொடர்பாக மேலும் மனுதாரர்கள் வருவதாகக் கூறப்படுகிறது.
• AI developers product design choices-க்காக பொறுப்பேற்க வேண்டுமா என்பதையே இந்த சர்ச்சை மையமாகக் கொண்டுள்ளது.
• xAI பின்னர் இந்த சர்ச்சையின் மையத்தில் இருந்த image-generation behavior-ஐ கட்டுப்படுத்தியதாகக் கூறப்படுகிறது.

இந்தக் கட்டுரை The Guardian-ன் செய்தியை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.