செயற்கை நுண்ணறிவைப் பயன்படுத்தி சம்மதமின்றி நெருக்கமான படங்களை உருவாக்கும் பயன்பாடுகளைத் தெளிவாகக் குறிவைக்கும் வகையில் Apple தனது App Store விதிகளைப் புதுப்பித்துள்ளது. இந்த மாற்றங்கள் அத்தகைய உள்ளடக்கத்தைத் தடுப்பதும் நீக்குவதும் டெவலப்பர்களின் பொறுப்பு என்பதைத் தெளிவாக்குகின்றன. போதுமான பாதுகாப்பு நடவடிக்கைகளை டெவலப்பர் செயல்படுத்தவில்லை அல்லது அறிவிப்பு கிடைத்த பிறகு விதிமீறல்களைச் சரிசெய்யத் தவறினால், செயலி ஸ்டோரிலிருந்து நீக்கப்படலாம் என்றும் விதிகள் எச்சரிக்கின்றன.
இந்தக் கொள்கைப் புதுப்பிப்பு பொதுவாக “nudify” செயலிகள் என அழைக்கப்படும் வகையைச் சேர்ந்தவற்றைக் கையாள்கிறது: ஒருவரின் சம்மதமின்றி அவர்களின் பாலியல் சார்ந்த அல்லது நெருக்கமாகத் தோன்றும் படங்களை உருவாக்க வடிவமைக்கப்பட்ட மென்பொருள். உருவாக்கும்-AI கருவிகள் நுகர்வோர் மென்பொருள் மூலம் படக் கையாளுதலைப் பரப்புவதை எளிதாக்கியுள்ள நிலையில், Apple-ன் திருத்தப்பட்ட மொழி இந்தத் தடையை மேலும் நேரடியாகக் குறிப்பிடுகிறது.
மேலும் வெளிப்படையான moderation கடமை
புதுப்பிக்கப்பட்ட விதிகளின்படி, டெவலப்பர்கள் தங்கள் உள்ளடக்க-moderation பொறுப்புகளின் ஒரு பகுதியாக சம்மதமற்ற பாலியல் படங்களை முன்கூட்டியே தடுத்து நீக்க வேண்டும். இந்தச் சொற்றொடர் முக்கியமானது, ஏனெனில் இது பிரச்சினையை ஒரு குறுகிய அம்சத்திற்கான தடையாக மட்டும் கருதவில்லை. தகுதியுள்ள செயலிகளின் இயக்குநர்கள் தடைசெய்யப்பட்ட பயன்பாட்டைக் கண்டறிந்து, அதற்குப் பதிலளித்து, அதை நிறுத்தும் திறமையான அமைப்புகளை வைத்திருக்க வேண்டும் என்ற எதிர்பார்ப்பையும் இது உருவாக்குகிறது.
போதுமான பாதுகாப்பு நடவடிக்கைகளை அமைக்காத அல்லது அறிவிக்கப்பட்ட பிறகும் விதிமீறல்களைச் சரிசெய்யாத டெவலப்பர்கள் App Store-லிருந்து நீக்கப்படலாம் என்று Apple கூறுகிறது. எனவே, இந்த வகை படங்களை உருவாக்க, ஹோஸ்ட் செய்ய அல்லது பரப்ப பயனர்களை அனுமதிக்கும் தயாரிப்புகளைக் கொண்ட டெவலப்பர்களுக்கு இந்தக் கொள்கை இணக்க அபாயத்தை உருவாக்குகிறது.
“bait-and-switch” செயலிகளுக்கு எதிரான விதிகளையும் Apple தெளிவுபடுத்தியுள்ளது. App Store ஒப்புதலுக்குப் பிறகு, nudification உட்பட தடைசெய்யப்பட்ட திறன்களை அறிமுகப்படுத்தும் வகையில் செயலி தனது செயல்பாட்டைச் சேர்க்கவோ மாற்றவோ கூடாது என்று நிறுவனம் கூறுகிறது. டெவலப்பர் செயலி கிடைத்த பிறகு அதன் அம்சங்களை மாற்றினால், அதன் ஆரம்ப மதிப்பாய்வு நிலை பின்னர் அது எவ்வாறு செயல்படும் என்பதற்கான நம்பகமான குறியீடாக இருக்காது என்பதே இந்த விளக்கத்தின் பின்னணியில் உள்ள நடைமுறை அமலாக்கச் சிக்கல்.
Deepfake சர்ச்சைக்குப் பிறகு அழுத்தம் அதிகரித்தது
இந்தத் திருத்தங்கள் Apple மீது எழுந்த விமர்சனங்களைத் தொடர்ந்து வந்துள்ளன. இந்த ஆண்டின் தொடக்கத்தில் X பயனர்கள் Grok-ஐப் பயன்படுத்தி, சிறார்களை உள்ளடக்கிய படங்கள் உட்பட, சம்மதமற்ற பாலியல் deepfake படங்களை உருவாக்கினர். Apple X அல்லது Grok-ஐ App Store-லிருந்து நீக்கவில்லை; இருப்பினும் Grok-ஐ நீக்குவதாக எச்சரித்ததாக செனட்டர்களிடம் தெரிவித்தது.
ஜூன் மாதம் நடைபெற்ற Apple-ன் Worldwide Developers Conference-இலும் பொதுமக்கள் அழுத்தம் வெளிப்பட்டது. அங்கு போராட்டக்காரர்கள் Grok, X மற்றும் nudify தொழில்நுட்பத்தை App Store-லிருந்து நீக்குமாறு Apple-ஐ வலியுறுத்தினர். ஜூலை மாதம், சான் பிரான்சிஸ்கோ நகர வழக்கறிஞர் 13 nudify செயலிகளை நீக்க Apple-க்கு உத்தரவிட்டார்; அவ்வாறு செய்ததாக Apple கூறியது.
புதிய சொற்றொடர் அந்தச் சம்பவம் எழுப்பிய அனைத்து கேள்விகளுக்கும் பதிலளிக்கவில்லை. பெரிய தளங்கள் மற்றும் AI சேவைகளுக்கு Apple தனது விதிகளை எவ்வளவு பரவலாகப் பயன்படுத்தும் என்பதும் அதில் அடங்கும். ஆனால் நிறுவனத்தின் அறிவிக்கப்பட்ட தரநிலையை அடையாளம் காண்பதை இது எளிதாக்குகிறது: மதிப்பாய்வு நேரத்தில் தங்களை nudification கருவிகளாகக் காட்டாமல் இருப்பது மட்டும் செயலிகளுக்கு போதாது. சம்மதமற்ற நெருக்கமான படங்களை உருவாக்குவதையும் பரப்புவதையும் அவை தடுக்க வேண்டும்.
விநியோகக் கட்டுப்பாடுகளும் கொள்கையின் ஒரு பகுதி
மனிதக் கடத்தல் அல்லது குழந்தைகள் சுரண்டலை எளிதாக்கும் செயலிகள் App Store-லிருந்து நீக்கப்பட்டு மாற்று விநியோகத்திலிருந்தும் தடுக்கப்படும் என்று Apple-ன் புதுப்பிப்பு மேலும் தெளிவாகக் கூறுகிறது. மென்பொருள் பயனர்களை எவ்வாறு சென்றடைகிறது என்பதில் Apple கொண்டுள்ள விரிவான கட்டுப்பாட்டுடன் திருத்தப்பட்ட moderation மொழியை இந்த விதி இணைக்கிறது.
செயலி தயாரிப்பாளர்களுக்கு, தயாரிப்பு வடிவமைப்பும் தொடர்ச்சியான செயல்பாடுகளும் இம்மாற்றத்தால் மேலும் முக்கியத்துவம் பெறுகின்றன. பட உருவாக்க அம்சங்கள், சமூகப் பகிர்வு அல்லது பயனர் பதிவேற்றிய உள்ளடக்கத்தை வழங்கும் டெவலப்பர், தடைசெய்யப்பட்ட பயன்பாடுகளை எவ்வாறு தடுக்கலாம், விதிமீறும் உள்ளடக்கத்தை எவ்வாறு நீக்கலாம், Apple அல்லது வேறு தரப்பு சிக்கலைக் குறிப்பிட்டால் எவ்வாறு பதிலளிக்கலாம் என்பதைக் கருத்தில் கொள்ள வேண்டும். முன்கூட்டியே செயல்பட வேண்டிய பொறுப்பு டெவலப்பர்களிடமே உள்ளது என்று கொள்கை மொழி குறிப்பாகக் கூறுகிறது.
பயனர்களைப் பொறுத்தவரை, AI-இயக்கப்படும் சம்மதமற்ற நெருக்கமான படங்களை App Store அமலாக்கத்தின் வெளிப்படையான பிரச்சினையாக Apple கருதுகிறது என்பதை இந்த மாற்றம் காட்டுகிறது. தீங்கிழைக்கும் உள்ளடக்கத்தையும், ஒரு செயலி இணக்கமற்றதாக மாறக்கூடிய வழிகளையும் நிறுவனத்தின் விதிகள் இப்போது அடையாளப்படுத்துகின்றன: போதிய பாதுகாப்பு நடவடிக்கைகள் இல்லாமை, தீர்க்கப்படாத விதிமீறல்கள் அல்லது ஒப்புதலுக்குப் பிறகு nudification-ஐ அறிமுகப்படுத்தும் அம்ச மாற்றங்கள்.
இந்தத் தெளிவு ஏன் முக்கியமானது
App stores நுகர்வோர் AI கருவிகளுக்கான முக்கிய நுழைவாயில்களாக உள்ளன; அவற்றின் விதிகள் எந்தத் தயாரிப்புகள் பரவலாகக் கிடைக்கும் என்பதை வடிவமைக்க முடியும். Apple-ன் புதுப்பிப்பு அடிப்படைத் தொழில்நுட்பத்தையோ அதன் ஸ்டோருக்கு வெளியிலான தவறான பயன்பாட்டு அபாயத்தையோ நீக்காது. இருப்பினும், App Store விநியோகத்தை நாடும் டெவலப்பர்களுக்கான தனது எதிர்பார்ப்புகளை அது மேலும் தெளிவாக்குகிறது.
AI கொள்கை, கருத்தியல் கோட்பாடுகளிலிருந்து நடைமுறைச் செயல்பாட்டு கடமைகளுக்கு நகர்கிறது என்பதையும் இந்த மாற்றம் காட்டுகிறது. சம்மதமற்ற பாலியல் படங்கள் ஏற்றுக்கொள்ள முடியாதவை என்று Apple கூறுவதில் மட்டும் நின்றுவிடவில்லை. அந்தத் தரநிலையை moderation தேவைகள், தீர்வுசெய்யும் நடவடிக்கை, ஸ்டோரிலிருந்து நீக்கம் மற்றும் மாற்று விநியோகத்திற்கான கட்டுப்பாடுகளுடன் இணைக்கிறது.
இந்த விதிகள் எவ்வளவு வலுவாக அமல்படுத்தப்படுகின்றன என்பதே அவற்றின் நடைமுறை விளைவை நிர்ணயிக்கும். உடனடி கொள்கை மாற்றம் தெளிவாக உள்ளது: சம்மதமற்ற நெருக்கமான படங்களை உருவாக்க அல்லது பரப்ப பயன்படுத்தக்கூடிய செயலிகளைக் கொண்ட டெவலப்பர்கள் அதைத் தடுக்கும் வெளிப்படையான கடமையை எதிர்கொள்கின்றனர்; அவ்வாறு செய்யாதவர்களுக்கு வலுவான விளைவுகளையும் Apple அறிவித்துள்ளது.
இந்தக் கட்டுரை The Verge-ன் செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.
Originally published on theverge.com