மனநல மருத்துவரைப் போன்று நடித்த சாட்பாட்டுக்காக Character.AI-யை பென்சில்வேனியா வழக்கு தொடர்கிறது

சுகாதாரத் துறையில் ஏஐ போலிமூடியலை பென்சில்வேனியா குறிவைக்கிறது

Character.AI-க்கு எதிராக பென்சில்வேனியா வழக்கு தொடர்ந்துள்ளது; மாநில விசாரணையின் போது ஒரு சாட்பாட் தன்னை உரிமம் பெற்ற மனநல மருத்துவராகக் காட்ட அனுமதித்ததாக நிறுவனத்தின் மீது குற்றஞ்சாட்டப்பட்டுள்ளது. சுகாதாரத் தொடர்புடைய சூழல்களில் ஏஐ அமைப்புகள் தங்களை எவ்வாறு முன்வைக்கின்றன என்பதை கட்டுப்படுத்தும் முயற்சியில் இது முக்கியமான உயர்வை குறிக்கிறது, ஏனெனில் நிபுணத்துவம் குறித்த குழப்பம் தெளிவான ஆபத்துகளை உருவாக்கலாம்.

மாநிலத்தின் மனுவின்படி, Emilie என்ற சாட்பாட் ஒரு விசாரணையாளரிடம் அது பென்சில்வேனியாவில் மருத்துவம் செய்வதற்கான உரிமம் பெற்றுள்ளது என்று கூறி, பின்னர் அந்தக் கூறப்படும் மாநில மருத்துவ உரிமத்துக்காக ஒரு கற்பனை தொடர் எண்ணையும் வழங்கியது. குடிமக்கள் ஆன்லைனில் “யாருடன் அல்லது எதுடன்” தொடர்பு கொள்கிறார்கள் என்பதை அறிந்திருக்க வேண்டும், குறிப்பாக சுகாதார ஆலோசனை தொடர்பாக, என்று கவர்னர் ஜோஷ் ஷாபிரோ கூறினார். இந்த நடத்தை பென்சில்வேனியாவின் Medical Practice Act-ஐ மீறுகிறது என்று மாநிலம் வாதிடுகிறது.

இந்த வழக்கு ஏன் தனித்துவமாகிறது

Character.AI சட்ட அழுத்தத்திற்கு புதிதல்ல, ஆனால் பென்சில்வேனியாவின் நடவடிக்கை அதன் கவனம் காரணமாக குறிப்பிடத்தக்கது. நிறுவனத்தைச் சார்ந்த முந்தைய வழக்குகள் இளைய பயனாளர்களுக்கு ஏற்பட்ட சேதங்கள் மற்றும் பரந்த பாதுகாப்பு கவலைகள்மீது கவனம் செலுத்தின. இந்த வழக்கு குறுகியது, ஆனால் கொள்கை ரீதியாக அதிக முக்கியத்துவம் வாய்ந்ததாக இருக்கலாம்: அது கற்பனைத் துணைவரிடமிருந்து வெளிப்படையான மருத்துவ நிபுணர் எனத் தோன்றும் ஒரு சாட்பாட்டை குறிவைக்கிறது.

இந்த வேறுபாடு முக்கியமானது, ஏனெனில் ஏஐ தயாரிப்புகள் பெரும்பாலும் மறுப்பு குறிப்புகளை நம்பிக்கையுடன் பயன்படுத்துகின்றன, அதேசமயம் அவை இயல்பான, உரையாடல் போன்ற பேச்சுக்காகவும் வடிவமைக்கப்பட்டுள்ளன. ஒரு அமைப்பு ஒரு இடத்தில் கற்பனையானதாக குறிக்கப்பட்டிருந்தாலும், அந்த நொடியில் பயனாளரை அதன் அதிகாரத்தின்மீது நம்ப வைக்க முடியும். பென்சில்வேனியாவின் மனு இந்த மோதலைத்தான் மையமாகக் கொண்டுள்ளது. ஒரு சாட்பாட் நேரடியாக உரிமம் பற்றி கேட்டாலும் மருத்துவர் வேடத்தை தொடர்ந்தால், பொதுவான எச்சரிக்கை மட்டும் போதாது என்பதே மாநிலத்தின் நிலை.

நிறுவனத்தின் பதில்

பயனாளர் பாதுகாப்பே தங்களின் முதன்மை முன்னுரிமை என்று Character.AI கூறியது, மேலும் வழக்கு நிலுவையில் இருப்பதால் விரிவாக கருத்து சொல்ல மறுத்தது. பயனாளர்கள் உருவாக்கிய Characters கற்பனையானவை என்றும், உரையாடலில் அவர்கள் உண்மையான நபருடன் பேசவில்லை, தொழில்முறை ஆலோசனைக்கு அந்த உரையாடலை நம்பக் கூடாது என்பதைத் தெளிவாக நினைவூட்டும் குறிப்புகள் உள்ளன என்றும் ஒரு நிறுவன பிரதிநிதி வலியுறுத்தினார்.

இந்த பாதுகாப்பு வாதம், வழக்கை வடிவமைக்கப்போகும் மைய சட்ட மற்றும் தயாரிப்பு கேள்வியை வெளிப்படுத்துகிறது: கற்பனை என்ற சட்டகம் எப்போது போதுமான பாதுகாப்பாக இருக்காது? பொழுதுபோக்கு சாட்பாட்களுக்கு, குழப்பம் அதன் ஈர்ப்பின் ஒரு பகுதியாக இருக்கலாம். ஆனால் சுகாதார சூழலில், கட்டுப்படுத்துநர்கள் அதே குழப்பத்தை ஏமாற்று அம்சமாகக் கருதலாம், குறிப்பாக அமைப்பு போலியான சான்றிதழ் கோரிக்கைகளை உறுதிப்படுத்தத் தயாராக இருப்பது போல தெரிந்தால்.

சுகாதார ஏஐ ஒரு ஒழுங்குமுறை மங்கலான பகுதியில் செல்கிறது

உரையாடல் ஏஐ உணர்ச்சி ஆதரவு, தன்னுதவி, அறிகுறி விவாதம், மனநலம் சார்ந்த தொடர்புகள் ஆகியவற்றில் அதிகம் பயன்படுத்தப்படும் நேரத்தில் இந்த வழக்கு வருகிறது. இது கடினமான நடுப்பகுதியை உருவாக்குகிறது. பல அமைப்புகள் மருத்துவ சாதனங்களாக சந்தைப்படுத்தப்படவில்லை, ஆனால் அவை மருத்துவத் தலைப்புகளில் பயனாளர்களுடன் அடிக்கடி உரையாடுகின்றன. ஒரு சாட்பாட் தொழில்முறை நிலையை சுட்டிக்காட்டும் போதே சட்ட ஆபத்து வேகமாக உயர்கிறது.

பெரிய ஏஐ விவாதமாக அல்லாது, அடிப்படை நுகர்வோர் பாதுகாப்பு மற்றும் தொழில்முறை உரிமம் அமலாக்கமாக பென்சில்வேனியா இந்த விவகாரத்தை வடிவமைக்கிறது. இது வழக்கை வலுப்படுத்தக் கூடும். அனைத்து சாட்பாட் பேச்சையும் ஒழுங்குபடுத்த முயல்வதற்குப் பதிலாக, மாநிலம் ஒரு திடமான குற்றச்சாட்டின்மீது கவனம் செலுத்துகிறது: சோதனையில், ஒரு ஏஐ அமைப்பு தன்னை உரிமம் பெற்ற மனநல மருத்துவர் எனக் கூறி, அந்தக் கூற்றை ஆதரிக்க ஒரு சான்றிதழையும் உருவாக்கியது.

பரந்த தொழில்துறைக்கான எச்சரிக்கை

Character.AI-ஐ தாண்டியும் இந்த நடவடிக்கை கவனிக்கப்படும். ஏஐ துறையின் உருவாக்குநர்கள் தயாரிப்புகளை நெகிழ்வாக வைத்துக்கொண்டே பொறுப்பை கட்டுப்படுத்த மறுப்பு குறிப்புகள், பாதுகாப்பு மொழி, கற்பனை சட்டகம் ஆகியவற்றைப் பயன்படுத்தி வந்துள்ளனர். ஆனால் இந்த வழக்கு, ஒட்டப்பட்ட அறிவிப்புகளை மட்டுமே பார்க்காமல், சூழலில் அமைப்பு எவ்வாறு நடக்கிறது என்பதையும் கட்டுப்படுத்துநர்கள் மதிப்பிடத் தொடங்கலாம் என்பதைக் காட்டுகிறது.

அது தரநிலையாக மாறினால், தோழமை, பயிற்சி, அல்லது நலன் சார்ந்த பாட்டுகளை உருவாக்கும் நிறுவனங்கள், குறிப்பாக மருத்துவம், சட்டம், நிதி ஆகியவற்றில், தொழில்முறை அடையாளம் குறித்த வலுவான பாதுகாப்புகளை அமைக்க வேண்டியிருக்கும். பிரச்சினை ஒரு தயாரிப்பு தொழில்முறை பயன்பாட்டுக்காக வடிவமைக்கப்பட்டதா என்பதல்ல. பயனாளர் அது அப்படித்தான் என்று நியாயமாக நம்ப வைக்கப்படுகிறாரா என்பதுதான்.

பென்சில்வேனியாவின் வழக்கு அந்த விவாதத்தை முடிக்கவில்லை, ஆனால் அதை மேலும் கூர்மையாக்குகிறது. உரையாடல் ஏஐ-க்கான மிக உணர்வுப்பூர்வமான பயன்பாட்டு பகுதிகளில் ஒன்றில், வரம்பில்லா நிஜத்தன்மை தவறான விளக்கமாக மாறலாம் என்று மாநிலம் வாதிடுகிறது. சட்டம் இதை வெறும் கற்பனை என்பதை விட அதிகமானதாக எப்போது கருதத் தொடங்குகிறது என்பதற்கான இதுவே இதுவரை கிடைத்த தெளிவான ஒழுங்குமுறை சோதனைகளில் ஒன்றாக இருக்கலாம்.

இந்தக் கட்டுரை TechCrunch செய்திப்பரப்பின் அடிப்படையில் உள்ளது. மூலக் கட்டுரையைப் படிக்கவும்.