ஏலியாஸ் தோர்ன் பற்றிய கதைகளை சாட்பாட்கள் ஏன் தொடர்ந்து சொல்கின்றன: AI மீள்தோன்றல் பிரச்சினை

ஏலியாஸ் தோர்னின் மர்மம்

ஒரு சாட்பாட்டை ஒரு கதை எழுதச் சொன்னால், உங்களுக்கு கடற்கலங்கரை காவலர் ஏலியாஸ் தோர்ன் பற்றிய ஒரு கதை கிடைக்கலாம். இந்த மீண்டும் மீண்டும் தோன்றும் பாத்திரம் பயனாளர்களையும் ஆராய்ச்சியாளர்களையும் ஒரேபோல் குழப்பியுள்ளது. மென்பொருள் பொறியாளர் டேனியல் மே இந்த முறைமையை முதலில் கவனித்தார்; அதனால் AI மாடல்கள் ஏன் இந்த குறிப்பிட்ட கதையமைப்பை இயல்புநிலையாகத் தேர்வு செய்கின்றன என்பதை ஆழமாக ஆராயத் தொடங்கினார்.

ஆராய்ச்சி அளவைக் கண்டறிந்தது

404 Media தெரிவித்தபடி, கார்னெல் பல்கலைக்கழகத்தின் ஒரு preprint கட்டுரை, OpenAI-இன் GPT-5.4 Mini, Anthropic-இன் Claude Haiku 4.5, மற்றும் Google-இன் Gemini 3.1 Flash-Lite உள்ளிட்ட மாடல்கள் உருவாக்கிய 20,000 கதைகளை பகுப்பாய்வு செய்தது. முடிவுகள் கணிசமானவை: Lighthouse, Keeper, Baker, Mayor, Clockmaker, Fisherman, Librarian, Conductor, Mara, Elias, மற்றும் Elara என்ற 11 சொற்கள் அனைத்து கதைகளிலும் 88% இல் தோன்றின. மிகவும் பொதுவான சேர்க்கை 'Elias the lighthouse keeper' ஆக இருந்தது; இது கதைகளில் மூன்றில் இரண்டு பங்கில் காணப்பட்டது.

இது ஏன் நடக்கிறது?

ஆரம்பத்தில் ஆராய்ச்சியாளர்கள் pre-training தரவை சந்தேகித்தனர், ஆனால் 'Elias the lighthouse keeper' இலக்கியத்திலும் training datasets-லிலும் அதிகமாக தோன்றுகிறது என்பதற்கான சான்றுகள் கிடைக்கவில்லை. அதற்கு பதிலாக, அவர்கள் இந்த நிகழ்வை alignment training-க்கு காரணமாகக் கூறுகின்றனர். AI ஆய்வகங்கள் பாதுகாப்பிற்காக மாடல்களை fine-tune செய்ய WildChat போன்ற datasets-ஐ பயன்படுத்துகின்றன; இது GPT-3.5 இயக்கும் ஒரு சாட்பாட்டுடன் நடந்த கோடிக்கணக்கான உரையாடல்களின் தொகுப்பு. பதிப்புரிமை உள்ள பாத்திரங்களையும் adult content-ஐயும் தவிர்க்க, மாடல்கள் 'பாதுகாப்பான' மாற்றுகளுக்கு வழிநடத்தப்படுகின்றன. இதனால் அனுமதியின்றி ஏலியாஸ் போன்ற பாத்திரங்கள் முன்னிலை பெற்றுத், கதைகள் உருவாக்கும்போது இயல்பான தேர்வாக மாறிவிட்டன.

AI படைப்பாற்றலுக்கான விளைவுகள்

ஏலியாஸ் தோர்ன் சம்பவம் ஒரு பரந்த பிரச்சினையை வெளிப்படுத்துகிறது: AI மாடல்களுக்கு உண்மையான படைப்பாற்றல் இல்லை. அவற்றின் வெளியீடுகள் training data மற்றும் safety guardrails மூலம் பெரிதும் பாதிக்கப்படுகின்றன; இதனால் மீள்தோன்றும், முன்கணிக்கக்கூடிய கதைகள் உருவாகின்றன. இது AI-உருவாக்கிய உள்ளடக்கத்தின் புதுமை மற்றும் தற்போதைய alignment நுட்பங்களின் செயல்திறன் குறித்து கேள்விகளை எழுப்புகிறது.

பாத்திரத்தின் பரவல்

சாட்பாட்களைத் தாண்டி, ஏலியாஸ் தோர்ன் என்ற பெயர் fantasy புத்தகங்களிலும் Amazon-இல் ambient music track-களில் ஒரு கலைஞராகவும் தோன்றியுள்ளது. மே 'Elias Thorne' எழுதியதாகக் குறிப்பிடப்பட்ட புத்தகங்களையும், ஒரு handbook உட்பட, கண்டுபிடித்தார். இது அந்த பாத்திரம் பிற AI-உருவாக்கிய உள்ளடக்கங்களிலும் கசிந்து, படைப்பூக்கமான பணிகளை மாசுபடுத்தக்கூடும் என்பதை சுட்டிக்காட்டுகிறது.

இது பயனாளர்களுக்கு என்ன அர்த்தம்

பல்வேறு, படைப்பாற்றல் மிக்க கதைகளைத் தேடும் பயனாளர்களுக்கு, சாட்பாட்கள் குறைவாக இருக்கலாம். பாதுகாப்பான, மீள்தோன்றும் வடிவமைப்புகள்மீது உள்ள சார்பு, புதிய உள்ளடக்கத்தை உருவாக்கும் அவற்றின் திறனை வரம்பிடுகிறது. AI படைப்புத் துறைகளில் மேலும் ஒன்றிணையும் நிலையில், இந்த மீள்தோன்றலை கையாளுவது மிக முக்கியம். ஆராய்ச்சியாளர்கள் மேலும் பல்வகை training datasets மற்றும் படைப்பாற்றலை அடக்காத மேம்பட்ட alignment முறைகளைக் கோருகின்றனர்.

முடிவு

ஏலியாஸ் தோர்ன் நிகழ்வு AI மொழி மாதிரிகளின் உள் செயல்பாட்டை பார்க்கும் ஒரு சாளரம் போன்றது. பாதுகாப்பு நடவடிக்கைகள் எதிர்பாராத விதங்களில் வெளியீடுகளை எவ்வாறு வடிவமைக்க முடியும் என்பதை இது காட்டுகிறது. AI தொடர்ந்து வளர்ந்துகொண்டே இருக்கும் நிலையில், மேலும் படைப்பாற்றல் மிக்க மற்றும் நம்பகமான அமைப்புகளை உருவாக்க இந்த விசித்திரங்களைப் புரிந்துகொள்வது முக்கியமாகும்.

இந்தக் கட்டுரை Gizmodo-வின் செய்தி அறிக்கையை அடிப்படையாகக் கொண்டது. அசல் கட்டுரையைப் படிக்கவும்.