ChatGPT चे चिनी कॅचफ्रेजेस सांस्कृतिक समस्या का बनत आहेत

जेव्हा चॅटबॉटचा आवडता वाक्प्रचारच बातमी ठरतो

ChatGPT मधील शैलीगत सवयी इंग्रजीत परिचित आहेत, पण Wired च्या अहवालानुसार चिनी वापरकर्त्यांकडेही असेच वारंवार येणारे काही वाक्प्रचार आहेत, जे त्यांना तितकेच खटकतात. यातील सर्वात ठळक उदाहरण म्हणजे असे एक वाक्य, ज्याचा शब्दशः अर्थ “मी तुला घट्ट पकडून ठेवीन” असा होतो; अनेक मूळ भाषिक ते अडखळणारे, अतिशय जिव्हाळ्याचे आणि संदर्भाबाहेरचे म्हणतात. मदत करणारे वाटण्याऐवजी ते जबरदस्तीचे, पुनरावृत्तीपूर्ण आणि सुरावटीच्या दृष्टीने विचित्र वाटू शकते.

ही प्रतिक्रिया इतकी मोठी झाली आहे की ती इंटरनेट मीममध्ये रूपांतरित झाली आहे. अहवालानुसार, चिनी वापरकर्ते त्या वाक्याची मोठ्या प्रमाणावर खिल्ली उडवतात, आणि एका प्रतिमेत ChatGPT ला एक फुगवता येणारा रेस्क्यू एअरबॅग म्हणून दाखवले आहे, जो लोक पडल्यावर त्यांना पकडण्यासाठी वाट पाहत आहे. एकेकाळी मोजक्याच वाटणाऱ्या मॉडेलच्या सवयीला आता प्रत्यक्षात AI-निर्मित भाषेवरील सांस्कृतिक टीकेचे रूप मिळाले आहे.

प्रवाहीपणाच्या मर्यादा

अहवाल स्पष्ट करतो की ChatGPT चिनीमध्ये प्रश्नांना पुरेशी चांगली उत्तरे देऊ शकते, आणि याच कारणामुळे सरकारी बंदी असूनही त्याचा चीनमध्ये मोठ्या प्रमाणावर वापर होतो. पण व्याकरण किंवा काम पूर्ण करण्याची क्षमता स्वाभाविक शैलीची हमी देत नाही. इथे वापरकर्त्यांना त्रास देणारी गोष्ट संवादातील मूलभूत चूक नाही. त्रास देणारी गोष्ट म्हणजे भावनिकदृष्ट्या अतिशयोक्त, संदर्भाबाहेरची, किंवा फारच परिचित वाटणारी वाक्ये वारंवार वापरणे.

हा फरक महत्त्वाचा आहे. एखादा मॉडेल व्याकरणदृष्ट्या प्रवाही दिसू शकतो, पण सामाजिकदृष्ट्या अयोग्य वाटू शकतो. बहुभाषिक AI प्रणालींमध्ये असा विसंगतपणा सरळ चुकीपेक्षा अधिक उघड करणारा ठरतो, कारण तो भाषा-निर्मिती आणि सांस्कृतिक सुसंगती यांच्यातील दरी दाखवतो.

पुनरावृत्तीपासून मीमपर्यंत

Wired ने अधिक वापरल्या जाणाऱ्या चिनी वाक्प्रचारांची इतर उदाहरणे दिली आहेत, ज्यात एक सामान्य ecommerce slogan देखील आहे, जो मॉडेल कथितपणे वारंवार परत म्हणतो. परिणाम साचत जातो. वापरकर्त्यांनी एखादा वाक्प्रचार पुन्हा पुन्हा दिसू लागल्यावर तो संवादाचे साधन म्हणून काम करणे थांबवतो आणि एक खूण बनतो. तो मजकूर मशीन-निर्मित असल्याचे दर्शवतो आणि मॉडेल ज्या स्वरात विश्वासार्हपणे बोलू शकते त्याची व्याप्ती कमी करतो.

म्हणूनच ही घटना मीम बनली. AI आउटपुटमधील पुनरावृत्ती ही केवळ तांत्रिक त्रुटी नसते; ती सामाजिकदृष्ट्या ओळखता येणारी असते. वापरकर्ते ती आधीच ओळखू लागतात, तिची खिल्ली उडवतात आणि शेअर करतात. ते झाल्यावर, भाषिक सवयच मॉडेलच्या सार्वजनिक ओळखीचा भाग बनते.

प्रत्यक्षात “mode collapse” कसा दिसतो

लेखात Pangram चे सहसंस्थापक आणि CEO Max Spero यांनी या प्रवृत्तीचे वर्णन mode collapse चा एक प्रकार असे केले आहे. साध्या भाषेत, मॉडेल post-training मध्ये एकेकाळी बक्षीस मिळालेल्या वाक्यांवर अडकू शकते आणि ती इतकी जास्त वापरू शकते की लेखन नैसर्गिक वाटेनासे होते. इथे खरी अडचण म्हणजे “चांगले लेखन” हे फक्त एखादे वाक्य काम करते की नाही यापुरते मर्यादित नाही. त्यात वैविध्य, प्रमाण, आणि एकदा उपयुक्त ठरलेले साधन कधी पुन्हा वापरू नये याची जाणही समाविष्ट असते.

ही नोंद AI alignment आणि style tuning मधील व्यापक आव्हानाकडे निर्देश करते. प्रशिक्षणादरम्यान safety, helpfulness, आणि warmth यांना बळ देता येते, पण ती आउटपुटमध्ये अतिशयोक्त होऊ शकतात. परिणामी मिळणारी भाषा तांत्रिकदृष्ट्या सुसंगत असते, पण भावनिकदृष्ट्या अतिनिर्धारित वाटते.

चिनी उदाहरण का महत्त्वाचे आहे

ही केवळ एका विचित्र वाक्याची गोष्ट नाही. हे AI उत्पादने भाषांमधून आणि सामाजिक वातावरणांमधून कशी प्रवास करतात याची गोष्ट आहे. इंग्रजीत वापरकर्ते काही आवडते rhetorical structures किंवा वारंवार वापरले जाणारे metaphors यावर तक्रार करू शकतात. चिनीमध्ये समस्या वेगळ्या शब्दांत दिसते, पण मूळ गती तीच असते: मॉडेलने शिकलेल्या सवयी खूप स्पष्टपणे दाखवणारे शैलीगत अवशेष.

म्हणूनच हे जागतिक AI प्रणालींसाठी विशेष महत्त्वाचे आहे. अनेक भाषांमध्ये काम करणाऱ्या chatbot ला थेट भाषांतराच्या गुणवत्तेवरच अवलंबून राहता येत नाही. लोक ज्या प्रत्येक संदर्भात त्याचा वापर करतात, तिथे तो विचित्रपणे जवळचा, जास्त script केलेला, किंवा सांस्कृतिकदृष्ट्या विसंगत वाटू नये हेही आवश्यक आहे.

वापरकर्ते सार्वजनिकपणे निदान करत आहेत

अहवालातील सर्वात उलगडणारा तपशील असा की त्या वाक्यांशाने चोंगकिंगमधील 20 वर्षीय डेव्हलपरला April Fools साठी Jiezhu, किंवा “catch,” नावाचा open-source prompt engineering प्रकल्प तयार करण्यास प्रेरित केले. हा विनोद कामी आला कारण ते वाक्य आधीपासूनच मोठ्या प्रमाणावर ओळखले जाऊ लागले होते. दुसऱ्या शब्दांत, कोणतीही अधिकृत व्याख्या येण्याआधीच वापरकर्त्यांनी मिळून त्या मॉडेलच्या वागण्याला ओळखले आणि त्याला नाव दिले होते.

ग्राहक AI चे सार्वजनिक ऑडिट आता अशाच पद्धतीने होते. नमुने ओळखण्यासाठी प्रशिक्षण पाइपलाइनपर्यंत पोहोचण्याची गरज नसते. लोक आउटपुटची तुलना करतात, स्क्रीनशॉट शेअर करतात, आणि पुनरावृत्तीला folk analysis मध्ये बदलतात. असे करून ते दाखवतात की मॉडेलचा आवाज कुठे जुळवून घेणे थांबवतो आणि स्वतःच्या साच्यात अडकतो.

मोठ्या डिझाइन समस्येचे छोटे लक्षण

धडा असा नाही की AI कडे कधीच ओळखण्याजोगा आवाज नसावा. धडा असा आहे की तो आवाज संदर्भावर मात करणाऱ्या पुनरावृत्ती सूत्रांमध्ये कोसळला, तर तो जबाबदारी ठरतो. ChatGPT चे चिनी कॅचफ्रेजेस हे त्या failure mode चे स्पष्ट case study आहेत. सहाय्यक वाटावा म्हणून डिझाइन केलेली प्रणाली, पुनरावृत्ती दिसू लागताच किती लवकर यांत्रिक आणि जड वाटू शकते हे ते दाखवतात.

AI कंपन्यांसाठी ही गोष्ट केवळ कुतूहलाची नाही, तर इशाऱ्याची आहे. बहुभाषिक प्रणालींमध्ये tone control हा केवळ देखाव्याचा मुद्दा नाही. तो trust, usability, आणि वापरकर्त्यांना मॉडेल खरोखर उपयुक्त वाटते का की फक्त pattern दिसतो का, हे ठरवतो. जेव्हा लाखो लोक एकाच वाक्यावर डोळे फिरवू लागतात, तेव्हा उत्पादनाने आपल्या निर्मात्यांना अपेक्षितपेक्षा अधिक स्वतःच्या प्रशिक्षणाबद्दल उघड केलेले असते.

हा लेख Wired च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.