जब किसी चैटबॉट का पसंदीदा वाक्य ही कहानी बन जाए
अंग्रेज़ी में ChatGPT की शैलीगत आदतें अब परिचित हो चुकी हैं, लेकिन Wired के अनुसार चीनी उपयोगकर्ताओं के लिए भी कुछ ऐसे ही दोहराए जाने वाले वाक्यांश हैं जो उतने ही खटकते हैं। सबसे प्रमुख उदाहरण एक ऐसी पंक्ति है जिसका शाब्दिक अर्थ होता है “मैं तुम्हें स्थिरता से पकड़ लूंगा,” और जिसे कई मूल वक्ता अटपटी तरह से स्नेहपूर्ण और संदर्भ से बाहर मानते हैं। मददगार लगने के बजाय यह जबरन, दोहरावदार और स्वर के लिहाज़ से अजीब महसूस हो सकता है।
यह प्रतिक्रिया इतनी महत्वपूर्ण हो गई है कि इंटरनेट मीम में बदल गई है। रिपोर्ट के अनुसार, चीनी उपयोगकर्ता इस वाक्यांश का व्यापक रूप से मज़ाक उड़ाते हैं, और एक छवि में ChatGPT को लोगों के गिरने पर उन्हें पकड़ने के लिए तैयार एक फुलाने वाला रेस्क्यू एयरबैग दिखाया गया है। जो वाक्य कभी सिर्फ़ मॉडल की एक अजीब आदत रहा होगा, वह अब व्यवहार में AI-जनित भाषा की एक सांस्कृतिक आलोचना बन गया है।
प्रवाह की सीमाएँ
रिपोर्ट स्पष्ट करती है कि ChatGPT चीनी भाषा में प्रश्नों के उत्तर अपेक्षाकृत ठीक दे सकता है, और यही एक वजह है कि चीन में इसे व्यापक रूप से इस्तेमाल किया जाता है, भले ही सरकार ने इसे ब्लॉक किया हुआ हो। लेकिन व्याकरण या कार्य पूरा करने के स्तर पर दक्षता से यह जरूरी नहीं कि भाषा स्वाभाविक भी लगे। यहाँ उपयोगकर्ताओं को जो बात खटकती है, वह संचार की बुनियादी विफलता नहीं है। समस्या उन अभिव्यक्तियों के बार-बार उपयोग की है जो भावनात्मक रूप से अतिरंजित, संदर्भ के हिसाब से अजीब, या बस बहुत अधिक परिचित लगती हैं।
यह अंतर अहम है। एक मॉडल व्याकरणिक रूप से प्रवाहपूर्ण लग सकता है, लेकिन सामाजिक रूप से असहज भी सुनाई दे सकता है। बहुभाषी AI प्रणालियों में इस तरह का असंतुलन सीधे त्रुटि से भी अधिक खुलासा करने वाला हो सकता है, क्योंकि यह भाषा-उत्पादन और सांस्कृतिक उपयुक्तता के बीच की दूरी को उजागर करता है।
दोहराव से मीम तक
Wired चीनी भाषा के कुछ अन्य अत्यधिक उपयोग किए गए वाक्यांशों की पहचान करता है, जिनमें एक आम ई-कॉमर्स स्लोगन भी शामिल है जिसे मॉडल कथित तौर पर बहुत बार दोहराता है। इसका असर संचयी होता है। जैसे ही उपयोगकर्ता किसी वाक्यांश को बार-बार देखते हैं, वह संचार के साधन के रूप में काम करना बंद कर देता है और एक संकेत बन जाता है। वह पाठ को मशीन-निर्मित के रूप में चिह्नित करता है और मॉडल की विश्वसनीय आवाज़ की सीमा को संकुचित करता है।
यही कारण है कि यह घटना मीम में बदल गई। AI आउटपुट में दोहराव सिर्फ़ एक तकनीकी दोष नहीं है; यह सामाजिक रूप से पढ़ा जा सकने वाला संकेत है। उपयोगकर्ता इसे पहले से पहचानने लगते हैं, मज़ाक बनाने लगते हैं, और साझा करने लगते हैं। एक बार ऐसा होने पर, भाषा-आदत मॉडल की सार्वजनिक पहचान का हिस्सा बन जाती है।
व्यवहार में “मोड कोलैप्स” कैसा दिखता है
लेख में Pangram के सह-संस्थापक और CEO मैक्स स्पेरो का हवाला दिया गया है, जो इस प्रवृत्ति को mode collapse का एक रूप बताते हैं। सरल शब्दों में, मॉडल उन वाक्यांशों से चिपक सकते हैं जिन्हें पोस्ट-ट्रेनिंग में कभी पुरस्कृत किया गया था, और फिर उन्हें इतना अधिक उगलते हैं कि लेखन स्वाभाविक महसूस नहीं होता। मूल कठिनाई यह है कि “अच्छा लेखन” सिर्फ़ इस बारे में नहीं है कि कोई एक वाक्य काम करता है या नहीं। यह विविधता, अनुपात, और इस बात पर भी निर्भर करता है कि कोई उपकरण जो पहली बार प्रभावी था, उसे कब दोहराना बंद करना चाहिए।
यह अवलोकन AI alignment और शैली-संयोजन की एक व्यापक चुनौती की ओर इशारा करता है। सुरक्षा, सहायकता और गर्मजोशी को प्रशिक्षण के दौरान मजबूत किया जा सकता है, लेकिन आउटपुट में वे अतिरंजित भी हो सकते हैं। परिणामस्वरूप ऐसी भाषा बनती है जो तकनीकी रूप से संगत होती है, लेकिन भावनात्मक रूप से आवश्यकता से अधिक भारी लगती है।
चीनी मामला क्यों महत्वपूर्ण है
यह सिर्फ़ एक अजीब वाक्यांश की कहानी नहीं है। यह इस बात की कहानी है कि AI उत्पाद भाषाओं और सामाजिक संदर्भों के बीच कैसे यात्रा करते हैं। अंग्रेज़ी में उपयोगकर्ता पसंदीदा अलंकारिक संरचनाओं या कुछ अत्यधिक इस्तेमाल किए गए रूपकों की शिकायत कर सकते हैं। चीनी में समस्या अलग शब्दों में सामने आती है, लेकिन मूल गतिशीलता वही रहती है: ऐसे शैलीगत अवशेष जो मॉडल की सीखी हुई आदतों को बहुत स्पष्ट रूप से प्रकट करते हैं।
इसी वजह से यह मुद्दा वैश्विक AI प्रणालियों के लिए खास तौर पर महत्वपूर्ण है। जो चैटबॉट कई भाषाओं में काम करता है, वह सिर्फ़ सीधे अनुवाद की गुणवत्ता पर निर्भर नहीं रह सकता। उसे हर उस जगह अजीब तरह से आत्मीय, अत्यधिक स्क्रिप्टेड, या सांस्कृतिक रूप से बेमेल लगने से भी बचना होगा जहाँ लोग उसे इस्तेमाल करते हैं।
उपयोगकर्ता सार्वजनिक रूप से निदान कर रहे हैं
रिपोर्ट का सबसे खुलासा करने वाला विवरण यह है कि उसी वाक्यांश ने चोंगकिंग के एक 20 वर्षीय डेवलपर को Jiezhu, यानी “catch,” नामक एक अप्रैल फूल्स ओपन-सोर्स प्रॉम्प्ट इंजीनियरिंग प्रोजेक्ट बनाने के लिए प्रेरित किया। यह मज़ाक इसलिए काम कर गया क्योंकि वह वाक्यांश पहले से ही व्यापक रूप से पहचाना जाने लगा था। दूसरे शब्दों में, किसी आधिकारिक व्याख्या से पहले ही उपयोगकर्ताओं ने सामूहिक रूप से एक आवर्ती मॉडल व्यवहार की पहचान कर ली थी और उसे नाम दे दिया था।
उपभोक्ता AI का सार्वजनिक ऑडिट अब अक्सर इसी तरह होता है। लोगों को पैटर्न पहचानने के लिए ट्रेनिंग पाइपलाइनों तक पहुँच की जरूरत नहीं होती। वे आउटपुट की तुलना करते हैं, स्क्रीनशॉट साझा करते हैं, और दोहराव को लोक-विश्लेषण में बदल देते हैं। ऐसा करके वे दिखा देते हैं कि मॉडल की आवाज़ कब अनुकूलनीय लगना बंद कर देती है और अपने ही ढर्रे में फँसी हुई लगने लगती है।
एक बड़ी डिज़ाइन समस्या का छोटा लक्षण
सबक यह नहीं है कि AI के पास कोई पहचानी जा सकने वाली आवाज़ कभी नहीं होनी चाहिए। सबक यह है कि जब वह आवाज़ ऐसे दोहराए गए फ़ॉर्मूलों में सिकुड़ जाती है जो संदर्भ पर हावी हो जाएँ, तब वह एक कमजोरी बन जाती है। ChatGPT के चीनी कैचफ्रेज़ उस विफलता-मोड का एक सजीव केस स्टडी हैं। वे दिखाते हैं कि एक सहायक-सा लगने के लिए डिज़ाइन किया गया सिस्टम कितनी जल्दी यांत्रिक, यहाँ तक कि चिपकू-सा भी लगने लगता है, जैसे ही दोहराव दिखाई देने लगता है।
AI कंपनियों के लिए यह जितनी जिज्ञासा है उतनी ही चेतावनी भी है। बहुभाषी प्रणालियों में टोन नियंत्रण कोई सजावटी मुद्दा नहीं है। यह भरोसे, उपयोगिता, और इस बात को आकार देता है कि उपयोगकर्ता मॉडल को सचमुच सहायक मानते हैं या सिर्फ़ पैटर्न-आधारित। जब लाखों लोग एक ही वाक्यांश पर आँखें घुमाने लगें, तो उत्पाद ने अपने निर्माताओं की अपेक्षा से कहीं अधिक अपने प्रशिक्षण के बारे में बता दिया होता है।
यह लेख Wired की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.
Originally published on wired.com
