ChatGPT చైనీస్ క్యాచ్‌ఫ్రేసులు ఎందుకు ఒక సాంస్కృతిక సమస్యగా మారుతున్నాయి

ఒక చాట్‌బాట్‌కి నచ్చిన వాక్యమే కథగా మారినప్పుడు

ChatGPT శైలిలోని టిక్‌లు ఇంగ్లీషులో బాగా పరిచితమైనవే. కానీ Wired నివేదిక ప్రకారం, చైనీస్ వినియోగదారులకు కూడా ఇలాగే పదే పదే వచ్చే వాక్యాల సమాహారం ఉంది, అవి వారికి అంతే చిరాకు కలిగిస్తాయి. అందులో ముఖ్యంగా ప్రస్తావించబడిన ఉదాహరణ, అక్షరాలా అనువదిస్తే “నేను నిన్ను స్థిరంగా పట్టుకుంటాను” అన్న అర్థం వచ్చే ఒక పంక్తి. దాన్ని చాలామంది స్థానిక మాట్లాడేవారు అడ్డంగా ఆప్యాయంగా, సందర్భానికి తగని విధంగా ఉంటుందని వర్ణిస్తున్నారు. సహాయకరంగా అనిపించాల్సిన చోట, అది బలవంతంగా, పునరావృతంగా, మరియు స్వరపరంగా వింతగా అనిపిస్తుంది.

ఆ స్పందన అంతగా విస్తరించి, ఇప్పుడు అది ఒక ఇంటర్నెట్ మీమ్‌గా మారింది. ఆ నివేదిక ప్రకారం, చైనీస్ వినియోగదారులు ఆ వాక్యాన్ని విస్తృతంగా జోక్ చేస్తున్నారు. ఒక చిత్రంలో ChatGPTని, ప్రజలు పడిపోతే పట్టుకునేందుకు ఎదురు చూస్తున్న inflat­able rescue airbag‌గా చూపించారు. ఒకప్పుడు మోడల్‌కి ఉండే విచిత్రమైన అలవాటు ఇప్పుడు, వాస్తవానికి, AI-సృష్టిత భాషపై సాంస్కృతిక విమర్శగా మారింది.

ప్రవాహత యొక్క పరిమితులు

ChatGPT చైనీస్‌లో ప్రశ్నలకు సరైన సమాధానాలు ఇవ్వగలదని నివేదిక స్పష్టం చేస్తోంది; ప్రభుత్వ నిషేధం ఉన్నప్పటికీ అది చైనాలో విస్తృతంగా వాడబడటానికి ఇదొక కారణం. కానీ వ్యాకరణం లేదా పనిని పూర్తి చేయడంలో నైపుణ్యం ఉండటం, సహజ శైలికి హామీ ఇవ్వదు. ఇక్కడ వినియోగదారులను ఇబ్బంది పెడుతున్నది మౌలిక సంభాషణ వైఫల్యం కాదు. భావోద్వేగంగా అతిగా, సందర్భపరంగా అడ్డంగా, లేదా కేవలం చాలా పరిచయంగా అనిపించే వ్యక్తీకరణలను మళ్లీ మళ్లీ వాడడమే.

ఆ తేడా ముఖ్యం. ఒక మోడల్ వ్యాకరణపరంగా ప్రవహంగా అనిపించగలదు, కానీ సామాజికంగా అసహజంగా వినిపించవచ్చు. బహుభాషా AI వ్యవస్థలలో, ఈ రకమైన అసమతుల్యత స్పష్టమైన తప్పిదం కంటే కూడా ఎక్కువగా చెప్పేదిగా ఉండవచ్చు. ఎందుకంటే అది భాషా ఉత్పత్తి మరియు సాంస్కృతిక సరిపోలుదల మధ్య ఉన్న ఖాళీని బయటపెడుతుంది.

పునరావృతం నుంచి మీమ్‌కి

అతి ఎక్కువగా వాడబడే చైనీస్ పదబంధాల మరికొన్ని ఉదాహరణలను Wired గుర్తించింది; అందులో ఒక సాధారణ e-commerce slogan కూడా ఉంది, దాన్ని మోడల్ తరచుగా పునరావృతం చేస్తుందని నివేదిక చెబుతోంది. దీని ప్రభావం కూడుకుపోతుంది. వినియోగదారులు ఏదైనా పదబంధం మళ్లీ మళ్లీ కనిపించడం గమనించిన వెంటనే, అది కమ్యూనికేషన్ సాధనంగా పనిచేయడం ఆపి, ఒక సంకేతంగా మారుతుంది. అది టెక్స్ట్‌కి యంత్రం తయారు చేసిన గుర్తు వేస్తుంది, అలాగే మోడల్ నిజంగా నమ్మకంగా ఉత్పత్తి చేయగల స్వర పరిధిని సంకుచితం చేస్తుంది.

అందుకే ఈ ఘటన మీమ్‌గా మారింది. AI అవుట్‌పుట్‌లో పునరావృతం కేవలం సాంకేతిక లోపం కాదు; అది సామాజికంగా చదవగలిగిన సంకేతం. వినియోగదారులు దాన్ని ముందుగానే ఊహించటం, ఎగతాళి చేయటం, పంచుకోవటం మొదలుపెడతారు. అలా జరిగితే, ఆ భాషా అలవాటు మోడల్‌ ప్రజా గుర్తింపులో భాగమవుతుంది.

ప్రయోగంలో “mode collapse” ఎలా కనిపిస్తుంది

Pangram సహ-సంస్థాపకుడు మరియు CEO Max Spero ఈ ధోరణిని mode collapse యొక్క ఒక రూపంగా వివరిస్తారని వ్యాసం పేర్కొంటుంది. సరళంగా చెప్పాలంటే, మోడళ్లు post-training‌లో ఒకప్పుడు ప్రోత్సహించబడిన పదబంధాలపై అతుక్కుని, అవి సహజంగా అనిపించని వరకు వాటిని అధికంగా ఉత్పత్తి చేస్తాయి. మూల సమస్య ఏమిటంటే, “మంచి రచన” అనేది ఒక వాక్యం పనిచేస్తుందా లేదా అన్నదానితో మాత్రమే సంబంధం లేదు. అందులో వైవిధ్యం, నిష్పత్తి, మరియు మొదటిసారి పనిచేసిన పద్ధతిని ఎప్పుడు మళ్లీ ఉపయోగించకూడదన్న అవగాహన కూడా ఉంటుంది.

ఈ వ్యాఖ్య AI alignment మరియు style tuning‌లో ఉన్న విస్తృత సవాలును సూచిస్తుంది. శిక్షణ సమయంలో safety, helpfulness, warmth అన్నింటినీ బలపరచవచ్చు, కానీ అవి అవుట్‌పుట్‌లో అతిశయంగా మారవచ్చు. ఫలితంగా, సాంకేతికంగా సమగ్రంగా ఉన్నా, భావోద్వేగంగా అతిగా నిర్ణయించబడిన భాష ఏర్పడుతుంది.

చైనీస్ కేసు ఎందుకు ముఖ్యం

ఇది ఒక వింత పదబంధం గురించిన కథ మాత్రమే కాదు. AI ఉత్పత్తులు భాషలూ, సామాజిక పరిసరాలూ దాటి ఎలా ప్రయాణిస్తాయో చెప్పే కథ ఇది. ఇంగ్లీషులో వినియోగదారులు కొన్ని ఇష్టమైన rhetorical structures లేదా ఎక్కువగా వాడే metaphors గురించి ఫిర్యాదు చేయవచ్చు. చైనీస్‌లో సమస్య వేరే పదాల్లో కనిపిస్తుంది, కానీ లోతైన గమనిక అదే: మోడల్ నేర్చుకున్న అలవాట్లను చాలా స్పష్టంగా చూపించే శైలీ అవశేషాలు.

అదే కారణంగా ఇది గ్లోబల్ AI వ్యవస్థలకు ప్రత్యేకంగా ముఖ్యమైంది. అనేక భాషల్లో పనిచేసే ఒక chatbot, ప్రత్యక్ష అనువాద నాణ్యతపై మాత్రమే ఆధారపడలేడు. అది వినియోగదారులు దాన్ని ఉపయోగించే ప్రతి సందర్భంలో విచిత్రంగా దగ్గరగా, అధికంగా script చేయబడినట్లుగా, లేదా సాంస్కృతికంగా అసమ్మతిగా అనిపించకుండా కూడా ఉండాలి.

వినియోగదారులే పబ్లిక్‌గా డయాగ్నోస్ చేస్తున్నారు

నివేదికలో అత్యంత వెల్లడికరమైన విషయం ఏమిటంటే, ఆ పదబంధం Chongqingకి చెందిన 20 ఏళ్ల డెవలపర్‌ను April Fools కోసం Jiezhu, లేదా “catch,” అనే open-source prompt engineering ప్రాజెక్టును తయారు చేయడానికి ప్రేరేపించింది. ఆ జోక్ పనిచేసింది, ఎందుకంటే ఆ పదబంధం ఇప్పటికే విస్తృతంగా గుర్తించదగినదిగా మారింది. మరో మాటలో చెప్పాలంటే, ఏ అధికారిక వివరణ రాకముందే వినియోగదారులు కలిసి ఒక మోడల్ ప్రవర్తనను గుర్తించి, దానికి పేరు పెట్టేశారు.

కన్స్యూమర్ AI ఇప్పుడు పబ్లిక్‌గా ఇలాగే audit అవుతోంది. నమూనాలను గుర్తించడానికి training pipeline‌లకు ప్రాప్తి అవసరం లేదు. వారు అవుట్‌పుట్‌లను పోల్చుతారు, screenshot‌లను పంచుకుంటారు, పునరావృతాన్ని folk analysis‌గా మార్చుతారు. అలా చేయడం ద్వారా, ఒక మోడల్‌ స్వరం ఎప్పుడు అనుకూలంగా ఉండటం ఆపేసి, తనదైన నమూనాలోనే ఇరుక్కుపోయినట్లు అనిపించడం ప్రారంభిస్తుందో వారు బయటపెడతారు.

పెద్ద డిజైన్ సమస్యకు ఒక చిన్న లక్షణం

పాఠం ఏమిటంటే, AIకి గుర్తించదగిన స్వరం ఉండకూడదని కాదు. ఆ స్వరం సందర్భాన్ని మింగేసే పునరావృత సూత్రాలుగా కూలిపోయినప్పుడు అది బాధ్యతగా మారుతుంది. ChatGPT చైనీస్ క్యాచ్‌ఫ్రేసులు ఈ failure mode‌పై స్పష్టమైన case study. మద్దతుగా వినిపించేందుకు రూపొందించిన వ్యవస్థ, పునరావృతం కనిపించగానే ఎంత త్వరగా యాంత్రికంగా, ఇట్టే అతుక్కునేలా కూడా అనిపించగలదో అవి చూపిస్తున్నాయి.

AI కంపెనీలకు ఇది ఆసక్తికరమైన విషయం మాత్రమే కాదు, హెచ్చరిక కూడా. బహుభాషా వ్యవస్థల్లో tone control అనేది కాస్మెటిక్ అంశం కాదు. అది trust, usability, మరియు వినియోగదారులు మోడల్‌ను నిజంగా సహాయకరంగా భావిస్తున్నారా లేదా కేవలం pattern‌గా మాత్రమే చూస్తున్నారా అన్నదాన్ని రూపుదిద్దుతుంది. లక్షలాది మంది ఒకే వాక్యంపై కళ్లెత్తి చూసినప్పుడు, ఉత్పత్తి తన training గురించి తయారుచేసిన వారి అంచనాలకన్నా ఎక్కువే బయటపెట్టినట్టవుతుంది.

ఈ వ్యాసం Wired నివేదిక ఆధారంగా ఉంది. మూల వ్యాసం చదవండి.