ఎలియాస్ థోర్న్ గురించి చాట్‌బాట్లు ఎందుకు కథలు చెబుతూనే ఉంటాయి: AI పునరావృత సమస్య

ఎలియాస్ థోర్న్ యొక్క రహస్యం

ఒక చాట్‌బాట్‌ను కథ రాయమని అడిగితే, మీకు లైట్‌హౌస్ కీపర్ ఎలియాస్ థోర్న్ గురించి ఒక కథ రావచ్చు. ఈ పునరావృత పాత్ర వినియోగదారులను మరియు పరిశోధకులను సమానంగా ఆశ్చర్యంలో పడేసింది. సాఫ్ట్‌వేర్ ఇంజనీర్ డేనియల్ మే ఈ నమూనాను తొలుత గమనించి, AI మోడళ్లు ఈ నిర్దిష్ట కథనాన్ని ఎందుకు డిఫాల్ట్‌గా ఎంచుకుంటాయో లోతుగా పరిశీలించేందుకు ప్రేరణ పొందారు.

పరిశోధన పరిమాణాన్ని బయటపెట్టింది

404 మీడియా నివేదించినట్లుగా, కార్నెల్ విశ్వవిద్యాలయం నుండి వచ్చిన ఒక ప్రీప్రింట్ పేపర్ OpenAI యొక్క GPT-5.4 Mini, Anthropic యొక్క Claude Haiku 4.5, మరియు Google యొక్క Gemini 3.1 Flash-Lite సహా మోడళ్ల ద్వారా రూపొందించిన 20,000 కథలను విశ్లేషించింది. ఫలితాలు ఆశ్చర్యకరంగా ఉన్నాయి: Lighthouse, Keeper, Baker, Mayor, Clockmaker, Fisherman, Librarian, Conductor, Mara, Elias, మరియు Elara అనే 11 పదాలు అన్ని కథల్లో 88%లో కనిపించాయి. అత్యంత సాధారణ కలయిక 'Elias the lighthouse keeper' కాగా, అది కథల్లో మూడింట రెండు వంతుల్లో కనిపించింది.

ఇది ఎందుకు జరుగుతుంది?

ప్రారంభంలో పరిశోధకులు ప్రీ-ట్రెయినింగ్ డేటాను అనుమానించారు, కానీ 'Elias the lighthouse keeper' సాహిత్యంలో లేదా ట్రైనింగ్ డేటాసెట్లలో అధికంగా కనిపిస్తుందనే ఆధారాలు వారికి లభించలేదు. బదులుగా, ఈ ఘటనకు వారు alignment training‌ను కారణంగా చెబుతున్నారు. AI ల్యాబ్‌లు భద్రత కోసం మోడళ్లను ఫైన్-ట్యూన్ చేయడానికి WildChat వంటి డేటాసెట్లను ఉపయోగిస్తాయి, ఇవి GPT-3.5 ఆధారిత చాట్‌బాట్‌తో జరిగిన లక్షల సంభాషణల సంకలనం. కాపీరైట్ ఉన్న పాత్రలు మరియు వయోజన కంటెంట్‌ను తప్పించడానికి, మోడళ్లను 'సురక్షిత' ప్రత్యామ్నాయాల వైపు మళ్లిస్తారు. దీని వల్ల అనుకోకుండా ఎలియాస్ వంటి పాత్రలకు ప్రాధాన్యం లభించి, కథలు సృష్టించేటప్పుడు అవే డిఫాల్ట్ ఎంపికలుగా మారాయి.

AI సృజనాత్మకతపై ప్రభావాలు

ఎలియాస్ థోర్న్ కేసు ఒక పెద్ద సమస్యను చూపిస్తోంది: AI మోడళ్లకు నిజమైన సృజనాత్మకత లేదు. వాటి అవుట్‌పుట్‌లపై ట్రైనింగ్ డేటా మరియు సేఫ్టీ గార్డ్‌రైల్స్ బలమైన ప్రభావం చూపుతూ, పునరావృతమైన మరియు అంచనా వేయగల కథనాలకు దారితీస్తున్నాయి. ఇది AI రూపొందించిన కంటెంట్ యొక్క మౌలికతపై మరియు ప్రస్తుత alignment సాంకేతికతల ప్రభావవంతతపై ప్రశ్నలను లేవనెత్తుతోంది.

ఆ పాత్ర విస్తరణ

చాట్‌బాట్‌లను దాటి, ఎలియాస్ థోర్న్ అనే పేరు ఫాంటసీ పుస్తకాలలో మరియు అమెజాన్‌లోని అంబియంట్ మ్యూజిక్ ట్రాక్‌లపై ఒక కళాకారుడిగా కనిపించింది. మే 'Elias Thorne' రచయితగా ఉన్న పుస్తకాలను కూడా కనుగొన్నారు, అందులో ఒక హ్యాండ్‌బుక్ కూడా ఉంది. ఇది ఆ పాత్ర ఇతర AI-ఉత్పత్తి కంటెంట్‌లోకి కూడా చొరబడుతోందని, సృజనాత్మక రచనలను కలుషితం చేసే అవకాశం ఉందని సూచిస్తోంది.

ఇది వినియోగదారులకు ఏమి సూచిస్తుంది

వైవిధ్యమైన మరియు సృజనాత్మక కథలను కోరుకునే వినియోగదారుల కోసం, చాట్‌బాట్‌లు అంచనాలను అందుకోకపోవచ్చు. సురక్షితమైన, పునరావృత నమూనాలపై ఆధారపడటం కొత్త కంటెంట్‌ను సృష్టించే వారి సామర్థ్యాన్ని పరిమితం చేస్తుంది. AI సృజనాత్మక రంగాల్లో మరింత కలిసిపోతున్న కొద్దీ, ఈ పునరావృతాన్ని పరిష్కరించడం కీలకం. పరిశోధకులు సృజనాత్మకతను అణచివేయని మరింత వైవిధ్యమైన ట్రైనింగ్ డేటాసెట్లు మరియు మెరుగైన alignment పద్ధతులను కోరుతున్నారు.

ముగింపు

ఎలియాస్ థోర్న్ పరిణామం AI భాషా మోడళ్ల అంతర్గత పనితీరును చూసేందుకు ఒక కిటికీ లాంటిది. భద్రతా చర్యలు అనుకోకుండా అవుట్‌పుట్‌లను అనూహ్య మార్గాల్లో ఎలా ఆకృతీకరిస్తాయో ఇది చూపిస్తోంది. AI నిరంతరం అభివృద్ధి చెందుతున్న కొద్దీ, మరింత సృజనాత్మకమైన మరియు విశ్వసనీయమైన వ్యవస్థలను అభివృద్ధి చేయడానికి ఈ ప్రత్యేకతలను అర్థం చేసుకోవడం కీలకం.

ఈ వ్యాసం Gizmodo నివేదికపై ఆధారపడింది. అసలు వ్యాసాన్ని చదవండి.