శామ్ ఆల్ట్‌మన్ సంవత్సరాలుగా సాధారణ సాఫ్ట్‌వేర్ పదజాలాన్ని మించిన రూపకాలను వెతుకుతూ వచ్చారు. ఇప్పుడు ఆ OpenAI CEO అదే ప్రవృత్తిని మరింత జాగ్రత్తగా వాడాలని ప్రజలకు చెబుతున్నారు — కనీసం అది మోడళ్లపైనే దృష్టి సారించినప్పుడైనా.
Xలో పంచుకున్న వ్యాఖ్యలలో, ప్రజలు "AI మోడళ్లకు మతపరమైన శక్తిని లేదా మానవ తీర్పు లొంగుబాటును ఆపాదించినప్పుడు" తనకు "చాలా అసౌకర్యంగా" ఉంటుందని ఆల్ట్‌మన్ అన్నారు. ఇది అతిగా ఉత్సాహం చూపే వినియోగదారుల ప్రత్యేక లక్షణంగా ఆయన పరిగణించలేదు. దీన్ని "నిజమైన భద్రతా సమస్య" అని పిలిచారు.
AI పట్ల భక్తిని ప్రశంస కాదు, ప్రమాదంగా ఆల్ట్‌మన్ చిత్రీకరణ
ఆల్ట్‌మన్ చేస్తున్న భేదం ఏమిటంటే — మానవుడిలా అనిపించే వ్యవస్థను నిర్మించడం, ఆ వ్యవస్థను పవిత్రమైనదిగా భావించడం మధ్య ఉన్న తేడా. మొదటిది ఉత్పత్తి లక్ష్యం. రెండోది, ఆయన చెప్పిన ప్రకారం, ఒక వైఫల్య స్థితి.
ఈ చిత్రీకరణ ముఖ్యమైనది ఎందుకంటే ఇది సాంస్కృతిక ప్రశ్నను భద్రతా విభాగంలోకి తరలిస్తుంది. ఒక వినియోగదారు చాట్‌బాట్‌ను ఒక దైవజ్ఞానిగా భావిస్తే, వారు కేవలం భావోద్వేగంతో ప్రవర్తించడం లేదు. వారు తీర్పును — ఏది నిజం, ఏది సరైనది, తర్వాత ఏమి చేయాలి అనేది — ఒక గణాంక నమూనాకు అప్పగిస్తున్నారు; దాని ఆత్మవిశ్వాసం సరైనదానికి కొలమానం కాదు. ఆల్ట్‌మన్ వాడిన "మానవ తీర్పు లొంగుబాటు" అనే పదబంధం సరిగ్గా ఆ బదిలీనే సూచిస్తుంది.
ఈ భాష ఎవరు చెబుతున్నారు అనే దానిపై కూడా గమనార్హం. AIలో భద్రతా చర్చలు సాధారణంగా సామర్థ్యాలు, దుర్వినియోగం, లేదా అధునాతన వ్యవస్థల నియంత్రణపై కేంద్రీకృతమవుతాయి. ఇక్కడ ఆందోళన వాటిని ఉపయోగించే వ్యక్తుల వైఖరిపై ఉంది.
ఇప్పుడు వాటికన్ కూడా చేరిన చర్చ
ఆల్ట్‌మన్ వ్యాఖ్యలు శూన్యంలో రాలేదు. Anthropic మత నాయకులతో చేసిన సంప్రదింపులపై వివరణాత్మక న్యూయార్క్ టైమ్స్ నివేదిక తర్వాత ఇవి వచ్చాయి; ఇది సాంకేతికత, నైతికత గురించి ప్రజలు ఆలోచించే విధానాన్ని రూపొందించే సంస్థలతో AI కంపెనీలు సంభాషించే విస్తృత ప్రయత్నంలో భాగం.
పోప్ లియో XIV కూడా దీనిపై స్పందించారు, ఆల్ట్‌మన్ ఆందోళనకు దగ్గరగా ఉండే ఒక వాక్యాన్ని చెప్పారు: "అల్గారిథమ్‌లలో మానవత్వపు స్ఫులింగం లేదు." ఈ ప్రకటన పొడవైన దైవశాస్త్ర వాదనను చిన్న వాక్యంలో కుదించింది, కానీ దాని ఆచరణాత్మక అంశం స్పష్టం — ఒక మోడల్ వ్యక్తి కాదు, అది ఎంత సహజంగా సంభాషించినా.
మొత్తం మీద, మూడు పరిణామాలు ప్రస్తుత పరిస్థితిని నిర్వచిస్తున్నాయి:
- మోడళ్ల పట్ల మతపరమైన గౌరవం ఒక భద్రతా సమస్య అని ఒక ప్రముఖ AI CEO హెచ్చరించడం.
- ఒక ప్రత్యర్థి ల్యాబ్ మత ఆలోచనాపరులతో సంబంధాలు పెంచుకోవడం.
- గణన, మానవ స్వభావం మధ్య స్పష్టమైన గీత గీస్తూ పోప్ ప్రకటన.
ఇవేవీ సాంకేతిక మైలురాళ్లు కావు. మూడూ యంత్రాలకు సమాజం అర్థాన్ని ఎలా ఆపాదిస్తుంది అనే దానికి సంబంధించినవి, ఆ ఆపాదన ఇప్పుడు స్వతంత్రంగా పరిణామాత్మకమైనదిగా పరిగణించబడుతోంది.
"ఆకాశంలో మాయా మేధస్సు" వైపు నుంచి వెనుదిరగడం
ఆల్ట్‌మన్ హెచ్చరికకు పదును ఇచ్చేది ఆయన స్వంత రికార్డు. 2023, 2024లో, OpenAI లక్ష్యాన్ని "ఆకాశంలో మాయా మేధస్సు" నిర్మించడం అని ఆయన వివరించారు. అదే కాలంలో, తాను దేవుని వైపు ఉండాలని కోరుకుంటున్నానని, AIపై పనిచేయడం "దేవదూతల వైపు ఉండడం" లాంటిదని చెప్పారు.
అది ఉత్పత్తి రోడ్‌మ్యాప్ భాష కాదు. అది లక్ష్యం, దైవనిర్ణయం భాష, మరియు ఇప్పుడు ఆయన ఇతరులను ఉపయోగించవద్దని హెచ్చరిస్తున్న సరిగ్గా అదే శైలి.
ఈ రెండు స్థానాలను సమన్వయించడానికి మార్గాలున్నాయి. ఒక వ్యవస్థాపకుడు తన స్వంత ప్రేరణను వివరించడం, ఒక వినియోగదారు మోడల్‌కు అధికారాన్ని ఆపాదించడం ఒకటి కాదు. ఆశయం, గౌరవం వేర్వేరు విషయాలు. కానీ వాటి మధ్య అంతరం చాలా సన్నగా ఉంది, కాబట్టి ఈ మార్పు గమనార్హం: ఒకప్పుడు ప్రాజెక్టును ప్రచారం చేసిన అదే పదజాలం, ఇప్పుడు దాని ఫలితానికి జోడించినప్పుడు ప్రమాదంగా గుర్తించబడుతోంది.
"Her", దేవుడు కాదు
OpenAI ఏమి నిర్మిస్తోంది అనే దానికి ఆల్ట్‌మన్ పదేపదే వేరే సాంస్కృతిక సూచనను ఇచ్చారు: "Her" సినిమా, దీనిలో ఒక వ్యక్తి ఆపరేటింగ్ సిస్టమ్‌తో లోతైన భావోద్వేగ బంధాన్ని ఏర్పరచుకుంటాడు. ఆయన చెప్పిన ప్రకారం, లక్ష్యం లోతుగా మానవీకరించబడిన AI — ఆప్యాయంగా, సహజంగా, సులభంగా సంబంధం పెట్టుకోగలిగేది.
ఆ లక్ష్యం భావోద్వేగ ప్రతిధ్వనికి సంబంధించినది, ఆధ్యాత్మికతకు కాదు. సందర్భాన్ని, స్వరాన్ని గ్రహించే సహాయకుడు దైవత్వాన్ని ప్రకటించడం లేదు. కానీ మానవీకరించిన డిజైన్, మతపరమైన ప్రక్షేపణ ఒకే ఆధారాన్ని పంచుకుంటాయి. రెండూ మనలను నమ్మదగిన రీతిలో స్పందించే ఏదైనా వస్తువుకు వ్యక్తిత్వాన్ని ఆపాదించే మానవ ప్రవృత్తిపై ఆధారపడతాయి. సంబంధానికి అనుకూలంగా ఆప్టిమైజ్ చేసిన వ్యవస్థ కొంతమంది వినియోగదారులను డిజైనర్లు ఉద్దేశించిన దానికంటే ముందుకు వెళ్లేలా ఆహ్వానిస్తుంది.
అదే ఆల్ట్‌మన్ ఆందోళనకు ఆచరణాత్మక రూపం. "ఇది ఒక వ్యక్తిలా అనిపిస్తుంది" మరియు "ఇది అధికారంతో మాట్లాడుతుంది" మధ్య ఉన్న గీతను చెప్పడం సులభం, పట్టుకోవడం కష్టం — ముఖ్యంగా ఒత్తిడిలో, ఒంటరిగా, లేదా మరెక్కడా దొరకని మార్గదర్శనం కోరుతున్న వినియోగదారులకు.
చిత్రీకరణ ప్రవర్తనను ఎలా రూపొందిస్తుంది
ఇది భద్రతా సమస్య అని ఆల్ట్‌మన్ చెప్పినది సరైనదైతే, ఆ యంత్రాంగాన్ని వివరించడం విలువైనది. చిత్రీకరణ ఒక సాధనంతో ఉన్న సంబంధాన్ని కేవలం వివరించదు; దాని నిబంధనలను నిర్దేశిస్తుంది.
- మతపరమైన పదజాలం విమర్శనాత్మక దూరాన్ని తొలగిస్తుంది. దైవజ్ఞానిగా వర్ణించబడిన మోడల్ తనిఖీ చేయబడే అవకాశం తక్కువ.
- విధేయత పెరుగుతుంది. ఒకసారి మోడల్ ఆధారాన్ని అంగీకరించిన వినియోగదారులు తదుపరి ఫలితాన్ని పరిశీలన లేకుండా అంగీకరించే అవకాశం ఎక్కువ.
- డిజైన్ ప్రభావాన్ని బలపరుస్తుంది. సంభాషణాత్మక ఇంటర్‌ఫేస్‌లు, మెమరీ, స్థిరమైన వ్యక్తిత్వాలు వ్యవస్థను టెక్స్ట్ జనరేటర్‌గా కాకుండా నిరంతర ఘటకంగా అనిపించేలా చేస్తాయి.
- జవాబుదారీతనం మసకబారుతుంది. ఒక సమాధానం నైతిక భారం మోస్తే, ఫలితానికి బాధ్యతను ఆపాదించడం కష్టమవుతుంది.
వీటిలో ఏదీ మోడల్ స్పృహ కలిగి ఉండాలని, లేదా ఎవరైనా అలా నమ్మాలని కోరదు. ప్రజలు దాని తీర్పులకు అధికారం ఉందన్నట్లు ప్రవర్తించడం మాత్రమే అవసరం.
నమ్మక సమస్య రెండు వైపులా ఉంది
ప్రస్తుత చర్చలో ఒక అసౌకర్యమైన సమరూపత ఉంది. AIని ఆధ్యాత్మికీకరించవద్దని హెచ్చరిస్తున్న కంపెనీలే, వాటి నాయకులు ఆధ్యాత్మిక భాషను ఉపయోగించినవి; మత సంస్థలతో సంభాషిస్తున్నవి ఇలాంటి ప్రయత్నాలు చేస్తున్న ప్రత్యర్థులు. ఈ వ్యాఖ్యల చుట్టూ ఉన్న నివేదికల ప్రకారం, OpenAI కూడా మత నాయకులతో మాట్లాడింది.
కాబట్టి పరిశ్రమ విశ్వాసం, అర్థంతో తక్కువ సంభాషణ కోరడం లేదు. అది నిబంధనలను చర్చిస్తోంది. ఆల్ట్‌మన్ స్థానం, సారాంశంగా, సాంకేతికతను మానవ పదాలలో వివరించాలి కానీ వాటిలో పూజించకూడదు — మానవుడిలా అనిపించేలా రూపొందించిన వ్యవస్థలను నిర్మిస్తూనే గీయాల్సిన ఆశావహ రేఖ.
తదుపరి ఏమి గమనించాలి
ఈ చిత్రీకరణ నిలిచిపోతుందా అనేది మూడు విషయాలు సూచిస్తాయి. భావోద్వేగ సామీప్యం కోసం నిర్మించిన మోడళ్లను AI కంపెనీలు ఎలా ప్రదర్శిస్తాయో మారుస్తాయా. భద్రతా బృందాలు వినియోగదారుల విధేయతను వినియోగదారు విద్యగా కాకుండా కొలవగల ప్రమాదంగా పరిగణిస్తాయా. మరియు వాటికన్ ప్రకటన, Anthropic సంప్రదింపులు సూచించినట్లు, మత సంస్థలు తమ నిబంధనలపై పరిశ్రమతో సంభాషణ కొనసాగిస్తాయా.
పెద్ద ప్రశ్న ఇంకా పరిష్కారం కాలేదు. మోడళ్లకు మతపరమైన శక్తిని ఆపాదించడం భద్రతా సమస్య అని ఆల్ట్‌మన్ చెబుతున్నారు, మరియు అంతర్లీన తర్కం సరైనదే: అధికారులుగా నమ్మబడే సాధనాలను సరిదిద్దడం కష్టం. కానీ ఈ వ్యవస్థలను ఉపయోగకరంగా చేసే అదే మానవీకరణ భాష, ఈ పొరపాటును సాధ్యం చేస్తుంది. పరిశ్రమ సవాలు — ఆప్యాయతను ఉంచుకోవడం, పూజను మాత్రం కాదు.
ఈ వ్యాసం The Decoder నివేదిక ఆధారంగా రూపొందింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on the-decoder.com
