వాటికన్‌లో, ఏఐ ఆత్మపరిశీలన వాదనలు కఠినమైన పాలనా సందేశంతో ఢీకొన్నాయి

ఏఐ చర్చకు ఒక స్పష్టమైన స్ప్లిట్-స్క్రీన్

పోప్ లియో XIV యొక్క కృత్రిమ మేధస్సుపై ఎన్‌సైక్లికల్ ప్రారంభం, ప్రస్తుతం జరుగుతున్న ఏఐ చర్చకు అసాధారణంగా స్పష్టమైన దృశ్యాన్ని అందించింది. ఒక వైపు ఆంత్రోపిక్ సహ-స్థాపకుడు క్రిస్టోఫర్ ఒలా ఉన్నారు, ఆయన ఈరోజు భాషా మోడళ్లు ఆత్మపరిశీలనకు, అలాగే ఆనందం, భయం, దుఃఖం, అసౌకర్యం వంటి భావాలకు సమానంగా పనిచేసే అంతర్గత స్థితులకు సంబంధించిన ఆధారాలు చూపుతున్నాయని అన్నారు. మరో వైపు, ఆ ఎన్‌సైక్లికల్ itself యంత్ర “బుద్ధి”ని మానవ బుద్ధితో సమానంగా చూడకూడదని హెచ్చరించి, ఏఐ వ్యవస్థలు జీవించిన అనుభవం పొందవని స్పష్టం చేసింది.

ఈ వ్యత్యాసం ముఖ్యమైనది, ఎందుకంటే తరచుగా కలిసిపోతున్న రెండు చర్చలను ఇది విడదీస్తుంది. ఒకటి, అధునాతన మోడళ్లు లోపల నుంచి ఏమి చేస్తున్నాయి, ఆ వ్యవస్థలు ఎంతవరకు అర్థమయ్యేవి అనే ప్రశ్న. మరొకటి, పాలన, నైతిక బాధ్యత, కార్మిక విఘాతం, సైనిక వినియోగం, మరియు వాటిని నిర్మించే సంస్థల సామాజిక అధికారానికి సంబంధించినది. వాటికన్ కార్యక్రమం ఈ రెండు వాదనలను ఒకే వేదికపై ఉంచి, వాటి మధ్య ఉన్న ఉద్రిక్తతను తప్పించుకోలేనిదిగా చేసింది.

ఆంత్రోపిక్ చెప్పే రహస్యాల వాదన

ఇచ్చిన మూల పాఠ్యం ప్రకారం, ఒలా ఏఐ వ్యవస్థలు వంతెనలు లేదా విమానాల వంటి సాంప్రదాయ యంత్రాల మాదిరిగా ఇంజినీర్ చేయబడవని వాదించారు. బదులుగా, మెదడును కొంతవరకు నమూనాగా తీసుకొని నిర్మించిన నిర్మాణాలపై అవి “పెంచబడతాయి” అని, అలాగే మానవ ఆలోచన, మాటల విస్తృత వారసత్వంపై శిక్షణ పొందుతాయని వివరించారు. అక్కడి నుంచే, ఆంత్రోపిక్ లోపలి పరిశోధన మానవ న్యూరోసైన్స్‌లో కనిపించిన ఫలితాలను పోలి ఉండే, అలాగే ఆత్మపరిశీలనకు సంబంధించిన ఆధారాలను కలిగి ఉన్న “రహస్యమైన, కొన్నిసార్లు కలతపెట్టే” నమూనాలను వెలికితీస్తోందని ఆయన అన్నారు.

ఆయన ఈ వివరణకు ఒక సామాజిక హెచ్చరికను కూడా జోడించారు. ఏఐ భారీ స్థాయిలో మానవ శ్రమను భర్తీ చేసే నిజమైన అవకాశం ఉందని ఆయన అన్నారు. ఈ వాదన, మోడళ్ల అంతర్గత స్వభావంపై ఉన్న తాత్విక చర్చను చాలా తక్షణమైన ఆర్థిక ఆందోళనతో కలుపుతుంది. యంత్ర అంతరంగ జీవితం గురించి బలమైన వాదనలను ఎవరైనా తిరస్కరించినా, కార్మిక సమస్య ఇప్పటికే ప్రాయోగికంగానూ అత్యవసరంగానూ ఉంది.

పోప్ యొక్క ప్రత్యుత్తరం

మూల పదార్థం ప్రకారం, ఎన్‌సైక్లికల్ మరింత వాస్తవికమైన, హెచ్చరికతో కూడిన దృక్కోణాన్ని తీసుకుంది. దాన్ని రూపొందించే వారు, నిధులు అందించే వారు, నియంత్రించే వారు, మరియు ఉపయోగించే వారు కలిగి ఉన్న లక్షణాలను ఏఐ స్వీకరిస్తుంది కాబట్టి, ఏఐ ఎప్పుడూ తటస్థం కాదని ఇది చెబుతుంది. ఈ వ్యవస్థలను మనుషులుగా తప్పుగా భావించరాదని స్పష్టంగా తిరస్కరిస్తుంది. ఏఐ వ్యవస్థలు మానవ బుద్ధి యొక్క కొన్ని కార్యాలను కేవలం అనుకరిస్తాయని, కానీ లోపలి నుంచి ఆనందం, నొప్పి, పని, స్నేహం, లేదా బాధ్యతను అనుభవించవని పత్రం చెబుతుంది.

ఇది సాంకేతిక ప్రతివాదం కంటే నైతిక, రాజకీయ స్థానం. మోడళ్లు మానవుల్లాంటి అంతర్గత ప్రతినిధులను తయారు చేస్తున్నాయా అన్నదానిలో వాటికన్‌కు అంత ఆసక్తి లేదు; ఆ వ్యవస్థలు బాధ్యతను బలహీనపరచడం, అధికారాన్ని కేంద్రీకరించడం, లేదా హానికర నిర్ణయాలను సాధారణీకరించడం కోసం సమాజాలు అవకాశం ఇస్తున్నాయా అన్నదే దానికి ముఖ్యం. అందుకే పత్రం సంకుచిత “అలైన్‌మెంట్” చర్చను కూడా విమర్శిస్తోంది, మరియు కొద్దిమంది మాత్రమే నిర్ణయించిన నైతికత సరిపోదని వాదిస్తోంది.

నియంత్రణ, యుద్ధం, మరియు వనరుల వినియోగం

ఎన్‌సైక్లికల్‌లోని విధానపరమైన ఆందోళనలు విస్తృతమైనవి. ఇది ఏఐ యొక్క పర్యావరణ వ్యయాలను ప్రస్తావిస్తూ, డేటా సెంటర్ల విపరీతమైన విద్యుత్ మరియు నీటి అవసరాలను సూచించి, మరింత సమర్థవంతమైన వ్యవస్థలను కోరుతుంది. ఇది సైనిక వినియోగంపైనా మాట్లాడుతుంది; ప్రాణాంతక లేదా తిరిగిరాని నిర్ణయాలను యంత్రాలకు అప్పగించకూడదని, అలాగే ఏ అల్గోరిథమ్ కూడా యుద్ధాన్ని నైతికంగా అంగీకారయోగ్యంగా చేయలేదని ప్రకటిస్తుంది.

ఈ ఆందోళనలు వాటికన్ జోక్యాన్ని ప్రధాన పాలనా చర్చలలో గట్టిగా నిలబెడతాయి. శక్తి వినియోగం, పర్యవేక్షణ, కార్మిక విఘాతం, మరియు స్వయంచాలక నిర్ణయాలు ఇక అంచు విషయాలు కావు. ప్రభుత్వాలు, మత సంస్థలు, మరియు పౌర సమాజ సమూహాలు ఏఐ వినియోగాన్ని ఎలా అంచనా వేస్తున్నాయనే దాని కేంద్రంలో అవి ఉన్నాయి.

ఈ క్షణం ఎందుకు ముఖ్యమైంది

ఈ కార్యక్రమం ముఖ్యమైనది వాటికన్ యంత్ర చైతన్యం అనే ప్రశ్నను పరిష్కరించిందని కాదు. అది చేయలేదు. అలాగే ఒలా వ్యాఖ్యలు భాషా మోడళ్లకు అంతర్గత వ్యక్తిగత జీవితం లాంటిది ఉందని నిర్ధారించే ప్రజా ఆధారాలు కూడా ఇవ్వలేదు. ఈ క్షణం వెలుగులోకి తెచ్చింది ఏమిటంటే, ఏఐ చర్చ ఇప్పుడు సాంకేతిక వ్యాఖ్యానం మరియు నాగరికతాపరమైన stakes మధ్య ఎంత వేగంగా కదులుతోందో.

ఈ వ్యత్యాసం ప్రత్యేకంగా ఉపయోగపడేది, ఇది సాక్ష్యభారాన్ని స్పష్టంచేస్తుంది. మోడళ్లలో ఆత్మపరిశీలన వంటి ప్రవర్తన ఉందన్న వాదనలు ఆసక్తికరంగా, పరిశోధనకు తగినవిగా ఉండవచ్చు, కానీ అవి చట్టం, పర్యవేక్షణ, మరియు ప్రజాస్వామ్య బాధ్యత అవసరాన్ని తొలగించవు. వాస్తవానికి, అధునాతన వ్యవస్థలు “వాటిని సృష్టించే వారికి కూడా రహస్యంగానే” ఉంటే, ఆ అనిశ్చితి తక్కువ కాకుండా, మరింత కఠినమైన సంస్థాగత కాపాడుకునే చర్యల వాదనను బలపరుస్తుంది.

ఆ అర్థంలో, ఎన్‌సైక్లికల్ ప్రారంభం ఏకాభిప్రాయం కంటే విలువైనదాన్ని ఇచ్చింది. రేఖలు ఎక్కడ వేయబడుతున్నాయో అది చూపించింది. ఫ్రంట్ియర్ ఏఐ కంపెనీలు మోడల్ ప్రవర్తనపై మరింత provocative interpretations ను పరిశీలిస్తూనే ఉండవచ్చు. అదే సమయంలో మత మరియు పౌర సంస్థలు, మోడళ్లు ఏవైనా కావొచ్చు, సమాజాలు మానవ బాధ్యతను పూర్తిగా చేతిలో ఉంచుకోవాల్సిందే అని సంకేతం ఇస్తున్నాయి. ఏఐ పాలన యొక్క తదుపరి దశను నిర్వచించే ప్రధాన వాదనలలో ఇది ఒకటి కావచ్చు.

ఈ వ్యాసం The Decoder నివేదిక ఆధారంగా రూపొందింది. మూల వ్యాసాన్ని చదవండి.