పోప్ లియో XIV తన తొలి ఎన్‌సైక్లికల్‌లో AIని "నిరాయుధీకరించాలి" అని పిలుపునిచ్చారు

AI చర్చలో ఒక ప్రధాన నైతిక జోక్యం

పోప్ లియో XIV కృత్రిమ మేధస్సుపై ప్రపంచవ్యాప్త సంభాషణలో అసాధారణంగా నేరుగా మాట్లాడే భాషతో ప్రవేశించారు. తన తొలి ఎన్‌సైక్లికల్, Magnifica Humanitas, లో AIని “నిరాయుధీకరించాలి” అని ఆయన పిలుపునిచ్చారు. రోమ్‌లో విడుదలైన ఈ పత్రం AIని సంకుచిత సాంకేతిక సమస్యగా కాకుండా ఒక నాగరికత పరీక్షగా చూస్తుంది. ఈ సాంకేతికతను ఆధిపత్యం, వేరుచేయడం, మరణం అనే సాధనంగా మార్చే వ్యవస్థల నుండి విముక్తి చేసి, బదులుగా సాధారణ మేలుకు సేవ చేసేలా ఉంచాలని లియో వాదిస్తున్నారు.

ఈ జోక్యం బలం కొంతవరకు దాని పదప్రయోగంలో ఉంది. దృష్టిని ఆకర్షించడానికి, మనసాక్షులను మేల్కొలపడానికి, మానవాళిని వేరే మార్గం వైపుకు సూచించడానికి సరిపడా బలమైన పదాలు ఈ క్షణానికి అవసరమని భావించి, తాను నిరాయుధీకరణ అనే భాషను ఎంచుకున్నానని లియో స్పష్టంగా చెప్పారు. దీంతో ఈ ఎన్‌సైక్లికల్ సాధారణ నైతిక హెచ్చరిక కంటే ఎక్కువగా మారుతుంది. ఇది AI యుగంలోని పణాలను నైతిక, రాజకీయ పదాలలో నిర్వచించే ప్రయత్నం.

వేటికన్ పెట్టిన రూపకల్పన కూడా ముఖ్యమే, ఎందుకంటే ఇది చర్చి బోధనలో అంచున ఉన్న గమనిక కాదు. 1891 నాటి Rerum Novarum, ఆధునిక కాథలిక్ సామాజిక బోధనకు మౌలిక గ్రంథం, వార్షికోత్సవమైన మే 15న లియో ఈ ఎన్‌సైక్లికల్‌పై సంతకం చేశారు. అలా చేసి, ఒక శతాబ్దానికి పైగా క్రితం శ్రమ, అధికారం, సామాజిక జీవితాన్ని మార్చిన పారిశ్రామిక కలతల సరసన AIని ఉంచారు. ప్రస్తుత యుగానికి చెందిన “కొత్త విషయం”గా కృత్రిమ మేధస్సును ఆయన చూపుతున్నారు; కొత్త సూత్ర ప్రకటన అవసరమయ్యేంత శక్తివంతమైనదిగా.

స్వయంచాలక ఆయుధాల నుండి డేటా వెలికితీత వరకు

ఈ పత్రం విమర్శ విస్తృతంగా ఉంది. మూల పాఠ్యం ప్రకారం, లియో AI-సంపన్న స్వయంచాలక ఆయుధాలు, ఆరోగ్య మరియు జన్యు డేటాపై వెలికితీత ధోరణులు, అలాగే పేటెంట్లు, అల్గారిథములు, డిజిటల్ ప్లాట్‌ఫార్ములు, సాంకేతిక మౌలిక సదుపాయాలు, డేటాపై నియంత్రణ కేంద్రీకరణను ప్రస్తావిస్తున్నారు. ఇది గమనించదగ్గ సమ్మేళనం. AIని కేవలం కార్మిక సమస్యగా, కేవలం సైనిక సమస్యగా, లేదా కేవలం కంటెంట్ సమస్యగా మాత్రమే చూడకుండా, ఈ ఎన్‌సైక్లికల్ వాటిని ఒకే అధికారం నిర్మాణంలోని భాగాలుగా కలుపుతోంది.

ఆ నిర్మాణాన్ని గట్టిగా వివరించారు. నేటి సాంకేతిక элైట్లను కాలనీయ విజేతలతో లియో పోల్చారు, ముఖ్యంగా నిర్మాణాత్మక అస్థిరత మరియు పరిమిత భౌగోళిక-రాజకీయ ప్రభావం ఉన్న ప్రాంతాలలో, కొత్త దోపిడి మనస్తత్వానికి వ్యతిరేకంగా హెచ్చరిస్తూ. డేటా-సమృద్ధ వ్యవస్థలు డిజిటల్ లేబుల్ కింద పాత ఆధిపత్య నమూనాలను పునరుత్పత్తి చేయగలవని వాదన. ఆ రూపకల్పనలో, AI కేవలం సాఫ్ట్‌వేర్ మాత్రమే కాదు. వ్యవస్థలను నిర్మించి, కలిగివున్నవారికీ, వాటిచే కొలవబడే, పాలించబడే, లేదా స్థానభ్రంశం చెందే వారికీ మధ్య అసమానతలను మరింత లోతుగా చేయగల సంస్థాగత ఏర్పాటు కూడా.

ఇక్కడే ఈ ఎన్‌సైక్లికల్ AI నైతికత యొక్క మృదువైన రూపాల నుండి భిన్నంగా ఉంటుంది. పారదర్శకత, పక్షపాత నివారణ, లేదా స్వచ్ఛంద రక్షణ హద్దులకే పరిమితం కాకుండా, అధికారం, యాజమాన్యం, ఉద్దేశ్యం గురించి మరింత ప్రాథమిక ప్రశ్నలను అడుగుతున్నట్లు కనిపిస్తోంది. AI వ్యవస్థల నుంచి లాభపడేది ఎవరు? ప్రమాదాన్ని మోసేది ఎవరు? ఎవరిని పక్కన పెడుతున్నారు? ఈ ప్రశ్నలు వేటికన్ జోక్యాన్ని కార్పొరేట్ అనుసరణ భాష కంటే రాజకీయ ఆర్థికశాస్త్రానికి మరింత దగ్గరగా తీసుకెళ్తాయి.

నిర్మించడం అంటే ఏమిటనే విషయంలో పోటీదృక్కోణం

మూల కథనంలో అత్యంత ఆకర్షణీయమైన లక్షణాల్లో ఒకటి లియో విమర్శ వద్ద ఆగిపోరని విషయం. ఆయన నిర్మాణం అనే భాషను కూడా స్వీకరిస్తారు, కానీ దాన్ని తిరిగి మలుపుతిప్పుతారు. ఆయన దృష్టిలో నిర్మించడం కోడ్, స్టార్టప్‌లు, ప్లాట్‌ఫార్ములు, లేదా ఫ్యాక్టరీలకే పరిమితం కాదు. ఇది ఆయన “ప్రేమ నాగరికత”గా వర్ణించే దాన్ని సృష్టించాలనే విస్తృత పిలుపులో భాగం; అంటే సాంకేతికత మానవాళిని ఆధిపత్యం చేయకుండా, సేవ చేసి, పెంచే సామాజిక క్రమం.

ఆ తేడా ముఖ్యమైనది, ఎందుకంటే AI చుట్టూ ఉన్న ప్రధాన ప్రజా వాక్చాతుర్యం ఇంకా వేగమే గంభీరతకు ప్రధాన ప్రమాణమని ఊహిస్తుంది. వేగంగా నిర్మించండి, త్వరగా విడుదల చేయండి, విస్తృతంగా పరిమాణం పెంచండి. లియో జోక్యం మరో ప్రమాణాన్ని సూచిస్తుంది: వ్యవస్థలు మానవ గౌరవం, సామాజిక భాగస్వామ్యం, నైతిక బాధ్యతను కాపాడుతున్నాయా? కాపాడకపోతే, సాంకేతిక నైపుణ్యం రక్షణ కాదు.

మనుషుల నిర్ణయాన్ని బయటకు అప్పగించాలనుకునే సంస్థలకు ఇక్కడ ఒక అంతర్లీన హెచ్చరిక కూడా ఉంది. యంత్రం ఆప్టిమైజ్ చేయగలదు, సిఫార్సు చేయగలదు, ర్యాంక్ చేయగలదు, లక్ష్యంగా పెట్టగలదు, లేదా ఆటోమేట్ చేయగలదు, కానీ ఈ పనులలో ఏదీ మానవ కార్యాచరణను ఖాళీ చేయడానికి అనుమతించకూడదని ఎన్‌సైక్లికల్ పట్టుబడుతున్నట్లు కనిపిస్తోంది. ఈ డిమాండ్ సరళ అర్థంలో సాంకేతికత వ్యతిరేకం కాదు. ఇది ఆధీనత వ్యతిరేకం. సమస్య సాధనాలు ఉన్నాయన్నది కాదు; సమస్య అవి ప్రజల జీవితాలను రూపకల్పన చేసే నిర్ణయాల నుండి వారిని తప్పించే తర్కాలలో నిలిపివేయబడవచ్చు అన్నది.

ఈ జోక్యం ఇప్పుడే ఎందుకు ముఖ్యమైంది

సమయ నిర్ణయం కీలకం. గత రెండేళ్లలో AI చర్చలు మరింత స్పష్టమైనవిగా మారాయి, పని అంతరాయం, సైనిక స్వయంప్రభుత్వం, కేంద్రీకృత మౌలిక సదుపాయాలు, మరియు సరిహద్దులు దాటి డేటా వెలికితీతపై పెరుగుతున్న ఆందోళనలతో. లియో ఎన్‌సైక్లికల్ ఆ క్షణంలో పణాలను పెంచే పదసంపదతో ప్రవేశించింది. AIని సామాజిక బోధనతో అనుసంధానించడం ద్వారా, ఇది ఇక ఇంజనీర్లు, కార్యనిర్వాహకులు, నియంత్రకులకు మాత్రమే చెందిన ప్రత్యేక సంభాషణ కాదని ఆయన సమర్థవంతంగా చెబుతున్నారు.

దాంతో AI పాలన వాదనల కోసం ప్రేక్షక వర్గం విస్తరించవచ్చు. మత సంస్థలు సాంకేతిక ప్రమాణాలను రచించవు, కానీ ప్రమాణాలు చర్చించబడే ప్రజా నైతిక రూపకల్పనపై ప్రభావం చూపగలవు. AIని “నిరాయుధీకరించాలి” అనే పిలుపు గుర్తుండిపోతుంది, ఎందుకంటే అది సంక్లిష్ట విమర్శను ఒకే డిమాండ్‌గా కుదిస్తుంది: మానవ లక్ష్యాల పట్ల జవాబుదారీ లేకుండా సాంకేతికతకు అధికారాన్ని కూడబెట్టే అవకాశం ఇవ్వకూడదు.

మూల పాఠ్యంలో పేర్కొన్న Anthropic సహ-స్థాపకుడు Dario Amodei హాజరు కూడా నైతిక అధికారం మరియు frontier-పరిశ్రమ శక్తి మధ్య ఉన్న అతివ్యాప్తిని రేఖांकితం చేసింది. వేటికన్ నమ్మికలవారినే కాకుండా డెవలపర్లను, కార్యనిర్వాహకులను కూడా సమానంగా ఉద్దేశిస్తున్నదని స్పష్టంగా అర్థం చేసుకుంది. సందేశం ఆవిష్కరణ ఆగాలని కాదు. నైతిక దిశ లేకుండా ఆవిష్కరణ అత్యంత సామర్థ్యవంతంగా కనిపించే క్షణంలోనే ప్రమాదకరమవుతుంది.

ముందున్న దీర్ఘ వాదన

లియో జోక్యం నేరుగా విధానాన్ని మార్చుతుందా అనేది ఇంకా తెరిచిన ప్రశ్నే. కానీ AI పాలనను సంకుచిత రిస్క్ మేనేజ్‌మెంట్‌కు తగ్గించలేమనే పెరుగుతున్న దృష్టికి ఇది బలం ఇస్తుంది. ఎన్‌సైక్లికల్‌లో లేవనెత్తిన అంశాలు యుద్ధం, శ్రమ, వెలికితీత, యాజమాన్యం, మరియు సామాజిక జీవన రూపాన్ని కలిగి ఉన్నాయి.

అదే బహుశా ఉద్దేశం. పారిశ్రామిక విప్లవాలు కేవలం సాధనాలను మార్చవు; సమాజాలను పునర్వ్యవస్థీకరిస్తాయి. Rerum Novarum సంప్రదాయాన్ని ప్రస్తావిస్తూ, AI కూడా ఆ వర్గంలోకి వస్తుందని లియో వాదిస్తున్నారు. ప్రధాన ప్రశ్న ఇక ఈ సాంకేతికత అద్భుతమా కాదా అన్నది కాదు. దాని చుట్టూ నిర్మించబడుతున్న ప్రపంచం మానవులను గతం కంటే మరింత రక్షితులుగా, మరింత శక్తివంతులుగా, మరింత పూర్తిగా చేర్చబడిన వారిగా ఉంచుతుందా అన్నదే.

ఆ అర్థంలో, “నిరాయుధీకరించు” అనేది యంత్రాలలోని మేధస్సును తిరస్కరించడం కంటే, ఆ వ్యవస్థలను బలవంతపు సాధనాలుగా మార్చగల రాజకీయ, ఆర్థిక ఏర్పాట్లను తిరస్కరించడం. AI భవిష్యత్తు కేవలం ఇంజినీరింగ్ ద్వారా నిర్ణయించబడదని ఈ ఎన్‌సైక్లికల్ గుర్తుచేస్తుంది. సంస్థలు రక్షించడానికి సిద్ధంగా ఉన్న విలువలచే కూడా అది రూపుదిద్దుకుంటుంది.

ఈ వ్యాసం Ars Technica నివేదిక ఆధారంగా ఉంది. మూల వ్యాసాన్ని చదవండి.