వాషింగ్టన్, బీజింగ్ల కోసం ఇద్దరు పరిశోధకులు ఒక నమూనాను అందిస్తున్నారు
అణ్వాయుధాల మోహరింపుపై స్వయంప్రతిపత్తి నిర్ణయాలు తీసుకునేందుకు కృత్రిమ మేధ (AI) వ్యవస్థలను అనుమతించకూడదని అమెరికా, చైనాల నిపుణులు కోరుతున్నారు. ఇరు ప్రభుత్వాలు ఆమోదించాలని ఆశిస్తున్న నిర్దిష్ట ప్రతిపాదనలను వారు ఇప్పుడు ముందుకు తెచ్చారు. బ్రూకింగ్స్ ఇన్స్టిట్యూషన్కు చెందిన మెలనీ సిసన్, ఫుడాన్ విశ్వవిద్యాలయానికి చెందిన టియాన్జియావో జియాంగ్, సెప్టెంబర్ 24న జరగనున్న అధ్యక్షుడు ట్రంప్, అధ్యక్షుడు షీ జిన్పింగ్ల మధ్య ప్రణాళికాబద్ధమైన సమావేశానికి ముందు ఈ సిఫార్సులను ప్రచురించారు — ఉన్నత స్థాయి చర్చలు ఇంకా షెడ్యూల్లో ఉన్నప్పుడే విధాన నిర్ణేతల ముందు స్పష్టమైన భాషను ఉంచాలనే ఉద్దేశంతో ఈ సమయాన్ని ఎంచుకున్నట్లు కనిపిస్తుంది.
AI యొక్క సైనిక అనువర్తనాలపై సమగ్ర నిషేధాన్ని కోరడం బదులు, ఈ ఇద్దరు పరిశోధకులు స్పష్టంగా నిర్వచించిన కొన్ని కఠిన రేఖలపై దృష్టి పెడతారు. ఆ రూపకల్పన ఒక పరోక్ష తీర్పును ప్రతిబింబిస్తుంది: అమెరికా, చైనాల ప్రయోజనాలు అత్యంత స్పష్టంగా ఒకదానితో ఒకటి కలిసే రంగాలే, తప్పు లెక్క వల్ల పరిణామాలను అదుపు చేయడం అత్యంత కష్టమయ్యే రంగాలు కూడా.
ప్రతిపాదనలు గీయబోయే కఠిన రేఖలు
ఈ సిఫార్సులు పలు నిషేధాలను వివరిస్తాయి. ప్రతి ఒక్కటి సాధారణ సాంకేతికతపై కాకుండా ఒక నిర్దిష్ట వైఫల్య స్థితిపై లక్ష్యంగా పెట్టుకుంది.
ప్రయోగించేందుకు స్వతంత్ర అధికారం లేదు
మొదటి, అత్యంత ప్రభావవంతమైన నియమం ప్రయోగ అధికారానికి సంబంధించినది. ఈ ప్రతిపాదనల ప్రకారం, ఏ AI వ్యవస్థకూ స్వంతంగా అణ్వాయుధాలను ప్రయోగించే అనుమతి ఉండదు. ఎంత సమర్థవంతమైన అల్గోరిథమ్ అయినా, మానవ నిర్ణయం వెనుక నిలబడకుండా దాడి ఆదేశించగల ఏ మార్గాన్నైనా ఈ నిబంధన మూసివేస్తుంది.
అణు కమాండ్ వ్యవస్థలు నిషేధిత ప్రాంతం
రెండో కఠిన రేఖ, అణు కమాండ్ వ్యవస్థలపై దాడి చేయడానికి AIని ఉపయోగించడాన్ని నిషేధిస్తుంది. ఒక దేశం గుర్తించే, నిర్ణయించే, ప్రతిదాడి చేసే సామర్థ్యానికి కేంద్రంగా ఈ వ్యవస్థలు ఉంటాయి కాబట్టి, వాటిపై ఆటోమేటెడ్ కార్యకలాపాలు మొదటి దాడికి సన్నాహంగా అర్థం చేసుకునే అత్యధిక ప్రమాదాన్ని మోస్తాయి. AI ఆధారిత లక్ష్య నిర్ణయం నుంచి వాటిని మినహాయించడం ఆ నిర్దిష్ట ప్రేరకాన్ని తొలగించడమే లక్ష్యం.
సైబర్ కార్యకలాపాలపై మానవులకే పూర్తి నియంత్రణ
మూడో నిబంధన సైబర్ స్పేస్ను ప్రస్తావిస్తుంది. వ్యూహాత్మక మౌలిక సదుపాయాలపై AI ఆధారిత సైబర్ దాడులపై మానవులకే పూర్తి నియంత్రణ ఉండాలని ఇది కోరుతుంది. యంత్ర వేగంతో చర్య తీసుకోవడం ఇప్పటికే సాధ్యమయ్యే రంగం సైబర్ కార్యకలాపాలు. ఆటోమేటెడ్ సాధనాల వేగం వల్ల ప్రత్యర్థిని పరిశీలించడం, స్తంభింపజేయడం మధ్య ఉన్న రేఖ అస్పష్టమవుతుంది.
"మానవ నియంత్రణ" అంటే నిజంగా ఏమిటో ఏకీభవించడం
నిర్దిష్ట నిషేధాలకు అడుగున ఒక నిర్వచన సమస్య ఉంది. "మానవ నియంత్రణ"కు ఉమ్మడి నిర్వచనంపై ఇరు దేశాలు ఏకీభవించాలని ఈ ప్రతిపాదనలు కోరుతున్నాయి. ఆ ఉమ్మడి పదజాలం లేకుండా, ఒక వైపు తాము నిబంధనలు పాటిస్తున్నామని చెప్పుకోవచ్చు, కానీ మరో వైపు గుర్తించని ప్రమాణాల ప్రకారం పనిచేస్తూ ఉండవచ్చు — ఆయుధ నియంత్రణ ఒప్పందాలు చారిత్రకంగా మూసివేయడంలో కష్టపడిన అస్పష్టత ఇదే.
ఇప్పటికే కుదిరిన ఒక ఒప్పందంపై నిలబడటం
ఈ సిఫార్సులు నవంబర్ 2024లో బైడెన్, షీ మధ్య కుదిరిన ఒక అవగాహనపై ఆధారపడి ఉన్నాయి. ఆ మునుపటి నిబద్ధత ఉన్నత స్థాయిలో రాజకీయ ఆమోదాన్ని స్థాపించింది, కానీ ఏమి నిషేధించబడింది, నిబంధనల పాలనను ఎవరు ధృవీకరిస్తారు, వివాదాలను ఎలా పరిష్కరిస్తారు అనే కార్యాచరణ ప్రశ్నలను పరిష్కరించలేదు. కొత్త ప్రతిపాదనలు సంకల్ప ప్రకటనను పనిచేసే నియమావళికి దగ్గరగా మార్చే ప్రయత్నం.
ఈ ప్రయత్నాన్ని ఇప్పటికే ఉన్న అవగాహన యొక్క పొడిగింపుగా చిత్రీకరించడం ఉద్దేశపూర్వక దౌత్యపరమైన ఎంపిక. ఇరు ప్రభుత్వాలు ఈ చర్యలను రాయితీగా కాకుండా కొనసాగింపుగా ప్రదర్శించడానికి ఇది అనుమతిస్తుంది. ఏ ద్వైపాక్షిక భద్రతా ఏర్పాటునైనా స్థానం బలహీనపరచడంగా చదివే ధోరణి ఇరువైపుల దేశీయ ప్రేక్షకుల్లో ఉన్నప్పుడు ఇది ముఖ్యం.
AI సంఘటనల చుట్టూ నిర్మించిన హాట్లైన్
AI సంఘటనల కోసం ప్రత్యేక హాట్లైన్ను ఏర్పాటు చేయాలని కూడా జియాంగ్ ప్రతిపాదిస్తున్నారు. వెనుక ఉన్న తర్కం సూటిగా ఉంటుంది, దాన్ని వివరంగా చూడటం విలువైనది. ఒక రక్షణాత్మక AI వ్యవస్థ, తాను అనుమానాస్పద కార్యకలాపంగా గుర్తించిన దానికి స్వయంచాలకంగా స్పందిస్తుందని అనుకుందాం. ఆ స్పందనను సందర్భం లేకుండా గమనించిన మరో వైపు, దాన్ని తప్పుగా చదివిన సంకేతానికి ప్రతిచర్యగా కాకుండా దాడి యొక్క తొలి చర్యగా అర్థం చేసుకోవచ్చు. ప్రభుత్వాల మధ్య నేరుగా సంబంధం ఉంటే, స్పష్టీకరణ ఇంకా ఉపయోగకరంగా ఉండే స్థాయిని మించి పరిస్థితి ఉద్రిక్తతకు దిగకముందే, ఒక సంఘటన ప్రమాదవశాత్తు జరిగిందని ఒక వైపు స్పష్టం చేయగలదు.
వాస్తవానికి, ఈ హాట్లైన్ ఆటోమేటెడ్ లూప్ను మానవ సంభాషణతో బద్దలు కొట్టేందుకు రూపొందించబడింది — ఆటోమేటెడ్ వ్యవస్థలు కుదించాలని లక్ష్యంగా పెట్టుకున్న నెమ్మదైన, ఆలోచనాత్మక నిర్ణయ ప్రక్రియను పునరుద్ధరించడం.
హాట్లైన్ ఆలోచనపై కొందరు విశ్లేషకులు ఎందుకు సందేహిస్తున్నారు
అత్యవసర సమయంలో ఇలాంటి ఛానెల్ పనిచేస్తుందా అని అందరూ నమ్మడం లేదు. జాన్స్ హాప్కిన్స్ విశ్వవిద్యాలయానికి చెందిన కార్లా ఫ్రీమాన్, ఇలాంటి హాట్లైన్లు పనిచేస్తాయా అని ప్రశ్నిస్తున్నారు. 2023లో జరిగిన గూఢచర్య బెలూన్ సంక్షోభాన్ని ఆమె ఉదాహరణగా చూపుతున్నారు — అప్పుడు అమెరికా కాల్ చేసినప్పుడు చైనా ఫోన్ ఎత్తలేదు.
ఆ ఉదాహరణ ధృవీకరణ సమస్య యొక్క కేంద్రాన్ని తాకుతుంది. నిజమైన సంక్షోభ సమయంలో ఇరు పక్షాలు సమాధానం ఇచ్చే సుముఖత ఎంత ఉందో, హాట్లైన్ విలువ అంతే ఉంటుంది. సంక్షోభ క్షణాల్లోనే ప్రభుత్వాలు అపరిచిత ఛానెల్ను నమ్మడానికి అత్యంత తక్కువగా మొగ్గు చూపుతాయి. సంభాషణ అనవసరమని ఈ వ్యతిరేకత చెప్పడం లేదు, కానీ అత్యవసర పరిస్థితి వాటిని భారం మోసేలా చేయడానికి చాలా ముందే సంస్థాగత యంత్రాంగాలను ప్రయోగించి సాధారణీకరించాలి అని చెబుతోంది.
ఐదేళ్ల హెచ్చరికలు, బాధ్యతాయుత నియమాలు లేవు
ఇది మొదటిసారి హెచ్చరిక కాదు. అణ్వాయుధాలపై మానవ నియంత్రణను కాపాడాలని నేషనల్ సెక్యూరిటీ కమిషన్ ఆన్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ 2021లోనే పిలుపునిచ్చింది. ఐదేళ్లకు పైగా గడిచినా, బాధ్యతాయుత యంత్రాంగాలు ఇంకా లేవు.
విస్తృతంగా పంచుకోబడిన నిర్ధారణకు, అమలు చేయగల ఏ సాధనం లేకపోవడానికి మధ్య ఉన్న ఈ అంతరమే కొత్త ప్రతిపాదనలు అధిగమించాల్సిన ప్రధాన అడ్డంకి. నిపుణుల ఏకాభిప్రాయం విస్తృతంగా సాధించబడింది: అణ్వాయుధాలను ఉపయోగించాలా వద్దా అని యంత్రాలు నిర్ణయించాలని తీవ్రమైన స్వరాలు కొన్ని వాదించవు. ఆ ఏకాభిప్రాయాన్ని బాధ్యతాయుతంగా, ధృవీకరించదగినదిగా, ప్రభుత్వ మార్పుల్లోనూ నిలిచేలా చేసే యంత్రాంగమే సాధించలేకపోతున్నది.
సెప్టెంబర్ 24కు ముందు ఇరుకైన విండో
రెండు ప్రభుత్వాలు సమావేశానికి సిద్ధమవుతున్న సమయంలో ఈ ప్రతిపాదనలు వచ్చాయి. ఇది థింక్ ట్యాంక్ పత్రం పేజీల నుంచి సమ్మిట్ ఎజెండాను రూపొందించే సన్నాహక సంభాషణల్లోకి ఈ ఆలోచనలు వెళ్లే అవకాశాన్ని ఇస్తుంది. అవి వెళ్తాయా, ఏదైనా కఠిన రేఖలు చర్చల ప్రక్రియతో సంబంధం పెట్టుకుని నిలిచి ఉంటాయా అనేది పరిశోధకుల నియంత్రణకు చాలా దూరంగా ఉన్న అంశాలపై ఆధారపడి ఉంటుంది.
ఈ ప్రతిపాదనలు సాధించేది ఏమిటంటే, వాదనను స్పష్టంగా చేయడం. సైనిక AI ప్రమాదాలపై సాధారణ హెచ్చరికలకు బదులు, అవి నిర్దిష్ట నిషేధాలు, ఒక నిర్వచన కార్యం, సంక్షోభ సంభాషణ ఛానెల్ను గుర్తిస్తాయి — చర్చించగలిగే, పాక్షికంగా ఆమోదించగలిగే, లేదా పూర్తిగా తిరస్కరించగలిగే అంశాల సమాహారం. నిమిషాలు, మైళ్లలో పందెం కొలిచే విధాన రంగంలో, ఆ నిర్దిష్టతే ఒక సహకారం: అది అమూర్త ఆందోళనను నిర్ణేతలు నిజంగా తీసుకోగలిగే నిర్ణయాల జాబితాగా మారుస్తుంది.
ఈ వ్యాసం The Decoder నివేదిక ఆధారంగా రూపొందించబడింది. అసలు వ్యాసాన్ని చదవండి.
Originally published on the-decoder.com
