సైనిక AI సారిక్య సమస్య
US రక్షణ శాఖ 2018 నుండి Joint Artificial Intelligence Center ఏర్పాటు నుండి మరియు 2022 నుండి దాని వారసుడైన Chief Digital and Artificial Intelligence Office నుండి ఆక్రమణాత్మక AI గ్రహణ మార్గంపై ఉంది. అయితే Pentagon స్థిర రక్షణ కంట్రాక్టర్ల నుండి సిలికన్ వ్యాలీ స్టార్టప్ల వరకు సరిహద్దు నమూనా ల్యాబ్ల వరకు AI సంస్థల విస్తారమైన శ్రేణితో ఒప్పందాలపై సంతకం చేసినందున, ఒక నూతన సవాలు ఉద్భవించింది: అసంబద్ధమైన AI సాధనాల విస్తరణ, విభిన్న నమూనా సంస్కరణలు, మరియు సైనిక నిర్దేశాలు మరియు శాఖలలో అసమానమైన సామర్థ్య స్థరాలు.
Pentagon యొక్క ప్రతిస్పందన దాని AI ప్రదాతలను ప్రామాణీకరించటం మరియు సమస్తమైనవాటిని అధికారుల "ఒకే నిబంధన" అని కూడా పిలిచేటపై ఆపరేట్ చేయటం — నమూనా సంస్కరణలు, APIs, సురక్షత విధానాలు, మరియు నిష్పత్తి ప్రమాణాలు ఒక సంపర్క సమితి ఇది విభిన్న సైనిక సిస్టమ్ల సంక్రమణ సక్షం చేస్తుంది మరియు పర్యవేక్షణ అధికారులకు ఏ AI సామర్థ్యాలు ఎక్కడ నిబద్ధ చేయబడినాయో స్పష్ట చిత్రం చేయటానికి సక్షం చేస్తుంది.
సైనిక సందర్భంలో Claude
Pentagon ప్రవేశ ప్రామాణీకరణకు ప్రయత్నిస్తున్న AI వ్యవస్థలలో Anthropic's Claude ఉంది — సరిహద్దు పెద్ద భాష నమూనాలలో ఒకటి ఇది రక్షణ-సంబంధిత కంట్రాక్టర్లు మరియు DoD సంస్థలు నిబంధన విశ్లేషణ, గుప్తాచర ప్రక్రియ, మరియు నిర్ణయ సపోర్టు వంటి పనుల కోసం నేరుగా ఉపయోగించారు. OpenAI, Google, మరియు Microsoft నుండి సిస్టమ్ల పక్కన Claude కలపటం Pentagon ఏకైక విక్రేతపై ఆధారపడటానికి బదులుగా బహుళ సరిహద్దు AI ప్రదాతలలో ఎంపిక నిలుపుకోవాలని కాదనటం ప్రతిబింబిస్తుంది.
Anthropic దాని కొందరు ప్రతిద్వంద్వులకంటే సైనిక ఒప్పందానికు మరింత సంక్లిష్ట సంబంధం కలిగి ఉంది. సంస్థ అంగీకృత ఉపయోగ విధానం Claude ను ఆయుధ అభివృద్ధి, సమీక్ష చేయటానికి ఉపయోగించటానికి నిషేధిస్తుంది. అయితే సైనిక సందర్భంలో నిషేధిత మరియు అనుమతించిన ఉపయోగ సందర్భాల మధ్య సరిహద్దు ఎల్లప్పుడూ స్పష్టం కాదు — నిబంధన విశ్లేషణ, సరఘాటు ఆప్టిమైజేషన్, మరియు నిర్ణయ సపోర్టు ముఖం-తటస్థ అనువర్తనాలు ఇవి ఆచారణలో సైనిక కార్యకలాపాలకు దోహదం చేయగలవు ఉరితీత కార్యకలాపాలు సహా.
OpenAI యొక్క రోబిటిక్ల నిర్దేశకుడు Caitlin Kalinowski ఆ సంస్థ Pentagon ఒప్పందం నుండి రాజీనామా చేసిన — ఉరిజీవులు స్వయంచాలక తీరువ మరియు సరిపడని చర్చ గురించి ఆందోళన సూచించాడు — సరిహద్దు AI సంస్థలు సైనిక కస్టమర్లకు నిమగ్నమయ్యేటపుడు ఎదుర్కొనే నైతిక ఉద్రిక్తలను తీసుకుంటుంది. Anthropic Claude DoD కస్టమర్లకు లభ్యమైన నిర్దిష్ట నిబంధనలు లేదా దాని సైనిక ఉపయోగాన్ని నియంత్రించే పర్యవేక్షణ విధానాలను బహిరంగంగా ఆవిష్కరించలేదు.
సైనిక లక్ష్యీకరణకు AI: ప్రధాన సమస్య
సైనిక సందర్భాలలో AI యొక్క సున్నితమైన అనువర్తనం లక్ష్యీకరణ — గుర్తించటానికి, ప్రాధాన్యం ఇవ్వటానికి, మరియు కొన్నిసార్లు శత్రువు లక్ష్యాలను నిమగ్నం చేయటానికి సహాయం చేయటానికి స్వయంచాలక సిస్టమ్లను ఉపయోగించటం. US సైనిక సిద్ధాంతం ఉరిశక్తి నిర్ణయాల కోసం మానవ ఆమోదం అవసరం, అయితే సెన్సర్ డేటాను ప్రక్రియ చేయటం, సంభావ్య లక్ష్యాలను గుర్తించటం, మరియు మానవ నిర్ణయ చేసేవారికి సిఫారసులను సమర్పించటం AI యొక్క పాత్ర ఇటీవల నాటకీయంగా విస్తరణ చేసుకుంది.
Project Maven, Pentagon యొక్క AI-ఆధారిత చిత్ర విశ్లేషణ కార్యక్రమం, డ్రోన్ పర్యవేక్షణ ఫుటేజ్ను మానవ సమీక్ష కోసం ఆసక్తి లక్ష్యాలను గుర్తించటానికి ప్రక్రియ చేస్తుంది. AI చివరి ఉరిశక్తి నిర్ణయం చేయదు — మానవం చేస్తుంది — అయితే ఇది సమాచారం ఎక్కువ మానవకు చేరుకుంది ఎలా సంరచించారో, ఇది సిద్ధాంతం నిర్ధారించిన మానవ పర్యవేక్షణ యొక్క ప్రాముఖ్య లక్షణం గురించి ప్రశ్నలను ఎక్కువ చేస్తుంది.
ప్రామాణీకరణ ప్రయత్నం పర్యవేక్షణ ఆందోళనల ప్రతిస్పందన: విభిన్న AI సిస్టమ్లు సమాన ఇన్పుట్లకు విభిన్న ఫలితాలను ఇస్తే, లేదా ఎవరూ AI సిస్టమ్లు ఏ నిర్ణయాలకు దోహదం చేస్తాయనే సంపూర్ణ లెక్కకు నిలుపుకోకపోతే, AI-సహాయక లక్ష్యీకరణ యొక్క ప్రాముఖ్య మానవ పర్యవేక్షణ చాలా కష్టమవుతుంది. ప్రామాణీకరణ నిరీక్ష్యతను సృష్టిస్తుంది — ఏ నమూనా, ఏ సంస్కరణ, ఏ సురక్షత సెట్టింగ్ల కింద ఎటువంటి నిర్ణయ చేయుటకు సంబంధితమైనది తెలిసేందుకు సామర్థ్యం.
నైతిక సంరచన ప్రశ్న
AI నైతికత సమాజంలో విమర్శకులు ప్రామాణీకరణ పర్యవేక్షణ సమస్యకు సంధానం చేస్తుందని వాదించారు కానీ మరింత సంపూర్ణ నైతిక ప్రశ్నకు సంధానం చేయలేదు: AI లక్ష్యీకరణ నిర్ణయాలలో ఉపయోగించాలా, మరియు అలా చేస్తే ఏ సీమలు కింద. సమస్త సైనిక AI ప్రదాతలను ఒకే నిబంధనపై ఉంచటం ఏ నిబంధనకు నిర్ణయం — ఏ విలువలు, ఏ సురక్షత విధానాలు, ఏ నిషేధిత ఉపయోగాలు ప్రామాణికకు సాయం చేసారు. ఈ నిర్వచన ప్రక్రియ ఎక్కువ సామాజిక దృష్టిలో సంభవిస్తుంది.
సరిగా చేయటానికి సంఖ్యలు ఎక్కువ. AI సిస్టమ్లు లక్ష్యీకరణ నిర్ణయాలకు పక్ష చేర్చటం, బెదర్లు సృష్టించటం, లేదా ప్రతిపక్ష ఇన్పుట్ల ద్వారా తారవ్యం చేయుటకు సంబంధితమైన వాటిని యుద్ధ సందర్భాలలో విపత్తు లోపాలకు దోహదం చేయగలవు. Pentagon ప్రామాణీకరణ చేత ఈ ప్రమాదం ఒక ఆమోదం — కానీ ప్రతిస్పందన సరిపోవటం చివరకు ఎలా సిస్టమ్లు పూర్వ-చింతన నిర్ణయ సందర్భాల కింద పనిచేస్తాయిఆధారిత నిర్ణయానికి సంబంధితమైనది.
ఈ నిబంధనలు MIT Technology Review ద్వారా నివేదన ఆధారపడిఉన్నాయి. అసలు నిబంధనలను చదువు.
Originally published on technologyreview.com
