వాల్టులను తెరవడం
US రక్షణ శాఖ కృత్రిమ బుద్ధిమత్త కంపెనీలకు వర్గీకృత సైనిక డేటాపై వారి మాడెల్లకు శిక్షణ ఇవ్వడానికి అనుమతిని ఇవ్వాలని ప్లాన్ చేస్తోంది, MIT Technology Review ఆధారంగా ఉదహరించిన రక్షణ అధికారి ప్రకారం. ఈ చిత్రం, వాస్తవానికి చేసితే, సున్నితమైన ప్రభుత్వ సమాచారానికి AI ప్రాప్యతను గురించిన అత్యంత ముఖ్యమైన విస్తరణ అవుతుంది — మరియు వాణిజ్య AI సిస్టమ్లు మరియు వాటిని నిర్మించిన కంపెనీలకు వర్గీకృత డేటా బహిర్గతం చేసే ప్రమాదం నుండి ఆధిక్య పొందేందుకు ఒక సచేతన పందెం అవుతుంది.
ఆ అధికారి అభివృద్ధి చేసిన ఫ్రేమ్వర్క్ను వివరించాడు, ఇది ధృవీకరించిన AI కంపెనీలకు సురక్షిత కంప్యూటింగ పరిసరాలలో వర్గీకృత డేటాసెట్లను ప్రవేశించటానికి అనుమతిస్తుంది, నిర్దిష్ట రక్షణ అనువర్తనాల కోసం మాడెల్లను శిక్షణ ఇవ్వడానికి మరియు సూక్ష్మమైన చేయడానికి ఆ డేటాను ఉపయోగిస్తుంది. వర్గీకృత డేటా ప్రభుత్వ-నియంత్రిత మౌలిక సదుపాయాల్లో ఉండిపోతుంది — AI కంపెనీలు డేటాను స్థలానికి బయట తీసుకోవు — కానీ వారి సిబ్బంది మరియు వారి మాడెల్ శిక్షణ పైపులైన్లు సాధారణంగా తగిన నిరాపత్య అనుమతి ఉన్న సిబ్బందికి పరిమితమైన సమాచారానికి ప్రవేశం ఇవ్వబడతాయి.
పెంటాగన్ ఇది ఎందుకు కోరుకుంటుంది
సైనిక తర్కం సరళమైనది: రక్షణ అనువర్తనాల కోసం అత్యంత విలువైన AI అనువర్తనాలకు సెనా మాత్రమే కలిగి ఉన్న డేటాకు ప్రవేశం అవసరం. AI మాడెల్ను ఉపగ్రహ చిత్రాలలో నిర్దిష్ట సైనిక హార్డ్వేర్ను గుర్తించటానికి, సంకేత గుప్తచరను విశ్లేషించటానికి, వర్గీకృత వనరుల నుండి గుప్తచర సమ్మిళితం చేయటానికి, లేదా వర్గీకృత కార్యకలాపాల కోసం సరఫరా చేయుటను ఆప్టిమైజ్ చేయటానికి శిక్షణ డేటా అవసరం, ఆ నిర్దిష్ట డొమైన్లను ప్రతిబింబిస్తుంది — మరియు ఆ డేటా, నిర్వచనం ప్రకారం, వర్గీకృతం.
సరిగా అందుబాటులో ఉన్న డేటాపై శిక్షణ పొందిన వాణిజ్య AI మాడెల్లు చాలా రక్షణ అనువర్తనాలకు ఉపయోగకరంగా ఉన్నాయి కానీ ఆ డొమైన్లలో ముఖ్యంగా పరిమితమైనవి ఇక్కడ వర్గీకరణ చాలా ముఖ్యమైన సామర్థ్య అంతరాలను సృష్టిస్తుంది. ఓపెన్-సోర్స్ ఉపగ్రహ చిత్రాలపై శిక్షణ పొందిన ఒక మాడెల్ వర్గీకృత ఓవర్హెడ్ గుప్తచరపై శిక్షణ పొందిన మాడెల్ పనితీరు ఎప్పటికీ సరిపోలవు. వర్గీకృత శిక్షణ డేటానికి పెంటాగన్ యొక్క ఆసక్తి ఒక ఈ నిర్ధారణను ప్రతిబింబిస్తుంది — ప్రభుత్వం మాత్రమే నియంత్రించే డేటాకు ప్రవేశం లేకుండా వాణిజ్య AI అభివృద్ధి ఆ అంతరాలను మూసివేయలేదు.
ప్రమాదాలు
ఈ విధానంతో సంబంధం ఉన్న ప్రమాదాలు గణనీయమైనవి మరియు అనేక వర్గాలలో విస్తరించినవి. చాలా స్పష్టమైనది అంతర్గత ఖతరం మరియు డేటా బహిర్గతం: AI కంపెనీ సిబ్బందికి మరియు సిస్టమ్లకు వర్గీకృత డేటాకు ప్రవేశం ఇవ్వడం సంభావ్య రిసివికి ఉపరితల ప్రాంతాన్ని విస్తరిస్తుంది, అది ఉದ్దేశపూర్వక దొంగతనం, ఆకస్మిక బహిర్గతం, లేదా AI కంపెనీ ఆధారమైన ప్రతిఘటన సమర్థకం అయితే సరే.
రెండవ ప్రమాదం మాడెల్ విలోమం మరియు సభ్యత అనుమానం దాడులు — శిల్పాలు ఎందుకంటే ఒక ప్రতిచక్ష వారికి శిక్షణ పొందిన మాడెల్కు ప్రవేశం ఉంది, ఆ డేటా గురించి సమాచారాన్ని సేకరించవచ్చు, ఇది దానిని శిక్షణ ఇవ్వటానికి ఉపయోగించినది. వర్గీకృత డేటా AI మాడెల్కు శిక్షణ ఇవ్వటానికి ఉపయోగించినట్లయితే, మరియు ఆ మాడెల్ లేదా దాని ఆউట్పుట్లను తరువాత ప్రతిచక్ష్ల సంపర్క చేయగల సందర్భాలలో వాపస్ చేసిన్న, ఆ సందర్భంలో మాడెల్ నేర్చిన ప్రాతినిధ్యాలు నుండి సున్నితమైన సమాచారాన్ని పునరుద్ధరించటానికి ఒక సంభావ్య మార్గ ఉంది.
మూడవది, AI కంపెనీల స్వయంచే నిరాపత్య స్థితి గురించి గణనీయమైన ప్రశ్నలు ఉన్నాయి. చాలా అతిపెద్ద AI డెవలపర్లకూ నిరాపత్య ఇన్సిడెంట్లు ఉండిరి, మరియు వారి అభివృద్ధి పరిసరాలు వర్గీకృత జాతీయ నిరాపత్య సమాచారం చేపట్టటానికి అవసరమైన ప్రమాణాలకు నిర్మితమైనవి కాదు. ఆ అంతరాన్ని కుళ్ళించడం ఖర్చు మరియు సంక్లిష్టతను జోడిస్తుంది, ఇది చిత్రం వేగవంతం చేయటానికి ఖచ్చితంగా రూపొందించిన సామర్థ్య అభివృద్ధిని మందగించవచ్చు.
పోటీ బాధ్యత
ఈ ఘటన నిజమైన అత్యవసర సందర్భాలకు వస్తుంది. చైనా సైనిక AI కార్యక్రమం వేగంగా ముందుకు సాగుతోంది, మరియు చైనా ప్రభుత్వ-మద్దతు చేసిన AI అభివృద్ధి చైనా సేనా డేటాకు ప్రవేశం చేయగలదు, చట్టపరమైన మరియు సంస్థాగత అవరోధాలు లేకుండా, ఇవి వాణిజ్య కంపెనీలను US వర్గీకృత సిస్టమ్ నుండి వేరుచేస్తుంది. పెంటాగన్ వాణిజ్య AI సామర్థ్యం మరియు వర్గీకృత-డేటా-శిక్షణ AI సామర్థ్యం మధ్య అంతరాన్ని సామరిక బలహీనతగా చూస్తుంది — ఇది మరింత అనుమతించదగిన డేటా-షేరింగ ఫ్రేమ్వర్క్ సంబోధించటానికి లక్ష్యం.
ఇన్సిటేటివ్ వాస్తవానికం కంటే అభివృద్ధిలో ఉంది, మరియు దాని తుది రూపం చట్టపరమైన సమీక్షలు, వర్గీకరణ అధికారం నిర్ణయాలు, మరియు భాగస్వామ్య కంపెనీలతో నిరాపత్య ఒప్పందాల చర్చపై ఆధారపడుతుంది. కానీ ప్రయాణ దిశ స్పష్టమైనది: పెంటాగన్ ఒక నమూనా వైపు వెళ్లిపోతోంది, ఇందులో వర్గీకృత సైనిక డేటా మరియు వాణిజ్య AI అభివృద్ధి మధ్య సరిహద్దు సామరిక ప్రతిద్వందువుల పై AI శ్రేష్ఠత నిర్వహించటకు సేవ కోసం మరింత పారగమ్యమవుతుంది.
ఈ వ్యాసం MIT Technology Review సమాచారం ఆధారంగా. అసలు వ్యాసం చదవండి.
Originally published on technologyreview.com
