పెంటాగన్ నిరసనీయ సైనిక డేటాపై AI శిక్షణ ఇవ్వడానికి ప్రణాళికలు రూపొందిస్తోంది

AI మోడల్‌ల కోసం నిరసనీయ శిక్షణ వాతావరణం

పెంటాగన్ సురక్షితమైన, నిరసనీయ వాతావరణాలను స్థాపించే ప్రణాళికలను రూపొందిస్తోంది, ఇక్కడ జనరేటివ్ AI కంపెనీలు — Anthropic మరియు సంభవ్యమైన ఇతర ఫ్రంటియర్ AI ల్యాబ్‌లతో సహా — నిరసనీయ సైనిక డేటాపై తమ మోడల్‌ల కస్టమ్ సంస్కరణలను శిక్షణ ఇవ్వగలవు, MIT Technology Review నేర్చుకుంది. ఈ సంచిత జాతీయ భద్రతా కార్యకలాపాలలో వాణిజ్య AI ని సమన్వయం చేయడంలో ప్రధాన వర్ధనను సూచిస్తుంది, ప్రస్తుత ఏర్పాటు నుండి ముందుకు సాగుతుంది, ఇక్కడ AI మోడల్‌లు నిరసనీయ సంబంధాల గురించిన ప్రశ్నలకు సమాధానమిస్తాయి, నిరసనీయ సంబంధాలు మోడల్‌లను స్వయంగా రూపొందించే వాటికి.

ప్రస్తుతం, Claude వంటి AI మోడల్‌లు నిరసనీయ సెట్టింగ్‌లలో ఉపయోగించబడుతున్నాయి, ఇందులో ఇంటెలిజెన్స్ విశ్లేషణ మరియు, బహుళ నివేదనల ప్రకారం, విద్యమాన కార్యకలాపాలలో లక్ష్య ఎంపిక సహాయం చేయడం ఉంటుంది. కానీ ఈ నియోగాలలో, AI వ్యవస్థలు నిరసనీయ ఇన్‌పుట్‌లపై పనిచేసే ప్రామాణిక వాణిజ్య మోడల్‌లు — అవి నిరసనీయ డేటాపై శిక్షణ పొందనవు లేదా శిక్షణ ఇవ్వబడనవు. భేదం భద్రతా దృష్టికోణం నుండి అపారమైనది.

నిరసనీయ డేటాపై శిక్షణ యొక్క అర్థం ఏమిటి

నిరసనీయ డేటాపై మోడల్‌కు శిక్షణ ఇవ్వడం ఆ సమాచారాన్ని మోడల్ యొక్క బరువులలో — గణిత పారామితులలో ఆరోపించేది, అది మోడల్ తెలుసుకున్నదానిని మరియు ఎలా కారణం చేస్తుంది. నిరసనీయ సమాచారాన్ని కేవలం నిర్దిష్ట ప్రశ్నకు సందర్భం వలె ప్రక్రియ చేసే మోడల్‌కు భిన్నంగా, నిరసనీయ డేటాపై శిక్షణ పొందిన మోడల్ బుద్ధిమత్త నమూనాలను, విశ్లేషణాత్మక ఫ్రేమ్‌వర్క్‌లను, మరియు సంభవ్యమైన నిర్దిష్ట సున్నితమైన సమాచారాన్ని దాని ప్రాథమిక నిర్మాణంలో చేర్చుకుంటుంది.

భద్రతా చిక్కులు కూడా గణనీయమైనవి. నిరసనీయ సమాచారం మోడల్ బరువులలో ఆరోపించబడిన తర్వాత, దానిని తొలగించడం చాలా కష్టం. నిరసనీయ నిబంధనలను నిర్వహించడానికి ప్రామాణిక విధానాలు — యాక్సెస్ నియంత్రణలు, సమీక్ష జాబితాలు, అవసరమైన నిర్దిష్ట నిర్దేశనలు — యంత్రం శిక్షణ మోడల్ పారామితులపై స్పష్టంగా నిర్దేశించవు. నిరసనీయ డేటాపై శిక్షణ పొందిన మోడల్ ఒక కొత్త రకమైన భద్రతా కళాఖండం, ఇది ప్రస్తుత చట్రాలను నియంత్రించడానికి రూపొందించబడలేదు.

రక్షణ అధికారులు ఈ ప్రమాదాలను గుర్తిస్తారు కానీ సైనిక-నిర్దిష్ట AI మోడల్‌ల సామర్థ్య ప్రయోజనాలు — డొమైన్-నిర్దిష్ట పరిభాష, కార్యకలాపం సంరక్షణ నిర్దేశనలు, మరియు నిరసనీయ విశ్లేషణాత్మక ఫ్రేమ్‌వర్క్‌లను అర్థం చేసుకోవడానికి శిక్షణ — తగిన భద్రతా నిర్మాణాలను అభివృద్ధి చేయడంలో పెట్టుబడిని సమర్థిస్తాయని వాదించారు.

Anthropic యొక్క సంక్లిష్ట స్థితి

Anthropic యొక్క రక్షణ విభాగం సంబంధం ఐతే సమస్యాత్మకమైనది. సంస్థ తన AI యొక్క సైనిక అనువర్తనాల చుట్టూ కఠినమైన విధానాలకు బహిరంగంగా ప్రతిబద్ధమైనది, మరియు నివేదన సూచిస్తుంది US అధికారులు Anthropic కోసం పూర్తిగా యుద్ధం వ్యవస్థలను విశ్వసించబడుతుందా అని ప్రశ్న చేశారు. నిరసనీయ శిక్షణ కార్యక్రమం Anthropic — మరియు సంభవ్యమైన ఇతర పాల్గొన్న AI కంపెనీలను — అభూతపూర్వ స్థితిలో ఉంచుతుంది: కార్పొరేట్ ఉద్యోగులు భద్రతా ఖుళ్ళతో నిరసనీయ వాతావరణాలలో నిరసనీయ మోడల్‌ల శిక్షణ చేయడానికి, బుద్ధిమత్త గురించిన సమాచారం, వారు తమ సంస్థలలో కూడా చర్చించడానికి అనుమతించబడకపోవచ్చు.

OpenAI యొక్క ప్రయోజనం మరియు పోటీ ఆకృతిని

OpenAI పెంటాగన్ అవసరాలకు సరిపోవడానికి పోటీదారుల కంటే వేగంగా ముందుకు సాగినట్లు కనిపిస్తుంది. సంస్థ యొక్క రక్షణ విభాగం సమ్మతి — ఇది సైనిక ఉపయోగానికి గతంలో వర్తించిన కొన్ని పరిమితులను సడలించడం — నిరసనీయ ఒప్పందాల కోసం ప్రాధాన్యత స్థితిని నివేదిస్తుంది. $50 బిలియన్ Amazon-OpenAI ఒప్పందం, ఇది స్కేల్‌డ్ సైనిక AI నిక్షేపణల కోసం గణన సంక్షేమ సమర్థనను అందిస్తుంది, జాతీయ భద్రతా అనువర్తనాల కోసం ప్రాథమిక వాణిజ్య AI విక్రేత OpenAI యొక్క స్థితిని మరింత ఘనం చేస్తుంది.

పెంటాగన్ నిరసనీయ శిక్షణ సంచిత, సిద్ధంగా ఉన్న విధంగా, వాణిజ్య AI కంపెనీలు మరియు US రక్షణ సంస్థ మధ్య సంబంధం యొక్క తరువాత దశను నిర్ణయిస్తుంది — AI భద్రతా పరిశోధన, AI ల్యాబ్‌ల మధ్య పోటీ డైనమిక్‌లు, మరియు అంతర్జాతీయ AI పాలన ఫ్రేమ్‌వర్క్‌లకు చిక్కులు ఉన్నాయి. ఇది వాణిజ్య AI నిర్మాణాలలో రాష్ట్ర రహస్యాలను ఎంబెడ్ చేయడం గురించిన ప్రశ్నలను లేవనెత్తుతుంది, రక్షణ రంగం లేదా సాంకేతిక పరిశ్రమ యొక్క చరిత్రలో స్పష్ట పూర్వవర్తనలు లేవు.

ఈ వ్యాసం MIT Technology Review నిర్ణయించిన ప్రకారం ఆధారపడుతుంది. అసలు వ్యాసం చదవండి.