పెంటగాన్ యొక్క ఏఐ దూకుడు కొత్త దశలోకి ప్రవేశించింది
వర్గీకరించిన సైనిక కంప్యూటర్ నెట్వర్క్లలో కృత్రిమ మేధస్సును తీసుకురావడానికి ఏడు టెక్నాలజీ సంస్థలతో ఒప్పందాలు కుదిరాయని అమెరికా రక్షణ శాఖ చెబుతోంది; ఇది కార్యాచరణాత్మక నిర్ణయాల్లోకి ఏఐ ఎంత వేగంగా చేరుతోందో సూచిస్తుంది. ఇచ్చిన నివేదికలో పేర్కొన్న సంస్థలు Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection, మరియు SpaceX.
సంక్లిష్ట కార్యాచరణాత్మక వాతావరణాల్లో యోధుల నిర్ణయాల్ని మెరుగుపరచడమే లక్ష్యమని పెంటగాన్ చెబుతోంది. ఆ మాటలు విస్తృతంగా ఉన్నప్పటికీ, దాని ప్రభావాలు స్పష్టమైనవే. ఏఐ ఇక ప్రయోగాత్మక back-office సాధనంగానే చూడబడడం లేదు. ఇది మిషన్ అమలుకు మరింత దగ్గరగా స్థానం పొందుతోంది; అక్కడ వేగం, విశ్లేషణ, లాజిస్టిక్స్, మరియు లక్ష్య-సంబంధిత వర్క్ఫ్లోలు అన్నీ అత్యంత కీలకమైనవి.
ఈ ఒప్పందాలు ఏమి సూచిస్తున్నాయి
రక్షణ శాఖ సంవత్సరాలుగా ఏఐ దత్తతను వేగవంతం చేస్తోంది, ఈ ఒప్పందాలు ఆ ధోరణిని మరింత బలపరుస్తున్నాయి. ఇచ్చిన మూలం ప్రకారం, ఏఐ లక్ష్యాలను గుర్తించి వాటిపై దాడి చేయడానికి అవసరమైన సమయాన్ని తగ్గించడంలో సహాయపడగలదు, అలాగే నిర్వహణ, సరఫరా గొలుసులను సమీకరించడంలో కూడా ఉపయోగపడుతుంది. ఈ మిశ్రమమే రక్షణ సంస్థలకు ఇందులో ఆసక్తి ఎందుకు ఉందో చెబుతోంది: సైనిక ఆధిక్యం చాలాసార్లు శత్రువుకంటే వేగంగా సమాచారాన్ని నిర్వహించడం మరియు పెద్ద సాంకేతిక వ్యవస్థలను ఒత్తిడిలో పని చేయించడంపై ఆధారపడి ఉంటుంది.
వాణిజ్య ఏఐ సంస్థలను వర్గీకరించిన వాతావరణాల్లోకి తీసుకురావడం ఒక ప్రాథమిక వాస్తవాన్ని కూడా ప్రతిబింబిస్తుంది. అత్యాధునిక ఏఐ సామర్థ్యాల్లో చాలా భాగం ప్రైవేట్ రంగంలో అభివృద్ధి చెందుతోంది. అన్ని సంబంధిత సాధనాలను లోపలే నిర్మించడానికి బదులు, పెంటగాన్ ప్రముఖ model తయారీదారులు, cloud providers, semiconductor సంస్థలు, మరియు systems operatorsలను తన procurement పరిధిలోకి తెస్తోంది.
నైతిక ప్రశ్నలు ఇంకా ముగియలేదు
అదే సమయంలో, విధాన వాతావరణం ఇంకా స్పష్టత లేనిదే అని నివేదిక చెబుతోంది. ఏఐ అమెరికన్ల గోప్యతలోకి చొరబడవచ్చని లేదా యుద్ధరంగంలో యంత్రాలకు లక్ష్యాలను ఎంచుకునే అవకాశం ఇవ్వవచ్చని విమర్శకులు ఆందోళన చెందుతున్నారు. కొత్త ఒప్పందాల్లో ఉన్న ఒక సంస్థ, కొన్ని సందర్భాల్లో మానవ పర్యవేక్షణ అవసరమని తెలిపింది; ఇది ముఖ్యమైన విషయం, ఎందుకంటే స్వయంచాలకత ఎక్కడ ఆగాలో కాంట్రాక్టర్ల మధ్య కూడా ఏకాభిప్రాయం లేదని ఇది సూచిస్తోంది.
ఈ ఆందోళనలు సిద్ధాంతపరమైనవి కావు. ఇతర సంఘర్షణల్లో ఏఐ-సक्षम సైనిక చర్యలు, అసంపూర్ణ సమాచారంతో నాజూకైన, వేగంగా మారే పరిస్థితుల్లో ఈ వ్యవస్థలు ఉపయోగించబడితే పౌరులకు హాని కలగవచ్చన్న భయాన్ని పెంచాయని మూలం చెబుతోంది. అందుకే మానవ నిర్ణయం, ఆపరేటర్ శిక్షణ, మరియు వ్యవస్థ నమ్మకత్వంపై చర్చ కీలకంగానే ఉంది.
వేగం వర్సెస్ నియంత్రణ
మూలంలో ఉటంకించిన Georgetown University యొక్క Center for Security and Emerging Technologyకి చెందిన Helen Toner ఈ కేంద్ర ఉద్రిక్తతను బాగా వివరిస్తున్నారు: ఆధునిక యుద్ధంలో కమాండ్ సెంటర్లలో ఉన్నవారు గందరగోళంగా, వేగంగా మారుతున్న పరిస్థితుల్లో క్లిష్ట నిర్ణయాలు తీసుకోవాలి. ఏఐ సమాచారాన్ని సంక్షిప్తంగా చెప్పడం లేదా surveillance feeds విశ్లేషించడంలో సహాయపడగలదు, కానీ ఉపయోగకరత overtrust ప్రమాదాన్ని తొలగించదు.
దీంతో పెంటగాన్కు ఒక కఠినమైన అమలు సమస్య ఏర్పడుతుంది. ఏఐని వ్యూహాత్మక ప్రయోజనంగా చూస్తూ సైన్యం వేగవంతమైన deployment కోరుతోంది. కానీ త్వరిత rollout, ఆపరేటర్ల శిక్షణ, doctrine ఏర్పాటు, మరియు వ్యవస్థలు తప్పుగా, అనిశ్చితంగా, లేదా ఉద్దేశించిన పరిధికి బయట ఉపయోగించబడినప్పుడు వాటికి రక్షణలు ఏర్పాటు చేసే నెమ్మదైన పనితో ఢీకొనవచ్చు.
ప్రాయోగికంగా కఠినమైన ప్రశ్న ఏఐ వాడబడుతుందా కాదా అనేది కాదు. అది ఇప్పటికే వాడబడుతోంది. ప్రశ్న ఏమిటంటే, మనుషులకు ఎంత స్వేచ్ఛ ఉంటుంది, outputs ఎలా ధృవీకరించబడతాయి, మరియు తప్పులు తిరిగి సరిచేయలేని వాతావరణాల్లో model-generated సూచనలను commanders ఎలా పరిగణించాలి.
Anthropic లేకపోవడం ప్రత్యేకంగా కనిపిస్తోంది
కాంట్రాక్టర్ల జాబితా ఏఐ పరిశ్రమలోని రాజకీయ, నైతిక చీలికలను కూడా బయటపెడుతోంది. Anthropic ప్రత్యేకంగా కనిపించదు. ఇచ్చిన నివేదిక ప్రకారం, ట్రంప్ పరిపాలనతో కంపెనీ వివాదం సైనిక వినియోగంపై ఉన్న భద్రతా, నైతిక ఆందోళనల చుట్టూ కేంద్రీకృతమైంది. పూర్తిగా స్వయంచాలక ఆయుధాల్లో లేదా అమెరికన్లపై నిఘా కోసం తన సాంకేతికత ఉపయోగించబడదని సంస్థ హామీ కోరింది, అయితే Defense Secretary Pete Hegseth, సైన్యం ఏ చట్టబద్ధ ప్రయోజనానికైనా వ్యవస్థలను ఉపయోగించే ఎంపికను నిలుపుకోవాలని పట్టుబట్టారు.
ఈ విభేదం ముఖ్యమైనది, ఎందుకంటే విస్తృత రక్షణ ఒప్పందాల్లోకి వెళ్లేందుకు సిద్ధంగా ఉన్న కంపెనీలు మరియు మరింత కఠినమైన షరతులు పెట్టాలని చూస్తున్న కంపెనీల మధ్య ఉన్న లోతైన చీలికను ఇది చూపిస్తోంది. ఏఐ వ్యవస్థలు మరింత శక్తివంతమవుతున్న కొద్దీ, ఆ ఒప్పంద సరిహద్దులు అందుబాటులో ఉన్న అతి ముఖ్యమైన పాలనా సాధనాల్లో ఒకటిగా మారవచ్చు.
- వర్గీకరించిన పెంటగాన్ నెట్వర్క్ల కోసం ఏడు కంపెనీలు ఏఐ సామర్థ్యాలను అందించనున్నాయి.
- సంక్లిష్ట కార్యాచరణాత్మక పరిస్థితుల్లో నిర్ణయాలకు మద్దతుగా ఈ సాధనాలు ఉంటాయని అధికారులు చెబుతున్నారు.
- స్వయంప్రతిపత్తి, గోప్యత, పౌర హాని, మరియు ఆపరేటర్ అధిక విశ్వాసం గురించి ఆందోళనలు కొనసాగుతున్నాయి.
- Anthropic లేకపోవడం సైనిక భద్రతా పరిమితులపై పరిష్కారం కాని పరిశ్రమ వివాదాలను చూపుతోంది.
అన్వయించిన ఏఐకి ఒక కీలక పరీక్ష
ఈ ఒప్పందాలు ముఖ్యమైనవి, ఎందుకంటే అవి ఏఐని వినియోగదారు అనువర్తనాలు మరియు ఉత్పాదకత సాఫ్ట్వేర్లను దాటి, ఏ సాంకేతికతైనా చేరగల అత్యంత కీలక రంగాల్లోకి తీసుకెళ్తున్నాయి. సైనిక సంస్థలు వేగం, పరిమాణం, మరియు సమాచార ఆధిక్యాన్ని విలువచేస్తాయి. ఏఐ ఈ మూడింటినీ హామీ ఇస్తుంది. కానీ ఇది అపారదర్శకత, brittle-నెస్, మరియు తప్పుగా ఉన్నప్పటికీ నమ్మకంగా కనిపించే వ్యవస్థలపై ఆధారపడే ప్రలోభాన్ని కూడా తెస్తుంది.
అందువల్ల పెంటగాన్ తాజా ఒప్పందాలు కేవలం కొనుగోలు వార్తలు కాదు. విఫలమయ్యే ధర సామర్థ్య లోటుతో కాదు, ప్రాణాలు, బాధ్యత, మరియు వ్యూహాత్మక స్థిరత్వంతో కొలవబడే సమయంలో, ఆధునిక ఏఐని ఎలా పాలించబోతున్నామనే అంశంపై ఇవి ఒక ప్రాథమిక పరీక్ష.
ఈ వ్యాసం Fast Company నివేదికపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.