పాఠశాలపై దాడి తర్వాత US లక్ష్య నిర్ధారణ వ్యవస్థలు పరిశీలనలో

AI యుగంలో సైనిక ప్రక్రియ, పాత మౌలిక వసతులతో

ఇరాన్‌లోని ఒక పాఠశాలపై జరిగిన క్షిపణి దాడిపై వచ్చిన నివేదిక, యుద్ధ ప్రణాళికలో కృత్రిమ మేధస్సు పెద్ద పాత్ర పోషిస్తున్న నేపథ్యంలో US సైన్యపు లక్ష్య నిర్ధారణ వ్యవస్థలు సురక్షితంగా అభివృద్ధి చెందుతున్నాయా అనే ప్రశ్నలను మరింత తీవ్రతరం చేస్తోంది. అందించిన మూల పాఠ్య ప్రకారం, ఆ స్థలం ప్రాథమిక పాఠశాల అని గుర్తించిన కీలక నోట్, సంబంధిత ఇంటెలిజెన్స్ టూల్ అధికారిక లక్ష్య డేటాబేస్‌కు అనుసంధానించబడలేకపోవడంతో కమాండర్ల వరకు చేరలేదని పరిశోధకులు గుర్తించారు.

మూలంలో ఈ కేసును సాధారణ సాఫ్ట్‌వేర్ బగ్‌గా చూపలేదు. ఇది అనేక పొరలలో జరిగిన విఫలతగా వివరించబడింది: పాత చిత్రాలు, వేరు వేరు ఇంటెలిజెన్స్ వ్యవస్థలు, మానవీయ డేటా నిర్వహణ, మరియు ఇంకా అసంపూర్ణ రికార్డులపై ఆధారపడే నిర్ణయ శృంఖలలో AI సాధనాల వేగవంతమైన ఆపరేషనల్ వినియోగం. దాంతో ఏర్పడిన ఉద్రిక్తతను పట్టించుకోకుండా ఉండలేం. AI వేగంగా లక్ష్యాలను సూచించగలదు, కానీ విరిగిన మూల డేటా లేదా పరస్పరం కనెక్ట్ కాని డేటాబేస్‌లను అది సరిచేయలదు.

కేసు మధ్యలో తప్పిన నోట్

అందించిన పదార్థంలో సంగ్రహించిన వివరణ ప్రకారం, దక్షిణ-తూర్పు ఇరాన్‌లోని మినాబ్ నగరంలో ఉన్న ఆ స్థలాన్ని US ముందుగా ఇరానియన్ సైనిక నావికా సదుపాయంగా వర్గీకరించింది. అయితే 2019లో, ఒక విశ్లేషకుడు ఆ భవనం ప్రాథమిక పాఠశాలగా మారినట్లు చూపించే మార్పులను గుర్తించాడని నివేదించబడింది. ఆ వ్యాఖ్య ఒక డిజిటల్ ఇంటెలిజెన్స్ టూల్‌లో నమోదు చేయబడింది, కానీ దాడి లక్ష్యాలను అభివృద్ధి చేయడానికి ఉపయోగించే అధికారిక లక్ష్య డేటాబేస్‌కు ఆ టూల్ అనుసంధానించబడలేదు.

దీని ఫలితంగా, నవీకరించిన సమాచారం కమాండర్లు ఆధారపడిన వ్యవస్థలోకి ఎప్పుడూ చేరలేదు. మూల పాఠ్యం ప్రకారం, ఆ భవనాన్ని అనేకసార్లు సమీక్షించారు, కానీ డేటాబేస్‌ను సవరించలేదు. అదే పదార్థం సమీక్షలో ఉపయోగించిన చిత్రాలు ఏడు సంవత్సరాల పాతవని కూడా చెబుతోంది. ఇవన్నీ కలిపి చూస్తే, మౌలిక డేటా-పాలన విఫలం స్పష్టమవుతుంది: సమాచారం ఉంది, కానీ అది అత్యంత కీలకమైన వ్యవస్థలోకి వెళ్లేలా ప్రక్రియ నిర్ధారించలేదు.

దీని పరిణామాలు విషాదకరం. ఆ దాడిలో సుమారు 120 మంది పిల్లలు మరణించారని మూలం చెబుతోంది. US బలగాలే బాధ్యులు కావచ్చని పరిశోధకులు ఇప్పటికే భావించారు, తరువాత వచ్చిన నివేదికలు, అందించిన పాఠ్యంలో వివరించినట్టు, ఆ నిర్ధారణను నిర్దిష్ట సాంకేతిక మరియు విధానపరమైన విఫలతలతో అనుసంధానించాయి.

AI పాత్ర: హామీ లేని సందర్భంతో పరిమాణం

అదే సంఘర్షణలో US సైన్యం పెద్ద స్థాయిలో AI సహాయంతో లక్ష్య నిర్ధారణను ఉపయోగించిందని నివేదించబడినందున, ఈ కేసు అత్యంత సున్నితమైన సమయంలో వెలుగులోకి వచ్చింది. Anthropic యొక్క Claude మోడల్ Palantir యొక్క Maven Smart System లో భాగమై, మొదటి రోజున సుమారు 1,000 లక్ష్యాలను సూచించిందని మూల పాఠ్యం చెబుతోంది. ప్రచారం మొదటి రోజుల్లో 3,000 కంటే ఎక్కువ లక్ష్యాలపై దాడి జరిగినట్టు గత నివేదికను కూడా అది ఉటంకిస్తోంది.

ఈ సంఖ్యలు సాంకేతిక నైపుణ్యానికి కంటే కార్యాచరణ వేగానికి కొలమానం. ఆ స్థాయిలో, క్రింద ఉన్న డేటా వాతావరణంలో ఏ బలహీనతైనా మరింత ప్రమాదకరం అవుతుంది. AI త్రయేజ్, ర్యాంకింగ్, సిఫార్సును వేగవంతం చేయగలదు. కానీ system of record లో ఎప్పుడూ నవీకరించని రికార్డులను అది నమ్మదగిన రీతిలో సరిచేయలదు, లేదా పరస్పరం మాట్లాడని డేటాబేస్‌లలో దాగి ఉన్న వ్యతిరేకతలను పరిష్కరించలదు.

ఆ తేడా విధాన సమస్యను అర్థం చేసుకోవడానికి కీలకం. సైనిక AI పై ప్రజా చర్చలు సాధారణంగా ఒక మోడల్ ప్రాణాంతక లక్ష్యాలను సిఫార్సు చేయడానికి లేదా ప్రాధాన్యం ఇవ్వడానికి అనుమతించాలా అనే విషయంపై కేంద్రీకృతమవుతాయి. ఈ కేసు మరింత నిశ్శబ్దమైన కానీ అంతే ముఖ్యమైన సమస్యను చూపిస్తోంది: కఠినంగా పర్యవేక్షించబడే మోడల్ కూడా అసంపూర్ణ, పాత, లేదా నిర్మాణపరంగా విభజిత సమాచారంపై పనిచేస్తే చెడు ఫలితాలకు దోహదపడగలదు.

పాత వ్యవస్థల భారము

అందించిన మూల పాఠ్యం MIDB అనే కేంద్ర డేటాబేస్‌ను గుర్తిస్తోంది, ఇది 1980లలో నిర్మించబడింది మరియు ఇంకా ఎక్కువగా మానవీయ ఇన్‌పుట్‌పై ఆధారపడుతోంది. MIDB ను MARS అనే ఆటోమేటెడ్ వ్యవస్థతో మార్చాలని చెప్పబడింది, కానీ ఆ మార్పు కొన్ని సంవత్సరాల వెనుకబాటులో ఉంది. అదే పదార్థం ప్రకారం, Government Accountability Office 2020లోనే దీర్ఘకాలిక లోపాలను గుర్తించింది.

ఈ నిర్మాణం వల్ల సమస్య ఒక తప్పిన నోట్ కంటే ఎందుకు పెద్దదో అర్థమవుతుంది. ఒక సైనిక సంస్థ తన పనితీరులోని కొన్ని భాగాల్లో అధునాతన machine learning ను ప్రవేశపెట్టినా, ఇంకా వేరే యుగానికి రూపకల్పన చేసిన మౌలిక డేటా వెన్నెముకపై ఆధారపడవచ్చు. ఆ వాతావరణంలో, AI నిజమైన వ్యవస్థ పునర్నిర్మాణం కాకుండా సంస్థాగత విభజనపై ఉన్న ఒక పొరగా మారుతుంది.

సంచాలకులు ఈ ప్రక్రియను వాస్తవంలో ఉన్నదానికంటే ఆధునికంగా, సమగ్రంగా, మరియు విశ్వసనీయంగా భావించే ప్రమాదం ఉంది. ఉన్నత ప్రొఫైల్ కమాండ్ ప్లాట్‌ఫారమ్‌లో భాగమైన ఒక మోడల్, నిర్ణయాత్మక డేటా ఇంకా నాజూకైన, పాక్షిక మానవీయ పైప్‌లైన్‌ల ద్వారా ప్రవహిస్తున్నప్పటికీ, సాంకేతిక సమన్వయానికి ఒక భ్రమను సృష్టించగలదు.

మానవ సమీక్ష ఒక నినాదం కాదు

ప్రాణాంతక నిర్ణయాలపై మానవ సమీక్ష కోసం ఉన్న పర్యవేక్షణ వ్యవస్థలకు తగిన నిధులు లేవన్న ఆందోళనలను కూడా మూల పాఠ్యం పేర్కొంటోంది. AI విధాన చర్చల్లో “human in the loop” ను చాలాసార్లు సరిపడా రక్షణగా భావించడం వల్ల ఇది ముఖ్యం. వాస్తవానికి, సమీక్షకులకు సమయం, సందర్భం, మరియు సరైన డేటాకు ప్రాప్యత ఉన్నప్పుడే మానవ సమీక్ష పనిచేస్తుంది. డేటాబేస్‌లు అనుసంధానించబడకపోతే, చిత్రాలు పాతవైతే, మరియు వర్క్‌ఫ్లోలు వేగం కోసం నిర్మించబడితే, మానవ సమీక్ష అర్థవంతమైన నియంత్రణకంటే ఒక ఫార్మల్ చెక్‌పాయింట్‌గా దిగజారిపోతుంది.

ఈ కేసు మానవ తీర్పు వ్యవస్థ రూపకల్పనతో విడదీయరానిదని హైలైట్ చేస్తోంది. వ్యవస్థ చూపని దానిని సమీక్షకుడు ధృవీకరించలేడు. అనుసంధానం లేని టూల్‌లో దాగి ఉన్న పాఠశాల గుర్తింపును కమాండర్ కనుగొనలేడు. ఇక్కడ వివరించిన కేంద్ర వైఫల్యం మానవుల లేమి కాదు, అధికారిక లక్ష్య నిర్ధారణ ప్రక్రియకు మానవ జ్ఞానం చేరేందుకు నమ్మదగిన మార్గం లేకపోవడమే.

ఈ ఘటన ఏమి మారుస్తుంది

అత్యంత తక్షణ ప్రభావం AI వాడాలా వద్దా అన్న సాధారణ వాదన కంటే, సైనిక డేటా సమీకరణపై మళ్లీ పెరిగిన పరిశీలనే కావచ్చు. అందించిన పదార్థమే ఆ నిర్ణయాన్ని సూచిస్తోంది, ఎందుకంటే అది పరస్పరం మాట్లాడని వ్యవస్థలను ప్రత్యేకంగా చూపిస్తోంది. అక్కడ ఉటంకించిన కొంతమంది నిపుణులు మరింత AI మరియు డిజిటల్ వ్యవస్థల మధ్య మెరుగైన అనుసంధానాలు లోపాలను తగ్గించవచ్చని ఆశిస్తున్నారు. అది నిజం కావొచ్చు, కానీ సమీకరణాన్ని ఊహగా కాకుండా ప్రాధాన్యంగా పరిగణించినప్పుడే.

రక్షణ రంగంలో AI ని కార్యరూపంలోకి తేవడానికి పోటీపడుతున్న ప్రభుత్వాలకు ఇంకా లోతైన పాఠం ఉంది. అత్యంత కీలకమైన వైఫల్యాలు frontier-model ప్రవర్తన నుంచి కాక, సాధారణ సంస్థాగత నిర్లక్ష్యం నుంచి రావచ్చు: పాత డేటాబేస్‌లు, ఆలస్యమైన ఆధునీకరణ, అసంపూర్ణ మైగ్రేషన్ ప్రణాళికలు, మరియు ధృవీకరణ కంటే throughput ను పురస్కరించే ప్రోత్సాహకాలు. AI ఈ బలహీనతలను మరింత పెంచగలదు, ఎందుకంటే అది లక్ష్య నామినేషన్లు వ్యవస్థలో కదిలే వేగాన్ని పెంచుతుంది.

సైనిక ప్రణాళికకర్తలు మరియు విధాన నిర్ణయకర్తలకు దీనివల్ల వచ్చే సూచన అసౌకర్యకరమైనదైనా స్పష్టం. AI సహాయంతో లక్ష్య నిర్ధారణ స్వతంత్ర సామర్థ్యం కాదు. అది తన క్రింద ఉన్న డేటా మౌలిక వసతుల బలాలు, విఫలతలు రెండింటినీ స్వీకరిస్తుంది. ఆ మౌలిక వసతులు ఫీల్డ్ అప్డేట్‌లను నమ్మదగిన రీతిలో స్వీకరించలేకపోతే, ఇంటెలిజెన్స్ మూలాలను సమన్వయపరచలేకపోతే, మరియు సమీక్ష చక్రాల అంతటా మార్పులను కాపాడలేకపోతే, మరింత ఆటోమేషన్ తప్పిదాల వైపు మార్గాన్ని మాత్రమే వేగవంతం చేస్తుంది.

పొరలపై ఆధునీకరణకు హెచ్చరిక

అందించిన నివేదికలో ప్రతిబింబించిన పాఠశాల దాడి విచారణ, ఒక్క మోడల్‌పై ఆరోపణ కంటే పొరలపై ఆధునీకరణకు హెచ్చరికలా చదవబడుతుంది. కొత్త AI సాధనాలు ఇప్పటికీ పాత వ్యవస్థలు మరియు మానవీయ వర్క్‌ఫ్లోలపై ఆధారపడి ఉన్న ప్రక్రియలోకి ప్రవేశపెట్టబడ్డాయి. ఫలితం సజావుగా సాగిన వృద్ధి కాదు, గణనాత్మక వేగం మరియు సంస్థాగత జ్ఞాపకం మధ్య ప్రమాదకరమైన అసమతుల్యత.

ఆ అసమతుల్యత ఈ ఒక్క ఘటనను దాటి భవిష్యత్ చర్చలను రూపుదిద్దే అవకాశం ఉంది. రక్షణ, ఆరోగ్యం, లేదా కీలక మౌలిక వసతులు ఏవైనా కావచ్చు, అధిక ప్రమాద వాతావరణాల్లో AI ని వినియోగిస్తున్న సంస్థలు అదే ప్రాథమిక ప్రశ్నను ఎదుర్కొంటాయి: మోడల్ నిజంగా దానికి మద్దతు ఇవ్వడానికి సిద్ధంగా ఉన్న వ్యవస్థలోనే జోడించబడుతోందా? ఈ కేసులో, మూల పాఠ్యంలో చూపిన ఆధారాలు సమాధానం లేదు అనే విషయాన్ని సూచిస్తున్నాయి, మరియు ఆ అంతరానికి ధర పౌరుల ప్రాణాలతో చెల్లించబడింది.

ఈ వ్యాసం The Decoder నివేదికపై ఆధారపడింది. మూల వ్యాసాన్ని చదవండి.