రహస్య AI ఒప్పందం నియంత్రణ మరియు పర్యవేక్షణపై కొత్త ప్రశ్నలను లేవనెత్తుతోంది
Google ఒక రహస్య ఒప్పందంపై సంతకం చేసిందని సమాచారం; దీని ద్వారా US Department of Defense దాని AI మోడళ్లను “any lawful government purpose” కోసం ఉపయోగించుకోవచ్చు. The Verge, The Information నుంచి వచ్చిన సమాచారంపై ఆధారపడి ఈ ఏర్పాటును వివరించగా, పెరుగుతున్న అంతర్గత మరియు బాహ్య పరిశీలన మధ్య Googleను US జాతీయ భద్రత AI వ్యవస్థలో మరింత గట్టిగా స్థానం చేయిస్తుంది.
సమయమే ఈ కథలో భాగం. ఈ ఒప్పందం గురించి నివేదిక, Google ఉద్యోగులు CEO Sundar Pichaiని Pentagonకు కంపెనీ AI వినియోగాన్ని ఆపమని కోరిన ఒక రోజు కంటే తక్కువ సమయంలోనే వచ్చింది; అటువంటి వ్యవస్థలు “inhumane or extremely harmful ways” లో ఉపయోగించబడవచ్చని వారు వాదించారు. ఉద్యోగుల ఆందోళన మరియు సంస్థ స్థానం మధ్య ఉన్న ఈ తేడా, AI అమలు చర్చలు ఎంత వేగంగా సిద్ధాంతం నుంచి ఒప్పంద భాష వైపుకు వెళ్తున్నాయో చూపిస్తుంది.
నివేదించబడిన అత్యంత కీలక అంశాలలో ఒకటి, Pentagon Google వ్యవస్థలను ఉపయోగించగలగడం మాత్రమే కాదు, ఆ ఒప్పందం Googleకు “any right to control or veto lawful government operational decision-making” ఇవ్వదని చెప్పడమే. ఇది నిజమైతే, ఒప్పందం అమల్లోకి వచ్చిన తర్వాత సంస్థ తుది ఉపయోగాలను ఆకృతీకరించే సామర్థ్యం తీవ్రంగా పరిమితం అవుతుంది, అయినప్పటికీ ఒప్పందంలో domestic mass surveillance లేదా autonomous weapons పై appropriate human oversight and controlతో కూడిన భాష ఉండవచ్చు.
ఈ ఉద్రిక్తత ప్రస్తుత military AI రాజకీయాల కేంద్రానికి చేరుతుంది. కంపెనీలు తరచుగా ఉన్నతస్థాయి భద్రతా రక్షణలను ప్రాధాన్యం ఇస్తాయి, కానీ అసలు పరీక్ష mission అవసరాలు మారినప్పుడు ఆ రక్షణలు అమలు చేయగలవా అనేది. నివేదించబడిన ఒప్పంద భాష ప్రకారం, సూత్రాలు ప్రభుత్వానికి విస్తృత ఆపరేషనల్ స్వేచ్ఛతో సహజీవనం చేయగల మోడల్ కనిపిస్తోంది. ఇది విక్రేతకు నిర్దిష్ట వినియోగాలను ఆపే లేదా పరిమితం చేసే గణనీయ సామర్థ్యం ఉండే పరిస్థితికి చాలా భిన్నమైన స్థితి.
ప్రభుత్వం కోరితే AI safety settings మరియు filters సర్దుబాట్లకు సహాయం చేయాల్సిన బాధ్యత కూడా Googleపై ఉంటుందని నివేదిక చెబుతోంది. ఈ వివరము ముఖ్యమైనది, ఎందుకంటే ఇది సాధారణ ప్రాప్యతకంటే ఎక్కువ. జాతీయ భద్రత అవసరాలకు అనుగుణంగా వ్యవస్థలను అనుకూలీకరించడంలో సక్రియ మద్దతు పాత్రను సూచిస్తుంది, ఇది ప్రభుత్వ-AI భాగస్వామ్యాల్లో అత్యంత వివాదాస్పద అంశాల్లో ఒకటిగా మారవచ్చు.
ఇది ధృవీకరించబడితే, ఈ ఒప్పందం Googleను classified AI contracting రంగంలో OpenAI మరియు xAIతో పాటు ఉంచుతుంది, అలాగే weapon మరియు surveillance guardrails కు సంబంధించిన డిమాండ్లను తిరస్కరించిన తర్వాత Anthropicను Pentagon blacklist చేసినట్లు The Verge పేర్కొంది. defense అవసరాలను స్వీకరించడానికి సిద్ధంగా ఉన్న కంపెనీలకు పోటీ దృశ్యం ఎంత వేగంగా బహుమతి ఇవ్వగలదో ఈ వ్యత్యాసం చూపుతుంది.
మొత్తం ప్రాముఖ్యత సూటిగా ఉంది. AI procurement ఇక cloud capacity లేదా research prestige గురించే కాదు. గవర్నమెంట్ వ్యవస్థలలోకి వచ్చిన తర్వాత మోడళ్లను సరఫరా చేయడానికి, వాటిని సవరించడానికి, మరియు నియంత్రణ తగ్గడాన్ని అంగీకరించడానికి ఎవరు సిద్ధంగా ఉన్నారన్నదానిపై ఇది ఎక్కువగా ఆధారపడి ఉంటుంది. ఈ నివేదించబడిన Google-Pentagon ఒప్పందం commercial AI leadership మరియు defense infrastructure మధ్య సరిహద్దు నెలనెలా మరింత పలుచనవుతోందని సూచించే మరో సంకేతం అవుతుంది.
ఈ కథనం The Verge నివేదికపై ఆధారపడింది. మూల కథనాన్ని చదవండి.