दूरगामी परिणामांचा करार
ओपनएआई ने अमेरिकी संरक्षा विभागाला वर्गीकृत सैन्य वातावरणात त्याच्या एआई सिस्टमचा उपयोग करण्यास परवानगी देण्याचा ऐतिहासिक करार केल्यापासून दोन आठवडे हे गेले आहेत. या डीलने एआই संशोधक, शस्त्र नियंत्रण विशेषज्ञ आणि नागरिक स्वातंत्र्य समर्थकांमध्ये लक्षणीय लक्ष आणि चिंता निर्माण केली आहे. अमेरिकी सैन्य इराणविरुद्ध सक्रियपणे लष्करी कारवाई करत असल्यामुळे - ख्वार्ज बेटावर हल्ल्यांसह - या कराराचे परिणाम बहुतेकांनी अपेक्षा केलेल्यापेक्षा अधिक तात्काळ आहेत.
या कराराचे मूलभूत पैलू ज्ञात आहेत: ओपनएआई वर्गीकृत सेटिंग्समध्ये सैन्य वापरास त्याच्या मॉडेल्सची परवानगी देईल, सॅम अल्टमन यांनी सार्वजनिकपणे असे म्हटले आहे की हा करार सैन्यास कंपनीच्या तंत्रज्ञानाचा वापर करून स्वायत्त शस्त्र बनवू देत नाही आणि व्यवस्थापन देशांतर्गत पर्यवेक्षण अनुप्रयोगांना प्रतिबंधित करते असे दावा करते. परंतु या कराराच्या वास्तविक अटींचे परीक्षण केल्यास असे दिसते की दोन्ही निर्बंध मुख्यतः पेंटागॉनच्या स्वत:च्या स्वायत्त शस्त्र प्रणालीच्या दिशानिर्देशांद्वारे लागू केले जातात - जे दिशानिर्देश स्वतः आंतरराष्ट्रीय मानकांनुसार खूप उदार आहेत.
पेंटागॉनच्या स्वायत्त शस्त्र दिशानिर्देश खरोखर काय म्हणतात
संरक्षा विभागाचे स्वायत्त शस्त्र प्रणालीचे निर्देश निर्दिष्ट करतात की घातक स्वायत्त शस्त्र हत्येच्या निर्णयांवर मानवी न्यायच्या योग्य स्तर राखणे आवश्यक आहे. या भाषेच्या समालोचकांनी सातत्याने लक्षात घेतले आहे की हे योग्य म्हणजे काय हे निर्दिष्ट करत नाही, प्रत्येक वैयक्तिक लक्ष्यीकरण निर्णयास मानव मंजुरी आवश्यक नाही आणि स्पष्टपणे अर्ध-स्वायत्त प्रणालीला अनुमती देते जेथे मानव प्रत्येक विशिष्ट हल्ला मंजूर न करता अग्रिम लक्ष्यीकरण नियम किंवा स्ट्राइक पॅरामीटर मंजूर करते.
यामुळे ओपनएआई च्या सार्वजनिक स्पष्टीकरणामध्ये - आम्ही सैन्यास स्वायत्त शस्त्र बनवू देणार नाही - आणि कराराने खरोखर काय परवानगी दिली, यामध्ये लक्षणीय अंतर तयार होतो. पेंटागॉनच्या स्वत:च्या मानकांनुसार, एक एआई प्रणाली जी सेंसर डेटा प्रक्रिया करते, लक्ष्य ओळखते आणि प्रति-शॉट मानव प्राधिकरणाशिवाय हल्ले निष्पादित करते, तरीही जर मानवने अग्रिम लक्ष्यीकरण नियम मंजूर केले असेल तर अनुपालन योग्य मानले जाऊ शकते. ओपनएआई च्या मॉडेल्स अशा प्रणालीमध्ये कराराचे उल्लंघन न करता समाकलित केले जाऊ शकतात की नाही, हे सार्वजनिकपणे स्पष्ट नाही.
इराण परीक्षणाचा प्रकरण
इराणसोबतचा चालू संघर्ष या प्रश्नांना काल्पनिक ऐवजी ठोस बनवतो. अमेरिकी मध्य सेनापती फारसी उपसागरात स्ट्राइक ऑपरेशन चालवत आहे, इराणी नौदलशास्त्रीय असममित धमक्यांना प्रतिक्रिया दित आहे आणि जटिल युद्धक्षेत्र भर बुद्धिमत्ता संग्रह व्यवस्थापित करत आहे. यापैकी प्रत्येक क्रियाकलाप एआई अनुप्रयोगच्या श्रेणी समाविष्ट करते जेथे ओपनएआई च्या मॉडेल्स संभाव्यतः समाकलित होऊ शकतात.
बुद्धिमत्ता बाजूला, मोठ्या भाषा मॉडेल्स अनेक स्रोतांतून माहिती संश्लेषित करण्यास, परदेशी-भाषा संप्रेषण अनुवादित करण्यास आणि संरचित डेटामध्ये पॅटर्न ओळखण्यास सक्षम सिद्ध झाले आहेत - ही सर्व कार्ये लष्करी बुद्धिमत्ता विश्लेषणास प्रासंगिक आहेत. हे अनुप्रयोग व्यापकपणे सैन्य व्यावसायिक एआीच्या प्राथमिक उपयोगांमध्ये समजले जातात आणि स्वायत्त लक्ष्यीकरणापेक्षा कमी नैतिक चिंता प्रस्तुत करतात.
अधिक चिंताजनक संभाव्य अनुप्रयोग लक्ष्य ओळख किंवा लढाई नुकसान मूल्यांकनमध्ये आहेत, जेथे एआई प्रणाली सैन्य संपत्ती ओळखण्यासाठी इमेजरी किंवा सिग्नल बुद्धिमत्ता प्रक्रिया करू शकते, हालचाल ट्रॅक करू शकते किंवा स्ट्राइक परिणाम मूल्यांकन करू शकते. हे असे क्षेत्र आहेत जेथे निर्णय समर्थन साधन आणि स्वायत्त प्रणालीमधील फरक अस्पष्ट होतो - आणि जेथे ओपनएआी च्या कराराची विशिष्ट भाषा दिलेले अनुप्रयोग परवानगीप्राप्त आहे की नाही हे निर्धारित करेल.
पर्यवेक्षण प्रतिबंध आणि त्याची मर्यादा
अल्टमनचा दावा की हा करार ओपनएआई च्या तंत्रज्ञानाच्या देशांतर्गत पर्यवेक्षणासाठी वापरास प्रतिबंधित करतो, तो त्याप्रमाणे अधिक गुंतागुंतीचा आहे. निर्बंध जसा वर्णन केला आहे तो देशांतर्गत पर्यवेक्षणास लागू होतो - अमेरिकी नागरिकांवरील डेटा संग्रह आणि विश्लेषण - परंतु परदेशी बुद्धिमत्ता संग्रहणास संबोधित करत नाही. सैन्य ऑपरेशन्सच्या संदर्भात, प्रतिकूल सैन्य संप्रेषण निरीक्षण, जहाज आंदोलन ट्रॅकिंग आणि इराणी शासन संप्रेषण निरीक्षण सर्व परदेशी बुद्धिमत्ता संग्रहण म्हणून योग्य असतील आणि देशांतर्गत पर्यवेक्षण निर्बंधाने संरक्षित नाहीत.
देशांतर्गत पर्यवेक्षण चिंता पर विचारणा करणारे नागरिक स्वातंत्र्य समर्थक परदेशी बुद्धिमत्ता अनुप्रयोगांना प्राधान्य देऊ शकत नाहीत जे लष्करी कमांडर सर्वाधिक मूल्यवान मानतात. परंतु सार्वजनिक संप्रेषणांमध्ये दोघांचा मिश्रण सुचवितो की ओपनएआई च्या सार्वजनिक स्पष्टीकरणामध्ये सैन्य अनुप्रयोगांची संपूर्ण श्रेणी असू शकते असे पूर्णपणे कॅप्चर केले जाऊ शकत नाही.
ओपनएआी च्या प्रेरणा काय असल्याचे दिसते
ओपनएआी व्यावसायिक एआई विकास आणि सैन्य अनुप्रयोगमधील तणाव नॅव्हिगेट करणारी पहिली मोठी तंत्रज्ञान कंपनी नाही. गूगलने 2018 मध्ये त्याच्या प्रकल्प मेवेन कराराला लागून महत्त्वपूर्ण अंतर्गत विरोधाचा सामना केला आणि शेवटी त्याचे नवीकरण न करण्याचा निर्णय घेतला. मायक्रोसॉफ्ट आणि अमेজॉन काही अंतर्गत असहमती असूनही संरक्षा करारांना विस्तारित करत आहेत.
सरकारी एआी बाजारपेठांमध्ये प्रवेश करण्याचा ओपनएआी च्या निर्णयाचा अर्थ हा एक रणनीतिक गणना सूचित करतो की सरकारी एआई संविदांसाठी स्पर्धा कंपनीच्या दीर्घकालीन स्थितीसाठी महत्त्वाचा आहे, विशेषतः तो अँथ्रोपिक, गूगल डीपमाइंड आणि पॅलांटिरसारख्या संरक्षण-केंद्रित एआई कंपन्यांसह स्पर्धा करत असताना. पेंटागॉनचे एआई बजेट वेगाने वाढत आहे आणि ज्या कंपनीने लवकर विश्वस्त सरकारी एआई भागीदार म्हणून स्वतःला स्थापित केले ते दीर्घकालीन लक्षणीय फायदे सुरक्षित करू शकतात.
हा लेख एमआयटी तंत्रज्ञान समीक्षेच्या अहवालावर आधारित आहे. मूळ लेख वाचा.
