शुक्रवार की समय सीमा और एआई नैतिकता पर एक शीत युद्ध
एंथ्रोपिक, Claude भाषा मॉडल के पारिवारिक पीछे की एआई सुरक्षा कंपनी, अमेरिकी रक्षा विभाग के साथ एक असाधारण टकराव का सामना कर रही है। रिपोर्टों के अनुसार, पेंटागन ने एंथ्रोपिक से अपनी एआई प्रौद्योगिकी के सैन्य अनुप्रयोगों पर प्रतिबंध ढीला करने की मांग की है — विशेष रूप से स्वायत्त हथियार प्रणालियों और व्यापक निगरानी में उपयोग पर इसके प्रतिबंध। एंथ्रोपिक ने इनकार कर दिया है, और रक्षा विभाग ने रक्षा उत्पादन अधिनियम का आह्वान करने की धमकी दी है, एक शीत युद्ध-युग का कानून जो सरकार को निजी कंपनियों को राष्ट्रीय रक्षा उत्पादन को प्राथमिकता देने के लिए बाध्य करने की अनुमति देता है।
कंपनी को शुक्रवार तक अनुपालन करने का समय दिया गया है। यदि एंथ्रोपिक अपना इनकार बनाए रखता है, तो पेंटागन कानूनी रूप से कंपनी को अपनी एआई क्षमताओं तक पहुंच प्रदान करने के लिए बाध्य कर सकता है, एक कानूनी और नैतिक टकराव की स्थिति बना सकता है जिसका एआई उद्योग में कोई स्पष्ट पूर्वजन्म नहीं है।
एंथ्रोपिक ने क्या प्रतिबंधित किया है
अपनी स्थापना के बाद से, एंथ्रोपिक ने एक स्वीकार्य उपयोग नीति बनाई है जो स्पष्ट रूप से अपने एआई मॉडल के स्वायत्त हथियार, व्यापक निगरानी और अन्य अनुप्रयोगों के लिए उपयोग को प्रतिबंधित करती है जो कंपनी को इसके एआई सुरक्षित रूप से विकसित करने के मिशन के साथ असंगत मानती है। ये प्रतिबंध एआई उद्योग में असामान्य नहीं हैं — अधिकांश प्रमुख एआई कंपनियों के पास समान नीतियां हैं — लेकिन एंथ्रोपिक एआई सुरक्षा के प्रति अपनी प्रतिबद्धता के बारे में विशेष रूप से मुखर रहा है क्योंकि यह एक मुख्य संगठनात्मक सिद्धांत है।
कंपनी की स्थापना पूर्व OpenAI शोधकर्ताओं डेरियो और डेनिएला अमोदेई द्वारा की गई थी, आंशिक रूप से एआई विकास की गति और शासन के बारे में चिंताओं के कारण। इसकी ब्रांड पहचान जिम्मेदार एआई विकास के चारों ओर बनाई गई है, और कृत्रिम बुद्धिमत्ता के लिए सुरक्षा-प्रथम दृष्टिकोण के नेता के रूप में इसके एआई संरेखण और व्याख्याशीलता में अनुसंधान ने इसे स्थापित किया है। सैन्य प्रतिबंधों पर वापस लेना कंपनी की आधारभूत कहानी को कमजोर कर देगा।
रक्षा उत्पादन अधिनियम खतरा
रक्षा उत्पादन अधिनियम, 1950 में कोरियाई युद्ध के दौरान कानून में हस्ताक्षरित, राष्ट्रीय रक्षा के लिए आवश्यक मानी जाने वाली अनुबंधों और आदेशों को प्राथमिकता देने के लिए निजी उद्योग को निर्देशित करने के लिए राष्ट्रपति को व्यापक अधिकार देता है। इसे विभिन्न उद्देश्यों के लिए समय-समय पर आमंत्रित किया गया है — सबसे हाल ही में COVID-19 महामारी के दौरान चिकित्सा आपूर्ति के उत्पादन को बाध्य करने के लिए — लेकिन एक एआई कंपनी को अपनी सैन्य अनुप्रयोगों के लिए अपनी प्रौद्योगिकी प्रदान करने के लिए बाध्य करने के लिए इसका उपयोग करना कानून के अभूतपूर्व अनुप्रयोग का प्रतिनिधित्व करेगा।
कानूनी विशेषज्ञ इस बात पर विभाजित हैं कि क्या ऐसा आह्वान न्यायिक जांच से बचेगा। DPA को भौतिक सामान विनिर्माण के लिए डिज़ाइन किया गया था — स्टील, गोला-बारूद, चिकित्सा उपकरण — एक सॉफ्टवेयर कंपनी को अपनी सेवा की शर्तें बदलने के लिए बाध्य करने के लिए नहीं। क्या एआई मॉडल पहुंच एक "उत्पाद" का गठन करता है जो अधिनियम के तहत जब्त किया जा सकता है, यह उपन्यास कानूनी प्रश्न उठाता है जो अदालतों ने अभी तक संबोधित नहीं किए हैं।
- पेंटागन एंथ्रोपिक से स्वायत्त हथियारों और निगरानी पर एआई प्रतिबंध हटाने की मांग करता है
- एंथ्रोपिक एआई सुरक्षा सिद्धांतों के लिए अपनी आधारभूत प्रतिबद्धता का हवाला देते हुए इनकार करता है
- रक्षा विभाग शुक्रवार तक रक्षा उत्पादन अधिनियम का आह्वान करने की धमकी देता है
- कानूनी विशेषज्ञ सवाल उठाते हैं कि क्या DPA एक सॉफ्टवेयर कंपनी को अपनी नीतियां बदलने के लिए बाध्य कर सकता है
- गतिरोध सरकार के अधिकार के लिए एआई कंपनियों पर मिसाल स्थापित कर सकता है
उद्योग प्रभाव
एंथ्रोपिक और पेंटागन के बीच टकराव एक एआई उद्योग के माध्यम से झटके भेजता है जो राष्ट्रीय सुरक्षा एजेंसियों के साथ एक तेजी से जटिल संबंध को नेविगेट कर रहा है। Google, Microsoft, Amazon और OpenAI के सभी महत्वपूर्ण रक्षा अनुबंध हैं, और प्रत्येक को अपनी प्रौद्योगिकी के सैन्य अनुप्रयोगों पर आंतरिक और बाहरी दबाव का सामना करना पड़ा है। Google ने 2018 में कर्मचारी विरोधों के बाद Project Maven, एक पेंटागन एआई प्रोग्राम से प्रसिद्ध रूप से वापस ले लिया, हालांकि कंपनी ने तब से अपने रक्षा कार्य का विस्तार किया है।
यदि रक्षा उत्पादन अधिनियम एंथ्रोपिक के खिलाफ सफलतापूर्वक उपयोग किया जाता है, तो यह एक मिसाल स्थापित करेगा कि संयुक्त राज्य अमेरिका में काम करने वाली किसी भी एआई कंपनी को अपनी नैतिक दिशानिर्देशों की परवाह किए बिना सैन्य उद्देश्यों के लिए अपनी प्रौद्योगिकी प्रदान करने के लिए बाध्य किया जा सकता है। यह संभावना एआई सुरक्षा अनुसंधान को ठंडा कर सकती है, सुरक्षा-केंद्रित कंपनियों को अमेरिकी क्षेत्राधिकार के बाहर स्थानांतरित करने के लिए धकेल सकती है, या एक विभाजित उद्योग बना सकती है जहां कंपनियों को सरकारी अनुबंधों और सुरक्षा प्रतिबद्धताओं के बीच चुनाव करना चाहिए।
इसके विपरीत, यदि एंथ्रोपिक सफलतापूर्वक आदेश का विरोध करता है — चाहे कानूनी चुनौती या राजनीतिक वार्ता के माध्यम से — यह यह सिद्धांत को मजबूत कर सकता है कि एआई कंपनियों को अपनी प्रौद्योगिकी का उपयोग कैसे किया जाता है इस पर नैतिक सीमाएं निर्धारित करने का अधिकार है, भले ही ग्राहक अमेरिकी सरकार हो।
व्यापक तनाव
गतिरोध एक मौलिक तनाव को प्रतिबिंबित करता है जो तब से बन रहा है जब बड़े भाषा मॉडल और अन्य उन्नत एआई सिस्टम स्पष्ट सैन्य अनुप्रयोगों के साथ क्षमताओं को प्रदर्शित करना शुरू किया है। अमेरिकी सरकार एआई वर्चस्व को राष्ट्रीय सुरक्षा के लिए आवश्यक मानती है, विशेष रूप से चीन के साथ प्रतिस्पर्धा में, जो कम नैतिक बाधाओं के साथ सैन्य एआई अनुप्रयोगों में संसाधन डाल रहा है। पेंटागन के दृष्टिकोण से, एक अग्रणी एआई कंपनी को रक्षा अनुप्रयोगों से बाहर निकलने की अनुमति देना एक विलासिता है जो राष्ट्र बर्दाश्त नहीं कर सकता है।
एंथ्रोपिक के दृष्टिकोण से, प्रतिबंध स्पष्ट हैं क्योंकि कंपनी मानती है कि शक्तिशाली एआई सिस्टम के बिना सीमा सैन्य अनुप्रयोग विनाशकारी जोखिम पोज़ करते हैं — जोखिम जो आसानी से समाप्त नहीं होते हैं क्योंकि उपयोगकर्ता एक अमेरिकी वर्दी पहनता है। कंपनी की स्थिति यह है कि एआई के कुछ अनुप्रयोग चाहे कौन पूछ रहा है, सक्षम करने के लिए बहुत खतरनाक हैं।
यह गतिरोध कैसे हल होता है, यह आने वाले वर्षों के लिए एआई उद्योग और अमेरिकी सरकार के बीच संबंध को आकार देगा। यह एक परीक्षण केस है कि क्या एआई सुरक्षा प्रतिबद्धताएं राष्ट्रीय सुरक्षा अपरिहार्यता के गुरुत्वाकर्षण खिंचाव को सहन कर सकती हैं — और क्या सरकार यह सुनिश्चित करने के लिए अपने सबसे शक्तिशाली कानूनी उपकरणों का उपयोग करेगी कि वे नहीं कर सकते।
यह लेख The Decoder द्वारा रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
