Anthropic ने बाध्यकारी ऑडिट की मांग की, क्योंकि वह AI को रणनीतिक अवसंरचना के रूप में फिर से परिभाषित कर रही है

Anthropic पारदर्शिता से प्रवर्तन की ओर बढ़ रहा है

Anthropic ने एक नया नीतिगत तर्क प्रकाशित किया है, जो उसके रुख में एक उल्लेखनीय बदलाव दर्शाता है: अग्रणी AI के लिए केवल पारदर्शिता की आवश्यकताएँ अब पर्याप्त नहीं हैं। Policy on the AI Exponential शीर्षक वाले एक निबंध में CEO Dario Amodei तर्क देते हैं कि मॉडल क्षमताएँ इतनी तेजी से आगे बढ़ रही हैं कि बाध्यकारी ऑडिट, औपचारिक प्रकटीकरण आवश्यकताएँ, और ऐसी शक्ति उचित हो जाती है जिससे कोई सरकारी एजेंसी उन प्रणालियों को रोक सके जो अस्वीकार्य जोखिम पैदा करती हैं।

कंपनी ने इस निबंध के साथ दो रूपरेखाएँ भी पेश कीं, जिनमें एक अग्रणी AI के नियमन पर और दूसरी AI तैनाती के साथ हो सकने वाली नौकरी हानियों से निपटने पर केंद्रित है। Anthropic का कहना है कि वह नौकरी-हानि वाली रूपरेखा को पर्याप्त वित्तपोषण के साथ समर्थन देने के लिए तैयार है। लेकिन नए पैकेज का केंद्र नियामकीय मोड़ है। कंपनी अब अग्रणी मॉडल शासन को मुख्यतः रिपोर्टिंग और पारदर्शिता का मामला नहीं, बल्कि तकनीकी निरीक्षण और रिलीज़-पूर्व नियंत्रण का मामला प्रस्तुत कर रही है।

Anthropic क्या तर्क दे रहा है

स्रोत के अनुसार, Amodei का तर्क गति से शुरू होता है। उनका कहना है कि AI क्षमता में वृद्धि स्केलिंग लॉज़ से संचालित हो रही है और एक से दो वर्षों के भीतर दुनिया वह देख सकती है जिसे वे “Powerful AI” कहते हैं, जिसे “एक डेटा सेंटर में प्रतिभाशाली लोगों का देश” के रूप में वर्णित किया गया है। यह framing एक साथ दो काम करती है। पहला, यह गति पर ज़ोर देती है। दूसरा, यह अग्रणी AI को एक व्यावसायिक उपकरण से उठाकर रणनीतिक अवसंरचना के करीब ला देती है।

बताया जाता है कि Anthropic का निबंध तेजी से हो रहे तकनीकी बदलाव और धीमी राजनीतिक प्रतिक्रिया के बीच असंगति समझाने के लिए Lord of the Rings की एक उपमा का उपयोग करता है। उस कहानी में Treebeard राजनीतिक प्रणाली का प्रतिनिधित्व करता है, चेतावनी देने वाली आवाज़ें वे हैं जो शुरुआती कार्रवाई के लिए आग्रह करती हैं, और आगे बढ़ता हुआ खतरा अनियमित AI है। यह उपमा नाटकीय है, लेकिन नीतिगत निहितार्थ सीधा है: यदि संस्थाएँ सामान्य समय-सीमाओं पर चलेंगी, तो वे बहुत देर से प्रतिक्रिया देंगी।

क्यों कंपनी का कहना है कि उसका पुराना दृष्टिकोण अब काम नहीं करता

स्रोत कहता है कि Anthropic पहले पारदर्शिता पर जोर देता था क्योंकि जोखिम इतने स्पष्ट नहीं थे कि अधिक सटीक विनियमन किया जा सके। उसने California के SB 53, New York के RAISE, और Illinois के SB 315 जैसे पारदर्शिता-केंद्रित विधेयकों का समर्थन किया था। यह रुख अब बदल गया है।

इसका प्रमाण देते हुए Amodei “Claude Mythos Preview” के अनुभव की ओर इशारा करते हैं, जिसके बारे में स्रोत कहता है कि उसने वैश्विक साइबरसुरक्षा परिदृश्य को बाधित किया और दिखाया कि अग्रणी मॉडल वित्तीय क्षेत्र, महत्वपूर्ण अवसंरचना, और राष्ट्रीय सुरक्षा के लिए वास्तविक जोखिम पैदा कर सकते हैं। Anthropic को यह भी उम्मीद है कि गंभीर जैविक और स्वायत्तता-सम्बंधी जोखिम अपेक्षाकृत जल्द उभर सकते हैं। दूसरे शब्दों में, कंपनी तर्क दे रही है कि सैद्धांतिक चिंता अब व्यावहारिक चेतावनी में बदल चुकी है।

यह एक महत्वपूर्ण सीमा है। कोई प्रयोगशाला जब कड़े नियमों की मांग करती है तो वह असामान्य नहीं है। लेकिन जब वही प्रयोगशाला कहती है कि उसके अपने हालिया मॉडल अनुभव ने दिखाया कि पारदर्शिता अब पर्याप्त नहीं है, तो उसका वजन अधिक हो जाता है, भले ही आलोचक अनिवार्य रूप से यह पूछें कि इस तर्क में कितना हिस्सा सिद्धांत का है और कितना रणनीति का।

Anthropic सरकारों से क्या चाहती है

प्रस्तावित रूपरेखा चार जोखिम श्रेणियों में योग्य तृतीय पक्षों द्वारा अनिवार्य परीक्षण पर केंद्रित है: साइबरसुरक्षा, जैविक हथियार, AI प्रणालियों पर नियंत्रण खोना, और स्वचालित अनुसंधान एवं विकास जो इन जोखिमों को तेज कर सकता है। Anthropic चाहती है कि एक सरकारी एजेंसी के पास न केवल प्रकटीकरण प्राप्त करने, बल्कि मानक पर खरे न उतरने वाले मॉडलों को रोकने या वापस लेने की भी शक्ति हो।

स्रोत कहता है कि Amodei Federal Aviation Administration को एक मॉडल के रूप में देखते हैं। यह उपमा महत्वपूर्ण है। विमान केवल इसलिए सार्वजनिक उपयोग के लिए अनुमोदित नहीं किए जाते कि निर्माता कहे कि वे सुरक्षित हैं। उन्हें जांचा, परखा, प्रमाणित किया जाता है, और हस्तक्षेप के अधीन रखा जाता है। Anthropic प्रतीत होता है कि तर्क दे रही है कि अग्रणी AI को भी एक समान व्यवस्था की ओर बढ़ना चाहिए, जहाँ रिलीज़ नोटिस आवश्यकताओं को पूरा करने मात्र पर नहीं, बल्कि तकनीकी जोखिम समीक्षा पास करने पर निर्भर हो।

यह कई तकनीकी कंपनियों की पिछली पसंद से अधिक सख्त नियमन वाली दृष्टि है। यह केवल मानकों का ही नहीं, बल्कि लागू होने योग्य निगरानी का और शिपमेंट के विलंबित या अस्वीकृत होने की संभावना का संकेत देता है। नीतिगत रूप से, यह पारदर्शिता के माध्यम से शासन से अनुमति के माध्यम से शासन की ओर बदलाव है।

AI को राष्ट्रीय सुरक्षा का मुद्दा मानना

स्रोत कहता है कि Anthropic increasingly AI को राष्ट्र-राज्यों द्वारा इस्तेमाल किए जाने वाले एक रणनीतिक हथियार के रूप में प्रस्तुत करता है। यही framing प्रस्ताव की तात्कालिकता समझाती है। यदि अग्रणी मॉडलों को मुख्यतः उत्पादकता उपकरण माना जाए, तो प्रकटीकरण और बाजार अनुशासन पर्याप्त लग सकते हैं। यदि उन्हें ऐसे सिस्टम माना जाए जिनके साइबर आक्रमण, महत्वपूर्ण अवसंरचना, जैवसुरक्षा, और भू-राजनीतिक प्रतिस्पर्धा पर प्रभाव पड़ सकते हैं, तो तैनाती-पूर्व नियंत्रण अधिक यथार्थवादी लगने लगते हैं।

इसीलिए Anthropic जिन चार जोखिम क्षेत्रों को रेखांकित करती है, वे इतने विशिष्ट हैं। कंपनी किसी सामान्य नैतिक समीक्षा की मांग नहीं कर रही। वह लक्षित परीक्षण की मांग कर रही है, जहाँ क्षमता में वृद्धि उच्च-परिणामी दुरुपयोग या प्रणालीगत विफलता में बदल सकती है। मान्यता यह है कि खतरा AI को एक अमूर्त श्रेणी के रूप में देखने में नहीं, बल्कि अग्रणी क्षमताओं के एक उपसमुच्चय के इतना मजबूत हो जाने में है कि वे पहले से ही खतरनाक क्षेत्रों को और बढ़ा दें।

कड़े नियमों की मांग करने की राजनीति

Anthropic का प्रस्ताव इस बहस को समाप्त नहीं करेगा कि नियम कौन लिखे या क्या निजी प्रयोगशालाएँ ऐसे तरीकों से नियम बनवाने की कोशिश कर रही हैं जो मौजूदा खिलाड़ियों को लाभ दें। ये प्रश्न टाले नहीं जा सकते। लेकिन नए दस्तावेज़ फिर भी महत्वपूर्ण हैं क्योंकि वे दिखाते हैं कि सबसे जानी-मानी AI कंपनियों में से एक सार्वजनिक रूप से यह निष्कर्ष निकाल रही है कि उसकी पूर्व नियामकीय प्राथमिकता अब अपर्याप्त हो गई है।

यह परिवर्तन महत्वपूर्ण है, भले ही सरकारें एजेंडे का केवल कुछ हिस्सा ही अपनाएँ। एक बार जब बड़ी प्रयोगशालाएँ अनिवार्य तृतीय-पक्ष ऑडिट और रिलीज़ को रोकने की एजेंसी-स्तरीय शक्ति के लिए तर्क देना शुरू करती हैं, तो बहस स्वैच्छिक प्रतिबद्धताओं से आगे बढ़ जाती है। यह संस्थागत डिज़ाइन का प्रश्न बन जाती है: कौन परीक्षण करेगा, कौन निर्णय लेगा, क्या हस्तक्षेप को ट्रिगर करेगा, और लॉन्च से पहले कंपनियों को कितने क्षमता-साक्ष्य का खुलासा करना होगा।

व्यापक निहितार्थों वाला नीति-परिवर्तन

Anthropic के हस्तक्षेप का सबसे महत्वपूर्ण हिस्सा शायद उसका समय-निर्धारण है। कंपनी कहती है कि अगले एक से दो वर्षों में ऐसे सिस्टम आ सकते हैं जो सार्वजनिक उपयोग में मौजूद सिस्टमों की तुलना में बहुत अधिक सक्षम होंगे। यदि नीति-निर्माता इस समय-सीमा को स्वीकार करते हैं, तो निगरानी संरचनाएँ बनाने की खिड़की छोटी है। यदि वे इसे अस्वीकार करते हैं, तो भी Anthropic का ढाँचा भविष्य के नियमों के स्वरूप को इस विचार को सामान्य बनाकर प्रभावित कर सकता है कि अग्रणी मॉडलों के लिए रिलीज़-पूर्व ऑडिट आवश्यक हैं।

किसी भी स्थिति में, कंपनी AI नीति की बातचीत के केंद्र को फिर से परिभाषित करने में मदद कर रही है। तर्क अब केवल यह नहीं है कि AI कंपनियों को अधिक खुला होना चाहिए। तर्क यह है कि कुछ मॉडल इतने महत्वपूर्ण हो सकते हैं कि बाहरी तकनीकी समीक्षा और राज्य की “ना” कहने की शक्ति के बिना उन्हें जारी नहीं किया जाना चाहिए।

यह शासन का कहीं अधिक आक्रामक सिद्धांत है, उस सिद्धांत की तुलना में जो AI नीति की कई शुरुआती बहसों में हावी था। यह अग्रणी प्रणालियों की बढ़ती महत्वाकांक्षा और उनके कुछ निर्माताओं में इस बढ़ती धारणा दोनों को दर्शाता है कि केवल पारदर्शिता ही आगे आने वाले बदलाव को रोक नहीं सकती।

यह लेख The Decoder की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.