एक नया AI सुरक्षा मॉडल पहले ही नीति, वित्त और सरकारी शक्ति से टकरा रहा है
Anthropic का नया घोषित Mythos मॉडल AI उद्योग से कहीं आगे ध्यान खींच रहा है। Bloomberg की रिपोर्ट, जिसे TechCrunch ने संक्षेप में प्रस्तुत किया, के अनुसार ट्रेजरी सचिव स्कॉट बेसेन्ट और फेडरल रिज़र्व चेयर जेरोम पॉवेल ने हाल ही में बैंक अधिकारियों से मुलाकात की और उन्हें कमजोरियों का पता लगाने के लिए Mythos का उपयोग करने को प्रोत्साहित किया।
रिपोर्ट से संकेत मिलता है कि परीक्षण समूह Anthropic की शुरुआती सार्वजनिक रिलीज़ से पहले से ही बड़ा हो सकता है। TechCrunch नोट करता है कि JPMorgan Chase को मॉडल तक पहुंच वाले शुरुआती साझेदार संगठनों में से एक बताया गया था, जबकि Goldman Sachs, Citigroup, Bank of America और Morgan Stanley भी कथित तौर पर इसका परीक्षण कर रहे हैं।
Mythos असामान्य क्यों है
Anthropic ने कहा कि फिलहाल Mythos तक पहुंच सीमित रखी जाएगी। रिपोर्ट के अनुसार, कारण यह है कि यह मॉडल साइबरसुरक्षा के लिए विशेष रूप से प्रशिक्षित न होने के बावजूद सुरक्षा कमजोरियां खोजने में अत्यधिक सक्षम है। इस संयोजन ने लॉन्च को उल्लेखनीय बना दिया है: Mythos को केवल एक और एंटरप्राइज़ AI मॉडल के रूप में नहीं, बल्कि असामान्य रूप से मजबूत कमजोरियों की खोज करने वाली प्रणाली के रूप में पेश किया जा रहा है।
यह दावा बिना चुनौती के स्वीकार नहीं हुआ है। TechCrunch के अनुसार कुछ पर्यवेक्षकों ने तर्क दिया है कि कंपनी की प्रस्तुति शायद प्रचार या आक्रामक एंटरप्राइज़ बिक्री रणनीति को दर्शाती है। फिर भी, बाजार की प्रतिक्रिया इतनी गंभीर दिखती है कि बैंक और नियामक अब इसके निहितार्थों पर चर्चा कर रहे हैं।
वाशिंगटन के भीतर एक तीखा विरोधाभास
सबसे उल्लेखनीय बात अमेरिकी सरकार के भीतर स्पष्ट असंगति है। TechCrunch रिपोर्ट करता है कि Anthropic फिलहाल ट्रंप प्रशासन के खिलाफ अदालत में लड़ रही है, क्योंकि रक्षा विभाग ने कंपनी को सप्लाई-चेन जोखिम के रूप में वर्गीकृत किया है। रिपोर्ट के अनुसार, यह वर्गीकरण Anthropic के उस प्रयास पर असफल वार्ताओं के बाद आया जिसमें वह सरकार द्वारा अपने AI सिस्टम के उपयोग को सीमित करना चाहती थी।
यदि ट्रेजरी और फेडरल रिज़र्व वास्तव में बड़े बैंकों को Mythos का परीक्षण करने के लिए प्रेरित कर रहे हैं, जबकि रक्षा विभाग Anthropic को सप्लाई-चेन चिंता के रूप में देख रहा है, तो कंपनी एक बहुत सार्वजनिक नीति विरोधाभास के केंद्र में आ गई है। सरकार का एक हिस्सा मॉडल की उपयोगिता में रुचि दिखा रहा है; दूसरा स्वयं विक्रेता को राष्ट्रीय सुरक्षा से जुड़े अलार्म के साथ देख रहा है।
बैंक इसमें रुचि क्यों लेंगे
बड़े वित्तीय संस्थानों के लिए, कमजोरियों का पता लगाना कोई सीमित या विशिष्ट क्षमता नहीं है। बैंक जटिल तकनीकी ढांचे चलाते हैं, संवेदनशील डेटा संभालते हैं, और सिस्टम को घुसपैठ तथा विफलता से बचाने के लिए लगातार दबाव में रहते हैं। ऐसा मॉडल जो मौजूदा उपकरणों से अधिक प्रभावी ढंग से कमजोरियों की पहचान कर सके, रणनीतिक रूप से महत्वपूर्ण होगा, भले ही उस तक पहुंच कड़ी तरह नियंत्रित हो।
यही बात कथित बैठक को महत्वपूर्ण बनाती है। इससे संकेत मिलता है कि चर्चा अब केवल इस बारे में नहीं है कि कोई अग्रणी AI कंपनी शक्तिशाली सुरक्षा मॉडल बना सकती है या नहीं। सवाल यह है कि क्या विनियमित वित्तीय संस्थानों को नीति बहस के अभी भी अनसुलझे रहने के दौरान ऐसे मॉडल को वास्तविक जोखिम-प्रबंधन कार्यप्रवाहों में शामिल करना चाहिए।
नियामक अमेरिका से बाहर भी देख रहे हैं
चिंता सिर्फ वाशिंगटन तक सीमित नहीं है। TechCrunch Financial Times का हवाला देते हुए यह भी रिपोर्ट करता है कि ब्रिटेन के वित्तीय नियामक Mythos से उत्पन्न जोखिमों पर चर्चा कर रहे हैं। इससे यह कहानी अमेरिकी उद्योग-सरकार विकास से एक अंतरराष्ट्रीय नियामक मुद्दे में बदल जाती है।
जब अटलांटिक के दोनों किनारों पर नियामक एक ही मॉडल की संभावित जोखिम प्रोफ़ाइल की जांच शुरू करते हैं, तो यह आम तौर पर उत्पाद लॉन्च के उत्साह से परे किसी बड़े सवाल का संकेत होता है। इस मामले में सवाल यह है कि क्या कमजोरियों को अत्यधिक प्रभावी ढंग से उजागर करने वाली AI प्रणालियां रक्षात्मक लाभ अधिक देती हैं या आक्रामक जोखिम बढ़ाती हैं।
वर्तमान AI क्षण के बारे में यह कहानी क्या कहती है
Mythos तीन तनावों के संगम पर खड़ा है जो अब उन्नत AI तैनाती को परिभाषित कर रहे हैं। पहला है क्षमता बनाम नियंत्रण: एक मॉडल इसलिए उपयोगी हो सकता है क्योंकि वह कुछ ऐसा कर सकता है जिसे सावधानी से सीमित भी करना पड़ता है। दूसरा है अपनाने बनाम शासन: बड़े संस्थान नीति के स्थिर होने से पहले जल्दी पहुंच चाहते हैं। तीसरा है राज्य के भीतर असंगति: अलग-अलग एजेंसियां एक ही कंपनी को एक साथ रणनीतिक रूप से मूल्यवान और रणनीतिक रूप से जोखिमपूर्ण मान सकती हैं।
क्योंकि TechCrunch की रिपोर्ट अन्य रिपोर्टिंग पर आधारित है, सबसे सावधान पाठ भी सबसे सटीक है: वरिष्ठ अमेरिकी अधिकारी बैंकों को Mythos का परीक्षण करने के लिए प्रोत्साहित कर सकते हैं, और प्रमुख बैंक कथित तौर पर ऐसा कर रहे हैं। उस स्तर की सावधानी के बावजूद, यह विकास महत्वपूर्ण है। एक सीमित रूप से जारी मॉडल पहले ही इस बात की परीक्षा बन गया है कि सरकारें, नियामक और प्रणालीगत रूप से महत्वपूर्ण फर्में कैसे प्रतिक्रिया देती हैं जब कोई AI टूल कमजोरियों को उजागर करने में असामान्य रूप से मजबूत दिखता है।
यदि रिपोर्ट सही हैं, तो Mythos अब केवल Anthropic का उत्पाद लॉन्च नहीं रहा। यह अब एक जीवंत नीति कहानी है कि शक्तिशाली सुरक्षा क्षमताओं तक किसे पहुंच मिले, किस निगरानी के तहत, और किस स्तर के नियामकीय समन्वय के साथ।
यह लेख TechCrunch की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.
