अमेरिकी आदेशानंतर Anthropic प्रगत मॉडेल्स बंद करणार

अमेरिकी आदेशामुळे अचानक model shutdown करावा लागत असल्याचे Anthropic म्हणते

दिलेल्या अहवालानुसार, परदेशी नागरिकांसाठी प्रवेश स्थगित करण्याचा अमेरिकन सरकारचा आदेश मिळाल्यानंतर Anthropic आपली सर्वाधिक प्रगत AI मॉडेल्स निष्क्रिय करणार आहे, असे कंपनीने सांगितले. या कारवाईचा परिणाम कंपनीच्या Fable 5 आणि Mythos 5 मॉडेल्सवर होतो आणि राष्ट्रीय सुरक्षेशी संबंधित चिंतांशी निगडित एक तात्काळ compliance पाऊल म्हणून Anthropic ने ते मांडले.

हा विकास AI नियंत्रणांबाबत सरकारी दृष्टिकोनात झालेल्या तीव्र कठोरतेचे द्योतक आहे. अनेक वर्षांपासून अमेरिकेतील निर्बंध प्रामुख्याने advanced AI तयार करण्यासाठी आवश्यक chips, semiconductor tools आणि इतर infrastructure वर केंद्रित होते. स्रोतामध्ये वर्णन केलेला हा आदेश नियंत्रणाची रेषा model-च्या अधिक जवळ आणतो, कारण तो आता कोणाला access मिळू शकतो हे मर्यादित करतो.

Anthropic ला काय सांगण्यात आले

मूळ मजकुरानुसार, Anthropic ला एक export control directive मिळाली ज्यात Fable 5 आणि Mythos 5 चा access सर्व foreign nationals साठी स्थगित करण्याचे आदेश होते. त्या आदेशामागील राष्ट्रीय सुरक्षा चिंता कोणती होती याबाबत कंपनीला विशिष्ट तपशील देण्यात आले नाहीत, असेही कंपनीने सांगितले.

Anthropic च्या मते, सरकारचे असे मत आहे की Fable 5 ला software vulnerabilities ओळखण्यासाठी वापरण्यापासून रोखणाऱ्या किमान एका सुरक्षा यंत्रणेला bypass किंवा “jailbreak” करण्याचा मार्ग असू शकतो. दुसऱ्या शब्दांत, मजबूत क्षमता असलेल्या model चा वापर करून software systems मधील exploit होऊ शकणाऱ्या कमकुवत जागा शोधण्यात मदत मिळू शकते, हीच चिंता दिसते.

कंपनीने या कारणमीमांसेला विरोध केला. दिलेल्या अहवालात Anthropic ने सांगितले की त्यांना फक्त verbal evidence देण्यात आले, ज्याला त्यांनी Fable 5 विरोधातील एक संभाव्य, मर्यादित, universal नसलेला jailbreak असे म्हटले. इतक्या मोठ्या संख्येने लोक वापरत असलेल्या commercial model ला recall करण्यासाठी अशी निष्कर्षे पुरेशी नसल्याचे कंपनीचे म्हणणे होते.

AI export policy मधील नवा टप्पा

हा वाद महत्त्वाचा आहे, कारण तो AI regulation मधील नव्या सीमारेषेचे संकेत देतो. Export controls परंपरेने भौतिक आणि तांत्रिक supply chain वर केंद्रित राहिले आहेत: advanced chips, lithography equipment आणि संबंधित tools. AI services वर प्रवेश मर्यादित करणे ही वेगळी आणि संभाव्यतः अधिक विघातक यंत्रणा आहे, विशेषतः जेव्हा cloud access hardware न पाठवता models जागतिक स्तरावर वापरता येतात.

frontier models वरचा प्रवेश nationality च्या आधारावर मर्यादित करता आला, तर defense आणि dual-use उद्योगांमध्ये आधीपासून सामान्य असलेल्या export-screening व्यवस्थांसारखा नवा compliance भार AI कंपन्यांवर येऊ शकतो. प्रभावित वापरकर्त्यांना Anthropic तांत्रिकदृष्ट्या कसे वेगळे करेल, हे स्रोतात स्पष्ट नाही; मात्र त्यांच्या निवेदनातून कंपनीने अनिश्चिततेत संकुचित rollout ऐवजी विस्तृत shutdown दृष्टिकोन स्वीकारल्याचे दिसते.

Anthropic आणि Washington मधील तणाव

हा आदेश आधीपासून तणावपूर्ण असलेल्या Anthropic-अमेरिकी सरकार संबंधांच्या पार्श्वभूमीवर आला आहे. या वर्षाच्या सुरुवातीला Anthropic ने आपल्या AI models चा domestic surveillance आणि पूर्णपणे autonomous weapons systems साठी US military ला वापर करू न देण्यास नकार दिल्यानंतर संबंध बिघडल्याचे स्रोत सांगतो. प्रत्युत्तरादाखल सरकारने कंपनीला supply chain blacklist मध्ये टाकले, जी वर्षाच्या पुढील टप्प्यात लागू होणार होती.

ही पार्श्वभूमी महत्त्वाची आहे, कारण ती हा नवीन आदेश एखाद्या वेगळ्या तांत्रिक वादापेक्षा मोठ्या संघर्षाचा भाग म्हणून दाखवते. AI कंपन्यांनी राज्यसत्तेशी कितपत सहकार्य करावे, defense use साठी स्वीकार्य मर्यादा कुठे असाव्यात, आणि privately developed models वर सरकारांनी किती प्रभाव टाकावा, या मोठ्या संघर्षाच्या मध्यभागी हा विषय येतो.

Anthropic आणि Trump administration अधिकाऱ्यांमध्ये अलीकडे काही सौम्यतेची चिन्हे दिसत होती, असेही अहवालात म्हटले आहे. नवीन आदेश त्या समजुतीच्या विरुद्ध आहे आणि मूळ संघर्ष अजूनही सुटलेला नाही हे सूचित करतो.

Jailbreak प्रश्न का महत्त्वाचा आहे

Anthropic ने हा विषय सरकारांनी jailbreak risk कसा मोजावा यावरील वाद म्हणून मांडला. दिलेल्या वर्णनानुसार, काही दिवस आधीच कंपनीने अधिक US oversight ची मागणी केली होती, ज्यात unacceptable risks असलेल्या models ला थांबवण्याचा अधिकारही समाविष्ट होता. पण शुक्रवारी घेतलेली कारवाई त्यांच्या मते तत्त्वनिष्ठ किंवा पुराव्यावर आधारित प्रक्रियेनुसार झालेली नव्हती.

हा फरक केंद्रस्थानी आहे. AI कंपन्या हळूहळू काही प्रमाणात oversight अपरिहार्य आहे हे स्वीकारत आहेत, आणि काही जण त्याचे समर्थनही करतात. कठीण प्रश्न असा की, हस्तक्षेपाची मर्यादा कोणती? जर एका मर्यादित safeguard bypass मुळेच मोठ्या commercial model चा आंतरराष्ट्रीय access बंद होऊ शकतो, तर जवळपास कोणतीही advanced system अचानक निर्बंधांच्या कक्षेत येऊ शकते, असे कंपन्या म्हणू शकतात. दुसरीकडे, regulators त्याच गोष्टीला लवकर कारवाईचे कारण मानू शकतात.

विस्तृत उद्योगासाठी संकेत

हा अहवालित आदेश प्रत्येक frontier AI developer नी बारीक लक्ष देऊन पाहण्याची शक्यता आहे. अधिक तांत्रिक तपशील नसतानाही, राष्ट्रीय सुरक्षा गुंतलेली आहे असे वाटल्यास US अधिकारी model access वर थेट कारवाई करण्यास तयार असू शकतात, हे यातून दिसते. यामुळे एकाच platform द्वारे जागतिक वापरकर्त्यांना सेवा देणाऱ्या providers साठी नवी अनिश्चितता निर्माण होते.

Anthropic साठी तात्काळ परिणाम operational आणि reputational disruption असा आहे. विस्तृत उद्योगासाठी, ही घटना एक precedent बनू शकते. सरकारे AI hardware नियंत्रित करण्यापासून service form मध्ये AI capabilities नियंत्रित करण्याकडे वळली, तर कंपन्यांना अधिक मजबूत screening, स्पष्ट deployment tiers आणि अधिक defend करण्याजोगी safety arguments लागतील. दिलेल्या अहवालानुसार, हा बदल आधीच सुरू झाला असावा.

हा लेख The Guardian च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.