Anthropic ने बंधनकारक ऑडिटची मागणी करत AI ला धोरणात्मक पायाभूत सुविधा म्हणून पुन्हा मांडले

Anthropic पारदर्शकतेपासून अंमलबजावणीकडे वळत आहे

Anthropic ने एक नवे धोरणात्मक निवेदन प्रकाशित केले आहे, ज्यातून त्यांच्या भूमिकेत लक्षणीय बदल दिसतो: फ्रंटियर AI साठी आता केवळ पारदर्शकतेच्या अटी पुरेशा नाहीत. Policy on the AI Exponential या निबंधात CEO Dario Amodei म्हणतात की मॉडेल क्षमता इतक्या वेगाने वाढत आहेत की बंधनकारक ऑडिट, औपचारिक प्रकटीकरणाच्या अटी, आणि अस्वीकार्य जोखीम निर्माण करणाऱ्या प्रणालींना रोखण्यासाठी सरकारी संस्थेला अधिकार देणे आवश्यक आहे.

कंपनीने या निबंधासोबत दोन फ्रेमवर्कही दिले, एक फ्रंटियर AI चे नियमन करण्यावर केंद्रित आणि दुसरे AI तैनातीमुळे होऊ शकणाऱ्या रोजगार हानीवर उपाय करण्यावर. रोजगार-हानी फ्रेमवर्कला मोठ्या निधीसह पाठिंबा देण्यास तयार असल्याचे Anthropic म्हणते. पण या नव्या पॅकेजचा केंद्रबिंदू नियामक वळण आहे. कंपनी आता फ्रंटियर-मॉडेल गव्हर्नन्सला मुख्यतः अहवाल आणि पारदर्शकतेचा विषय न मानता तांत्रिक तपासणी आणि रिलीजपूर्व नियंत्रणाचा विषय म्हणून मांडत आहे.

Anthropicचा युक्तिवाद काय आहे

स्रोताच्या मते, Amodei यांचा युक्तिवाद गतीपासून सुरू होतो. ते म्हणतात की AI क्षमता वाढ scaling laws मुळे होत आहे आणि एक ते दोन वर्षांत जग “Powerful AI” पाहू शकते, ज्याचे वर्णन ते “डेटा सेंटरमधील बुद्धिमान लोकांचा एक देश” असे करतात. ही चौकट एकाच वेळी दोन गोष्टी करते. पहिले, ती वेगवर्धन अधोरेखित करते. दुसरे, ती फ्रंटियर AI ला व्यावसायिक साधनाऐवजी धोरणात्मक पायाभूत सुविधेसारखे उंचावते.

Anthropic च्या निबंधात जलद तांत्रिक बदल आणि मंद राजकीय प्रतिसाद यांतील तफावत समजावण्यासाठी Lord of the Rings उपमा वापरली गेल्याचे सांगितले जाते. त्या कथेत Treebeard राजकीय व्यवस्थेचे प्रतीक आहे, इशारा देणाऱ्या आवाजांचा अर्थ लवकर कारवाईसाठी दबाव आणणारे लोक, आणि पुढे सरकत असलेला धोका म्हणजे अनियंत्रित AI. ती उपमा नाट्यमय आहे, पण धोरणात्मक निष्कर्ष सोपा आहे: संस्था नेहमीच्या वेळापत्रकानुसार हलल्या, तर त्या खूप उशिरा प्रतिसाद देतील.

जुना दृष्टिकोन का चालत नाही असे कंपनी म्हणते

स्रोत सांगतो की आधी Anthropic पारदर्शकतेवर भर देत असे, कारण धोके अजून इतके स्पष्ट नव्हते की अधिक अचूक नियमन करता येईल. त्यांनी California च्या SB 53, New York च्या RAISE, आणि Illinois च्या SB 315 सारख्या पारदर्शकता-केंद्रित कायद्यांना पाठिंबा दिला होता. आता ही भूमिका बदलली आहे.

पुरावा म्हणून Amodei “Claude Mythos Preview” च्या अनुभवाकडे निर्देश करतात, ज्याने जागतिक सायबरसुरक्षा परिदृश्यात अडथळा आणला आणि फ्रंटियर मॉडेल्स आर्थिक क्षेत्र, महत्त्वपूर्ण पायाभूत सुविधा, आणि राष्ट्रीय सुरक्षेसाठी वास्तविक जोखीम निर्माण करू शकतात हे दाखवले, असे स्रोत म्हणतो. Anthropic ला असेही वाटते की गंभीर जैविक आणि स्वायत्तता-संबंधित जोखीम तुलनेने लवकर निर्माण होऊ शकतात. दुसऱ्या शब्दांत, सैद्धांतिक चिंता आता व्यावहारिक इशाऱ्यात रूपांतरित झाली आहे, असे कंपनीचे म्हणणे आहे.

ही एक महत्त्वाची मर्यादा आहे. एखादी लॅब कडक नियम मागते, हे अनपेक्षित नाही. पण स्वतःच्या अलीकडील मॉडेल अनुभवातूनच पारदर्शकता आता पुरेशी नाही हे दिसते असे एखादी लॅब सांगते, तेव्हा त्या युक्तिवादाला अधिक वजन मिळते, जरी टीकाकार नक्कीच विचारतील की यात किती तत्त्व आहे आणि किती रणनीती.

Anthropic सरकारांकडून काय अपेक्षा करते

प्रस्तावित फ्रेमवर्क चार जोखीम श्रेणींमध्ये पात्र तृतीय पक्षांकडून अनिवार्य चाचण्यांवर केंद्रित आहे: सायबरसुरक्षा, जैविक शस्त्रे, AI प्रणालींवर नियंत्रण गमावणे, आणि त्या जोखमी वाढवू शकणारे स्वयंचलित संशोधन आणि विकास. Anthropic इच्छिते की सरकारी संस्थेकडे फक्त प्रकटीकरणे स्वीकारण्याचीच नव्हे, तर मानक पूर्ण न करणारी मॉडेल्स रोखण्याची किंवा परत घेण्याचीही सत्ता असावी.

स्रोत सांगतो की Amodei Federal Aviation Administration ला एक नमुना म्हणून पाहतात. ही तुलना महत्त्वाची आहे. विमान केवळ उत्पादक सुरक्षित असल्याचे म्हणतो म्हणून सार्वजनिक वापरासाठी मंजूर होत नाही. त्याची तपासणी, चाचणी, प्रमाणन केले जाते, आणि आवश्यक असल्यास हस्तक्षेपही होतो. फ्रंटियर AI नेही अशाच प्रणालीकडे जावे, जिथे रिलीज ही फक्त सूचना-अटी पूर्ण करण्यावर नव्हे, तर तांत्रिक जोखीम-आढावा पार करण्यावर अवलंबून असेल, असा Anthropicचा युक्तिवाद दिसतो.

ही मागील काळात बहुतेक तंत्रज्ञान कंपन्यांनी पसंत केलेल्या दृष्टिकोनापेक्षा अधिक कडक नियमनाची दृष्टी आहे. याचा अर्थ केवळ मानके नव्हे, तर अंमलात आणता येणारी देखरेख आणि शिपमेंट उशिरा होण्याची किंवा नाकारली जाण्याची शक्यता. धोरणाच्या भाषेत, हे पारदर्शकतेद्वारे शासनापासून परवानगीद्वारे शासनाकडे होणारे संक्रमण आहे.

AI ला राष्ट्रीय सुरक्षेचा मुद्दा मानणे

स्रोताच्या मते, Anthropic AI ला राष्ट्र-राज्यांकडून वापरल्या जाणाऱ्या धोरणात्मक शस्त्रासारखे अधिकाधिक दाखवत आहे. त्यामुळेच या प्रस्तावाची तातडी स्पष्ट होते. फ्रंटियर मॉडेल्स जर मुख्यतः उत्पादकता साधने मानली गेली, तर प्रकटीकरण आणि बाजारशिस्त पुरेशी वाटू शकते. पण जर त्यांना सायबर आक्रमण, महत्त्वपूर्ण पायाभूत सुविधा, जैव-सुरक्षा, आणि भू-राजकीय स्पर्धेवर परिणाम करणाऱ्या प्रणाली मानले, तर तैनातीपूर्व नियंत्रण अधिक व्यवहार्य दिसू लागते.

म्हणूनच Anthropic ने अधोरेखित केलेली चार जोखीम क्षेत्रे इतकी विशिष्ट आहेत. कंपनी सामान्य नैतिक पुनरावलोकनाची मागणी करत नाही. ती लक्ष्यित चाचणीची मागणी करत आहे, जिथे क्षमता वाढ उच्च-परिणामी गैरवापर किंवा प्रणालीगत अपयशात रूपांतरित होऊ शकते. गृहितक असे आहे की धोका AI या संकल्पनेत नसून, फ्रंटियर क्षमतांच्या अशा उपसमूहात आहे जो आधीच धोकादायक क्षेत्रांना आणखी बळकट करू शकतो.

कडक नियम मागण्याची राजकारण

कोणाने नियम लिहावेत, किंवा खाजगी लॅब्ज अस्तित्वातील कंपन्यांना फायदा होईल अशा प्रकारे नियम आकारण्याचा प्रयत्न करत आहेत का, हे प्रश्न Anthropic च्या प्रस्तावामुळे संपणार नाहीत. हे प्रश्न अपरिहार्य आहेत. पण नव्या दस्तऐवजांचे महत्त्व असे की ते दाखवतात की सर्वाधिक ओळखल्या जाणाऱ्या AI कंपन्यांपैकी एक सार्वजनिकपणे असा निष्कर्ष काढत आहे की तिची आधीची नियामक पसंती आता अपुरी आहे.

हा बदल महत्त्वाचा आहे, जरी सरकारांनी अजेंड्याचा काही भागच स्वीकारला तरी. मोठ्या लॅब्जने अनिवार्य तृतीय-पक्ष ऑडिट आणि रिलीज रोखण्याच्या एजन्सी-स्तरीय अधिकारासाठी युक्तिवाद सुरू केल्यानंतर, चर्चा स्वैच्छिक वचनांपलीकडे जाते. ती संस्थात्मक रचना कशी असावी याचा प्रश्न बनते: कोण तपासेल, कोण निर्णय घेईल, हस्तक्षेप कशामुळे सुरू होईल, आणि लॉन्चपूर्वी कंपन्यांनी किती क्षमता पुरावे उघड करावे लागतील.

व्यापक परिणाम असलेला धोरणात्मक वळण

Anthropic च्या हस्तक्षेपाचा सर्वात परिणामकारक भाग कदाचित त्याची वेळ असू शकते. कंपनी म्हणते की पुढील एक ते दोन वर्षांत सध्याच्या सार्वजनिक वापरातील प्रणालींपेक्षा खूप अधिक सक्षम प्रणाली येऊ शकतात. धोरणकर्त्यांनी ती वेळापत्रक मान्य केले, तर देखरेख संरचना उभी करण्यासाठीची खिडकी लहान आहे. त्यांनी ते नाकारले, तरी frontier models साठी रिलीजपूर्व ऑडिटची गरज ही कल्पना सामान्य करून Anthropic चे फ्रेमवर्क भविष्यातील नियमांच्या स्वरूपावर परिणाम करू शकते.

कोणत्याही परिस्थितीत, कंपनी AI धोरण चर्चेचे केंद्र पुन्हा परिभाषित करण्यात मदत करत आहे. आता युक्तिवाद फक्त इतकाच नाही की AI कंपन्यांनी अधिक खुले असावे. तर काही मॉडेल्स इतकी निर्णायक असू शकतात की त्यांना बाह्य तांत्रिक पुनरावलोकन आणि “नाही” म्हणण्याची राज्याची सत्ता नसताना रिलीज करता कामा नये, हा मुद्दा आहे.

हे सुरुवातीच्या AI धोरण वादांवर वर्चस्व गाजवलेल्या शासन-सिद्धांतापेक्षा खूपच अधिक आक्रमक आहे. हे फ्रंटियर प्रणालींच्या वाढत्या महत्त्वाकांक्षेला, आणि काही निर्मात्यांमध्ये पारदर्शकता एकटी पुढचे पाऊल रोखू शकत नाही या वाढत्या विश्वासाला दर्शवते.

This article is based on reporting by The Decoder. Read the original article.