अँथ्रॉपिकमधील अमांडा अॅस्केल आणि एजेंटिक एआयची नैतिकता

एजेंटिक एआयमुळे वेगळ्या प्रकारची नैतिक समस्या निर्माण होते, असे अँथ्रॉपिकचे म्हणणे आहे

कृत्रिम बुद्धिमत्ता प्रणाली चॅटच्या पलीकडे जाऊन अधिक स्वायत्त कामाच्या स्वरूपात प्रवेश करत असताना, त्यांच्याभोवतीचे नैतिक प्रश्नही बदलत आहेत. अँथ्रॉपिकच्या तांत्रिक कर्मचाऱ्यांपैकी एक असलेल्या अमांडा अॅस्केलनुसार, आव्हान आता एवढ्यापुरते मर्यादित नाही की एखादा मॉडेल योग्य आणि अयोग्य यावर विश्वासार्हपणे चर्चा करू शकतो का. एआय प्रणालीला दीर्घ काळ काम करायला सांगितले, वारंवार निवडी करायला सांगितल्या, आणि थेट मानवी देखरेख कमी असताना कार्य करायला सांगितले, तर ती कशी वागते याला अधिक महत्त्व आले आहे.

फास्ट कंपनीला दिलेल्या मुलाखतीत अॅस्केल यांनी या बदलाचे वर्णन एआयभोवतीच्या सुरक्षितता समस्येमधील मोठ्या बदलाप्रमाणे केले. नैतिक प्रश्नावर उत्तर देणारा चॅटबॉट ही एक गोष्ट. एखाद्या वापरकर्त्याच्या व्यवहारांसाठी प्रत्यक्षात अधिकार दिलेली प्रणाली ही पूर्णपणे वेगळी गोष्ट आहे.

सल्ल्यापासून कृतीपर्यंत

अॅस्केल यांचे उदाहरण वापराच्या दोन प्रकारांमध्ये स्पष्ट रेषा आखते. एका परिस्थितीत, एखादी व्यक्ती मॉडेलला विचारते की संरक्षण कंपनीत गुंतवणूक करणे नैतिक आहे का. दुसऱ्या परिस्थितीत, तोच व्यक्ती त्या प्रणालीला दैनंदिन देखरेख कमी ठेवून गुंतवणुकीचे व्यवस्थापन करण्याचा अधिकार देतो. पहिले संभाषण आहे. दुसरे प्रतिनिधीकृत निर्णय आहे.

हा फरक महत्त्वाचा आहे, कारण स्वायत्त प्रणाली अधिक निर्णयबिंदू निर्माण करतात. एखाद्या मॉडेलला कालांतराने एखादे उद्दिष्ट पुढे नेण्याची परवानगी मिळाल्यावर, त्याला देवाणघेवाणींना प्राधान्य द्यावे लागू शकते, अस्पष्ट सूचना समजून घ्याव्या लागू शकतात, किंवा अनपेक्षित परिस्थितींना प्रतिसाद द्यावा लागू शकतो. अशा प्रत्येक क्षणाचा नैतिक रचना समस्येचा भाग होतो.

मॉडेल्स “अधिक स्वायत्त” होत जातात आणि “दीर्घ क्षितिजांवर” कृती करतात, तसा विकासकांना अशा अनेक निर्णयबिंदूंचे आधीच नकाशांकन करावे लागते, असे अॅस्केल म्हणाल्या. प्रत्यक्ष अर्थाने याचा अर्थ असा की सुरक्षिततेचे काम अमूर्त तत्त्वांच्या पातळीवर न राहता एआय प्रणालींच्या कार्यरत वास्तवाच्या अधिक जवळ गेले पाहिजे.

वापरकर्त्यावर मात न करणारा नैतिक दिशा-सूचक

या समस्येबाबत अँथ्रॉपिकची पद्धत त्याच्या “संविधान” या संकल्पनेशी जोडलेली आहे: क्लॉडच्या वर्तनाला दिशा देण्यासाठी असलेली मूल्ये आणि तत्त्वांची लिखित चौकट. अॅस्केल म्हणाल्या की ही चौकट सध्या सुरक्षितता आणि उपयुक्तता यांसारख्या कल्पनांवर भर देते, आणि त्यांच्यातील संघर्ष सोडवण्यासाठी मार्गदर्शनही देते.

पण त्यांच्या टिप्पणीतील अधिक उलगडणारा मुद्दा म्हणजे त्या सहाय्यकाच्या भूमिकेकडे कसे पाहतात. क्लॉडला एका एकमेव नैतिक विश्वदृष्टीची अंमलबजावणी करणारी प्रणाली म्हणून सादर करण्याऐवजी, त्या सूचित करतात की ती वापरकर्त्यांना प्रतिसाद देणारी आणि विश्वासू सोबत्यासारखी त्यांच्या मूल्यांना समजून घेणारी असावी. त्यांच्या मते, उद्दिष्ट म्हणजे मॉडेलला स्वतःचा विचित्र नैतिक अजेंडा देणे टाळणे, आणि त्याच वेळी ती गुंतागुंतीच्या परिस्थिती जबाबदारीने हाताळू शकेल अशी ठेवणे.

ही व्यापक एआय चर्चेतली सूक्ष्म पण महत्त्वाची भूमिका आहे. याचा अर्थ असा की संरेखन म्हणजे केवळ धोकादायक आउटपुट्स मर्यादित करणे एवढेच नाही. वापरकर्त्यांच्या उद्दिष्टांशी जुळवून घेणारी, पण नैतिकदृष्ट्या कडक किंवा बेफिकीरपणे अतिशय परवानगी देणारी न बनणारी प्रणाली तयार करणेही त्यात समाविष्ट आहे.

संविधान वाढू शकते, किंवा आकुंचितही होऊ शकते

अॅस्केल यांच्या टिप्पण्यांतील एक रंजक पैलू म्हणजे अँथ्रॉपिकची नियमावली स्थिर म्हणून मांडलेली नाही. त्या म्हणाल्या की संविधान लिहिलेलेही आहे आणि विकसितही होत आहे. एआय प्रणाली अधिक सक्षम होत गेल्या, तर ती नवीन प्रकारच्या परिस्थिती समाविष्ट करण्यासाठी विस्तृत होऊ शकते. पण उलटही होऊ शकते: क्लॉड अधिक गुंतागुंतीच्या परिस्थितींमध्ये मार्ग काढण्यात अधिक कुशल झाला, तर दस्तऐवज लहानही होऊ शकतो.

यातून असे दिसते की अँथ्रॉपिक संरेखनाला स्थिर अनुपालन थर म्हणून नव्हे, तर सतत बदलणारे लक्ष्य म्हणून पाहते. जवळच्या काळात वाढलेल्या क्षमतांसाठी अधिक स्पष्ट मार्गदर्शन आवश्यक होऊ शकते. त्याच वेळी, प्रणाली स्वतःच कठीण संदर्भांमधून चांगले तर्क करू लागली, तर अधिक कौशल्यामुळे अखेरीस लांबलचक प्रक्रियात्मक नियमांची गरज कमी होऊ शकते.

तेथील ताणच एआय विकासाच्या सध्याच्या टप्प्याचे केंद्र आहे. उद्योग अधिक सर्वसाधारणपणे उपयुक्त आणि अधिक स्वयंपूर्णपणे सक्षम प्रणाली तयार करण्याचा प्रयत्न करत आहे, आणि त्याच वेळी त्या महत्त्वाच्या कामांसाठी विश्वास ठेवण्याइतक्या अंदाजे राहतील याची खात्रीही करत आहे.

अँथ्रॉपिकचे संशोधकही क्लॉडला मर्यादांसहच पाहतात

अॅस्केल यांनी एजेंटिक एआय त्यांचे स्वतःचे काम कसे बदलत आहे यावरही चर्चा केली. त्या म्हणाल्या की त्या क्लॉडचा नियमित वापर करतात, ज्यात त्यांच्या कल्पनांचे रेड-टीमिंग करणे आणि अपवादात्मक प्रकरणे पुढे आणणे यांचा समावेश आहे. हा तपशील महत्त्वाचा आहे, कारण तो एआय लॅब्जमध्ये आता सामान्य झालेला फीडबॅक लूप दाखवतो: संशोधक ज्या प्रणालींचे मूल्यांकन करत आहेत, त्याच प्रणाली मूल्यांकन प्रक्रियेत साधन म्हणून वापरत आहेत.

त्याच वेळी, विश्वासासाठी त्यांचा निकष सावधच आहे. क्लॉडला मानवी वैयक्तिक सहाय्यकापेक्षा अधिक विश्वासार्ह मानू नये, हेच त्यांचे सध्याचे मानक आहे, असे त्या म्हणाल्या. ज्या बाजारात उत्पादन संदेश प्रत्यक्ष कार्यक्षमतेपेक्षा पुढे जाऊ शकतात, तिथे हा उपयुक्त संकेत आहे.

ही टिप्पणी प्रणालीच्या उपयुक्ततेला कमी करत नाही. त्याऐवजी, ती सध्याच्या एजेंटिक एआयला अधिक वास्तववादी श्रेणीत ठेवते: उपयुक्त, अधिक सक्षम होत जाणारी, पण अजूनही अशी नाही की जिच्यावर निर्विवाद अधिकार द्यावा. एआय एजंट्स तैनात करण्याचा विचार करणाऱ्या व्यवसायांसाठी, मुलाखतीतून मिळणारा हा सर्वात व्यावहारिक निष्कर्ष असू शकतो.

अँथ्रॉपिकपलीकडे हे का महत्त्वाचे आहे

अॅस्केल यांच्या टिप्पण्यांचे महत्त्व एका कंपनीपुरते मर्यादित नाही. एआय क्षेत्राचा मोठा भाग आता अशा प्रणालींकडे वळत आहे ज्या कामे पूर्ण करू शकतात, साधनांचे समन्वय करू शकतात, आणि कमी मानवी सूचना घेऊन उद्दिष्टे पुढे नेऊ शकतात. हा बदल पुढे जात राहिला, तर प्रशासनाचा प्रश्न केवळ कंटेंट मॉडरेशनमधून वर्तनात्मक रचनेकडे वळतो.

याचा अर्थ असा की मॉडेल निर्मात्यांना प्रतिनिधीकरण, जबाबदारी आणि मूल्यांचे अर्थ लावणे याबद्दल कठीण प्रश्नांची उत्तरे द्यावी लागतील. एआय वापरकर्त्याच्या हितासाठी कार्य करते, याचा अर्थ काय? सूचना अपूर्ण असतील किंवा सुरक्षितता निर्बंधांशी संघर्ष करत असतील, तर ती कशी वागली पाहिजे? आणि एखादी प्रणाली सहाय्यक राहणे थांबवून जबाबदारीशून्य प्रॉक्सी बनण्यापूर्वी तिच्याकडे किती नैतिक विवेक असावा?

अँथ्रॉपिक या प्रश्नांची उत्तरे शोधून ठेवली आहेत असा दावा करत नाही. पण अॅस्केल यांची मांडणी हे स्पष्ट करते की एआय स्पर्धेचा पुढचा टप्पा केवळ बेंचमार्क्स आणि वैशिष्ट्यांवर ठरणार नाही. स्वायत्त प्रणाली उपयुक्त ठेवूनही त्यांना अनिश्चित न बनवता येईल का, यावरही तो घडेल.

मुख्य मुद्दे

• एआय प्रश्नांची उत्तरे देण्यापासून कालांतराने कृती करण्याकडे वळतो तेव्हा नैतिक आव्हान बदलते, असे अँथ्रॉपिक म्हणते.
• सुरक्षितता आणि उपयुक्तता यांसारख्या मूल्यांवर केंद्रित, विकसित होत असलेल्या लिखित संविधानाद्वारे कंपनी क्लॉडला मार्गदर्शन करते.
• क्लॉडवरील सध्याचा विश्वास एखाद्या मानवी वैयक्तिक सहाय्यकापेक्षा जास्त नसावा, असे अमांडा अॅस्केल म्हणतात.

हा लेख फास्ट कंपनी च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.