AGI नियंत्रणाचा प्रश्न क्षमता पासून सत्तेकडे वळत असताना OpenAI ने पाच मार्गदर्शक तत्त्वे मांडली

OpenAI ने AGI ला केवळ तांत्रिक नव्हे, तर राजकीय आणि आर्थिक प्रश्न म्हणून मांडले

chief executive Sam Altman यांच्या नव्या principles statement च्या माध्यमातून OpenAI ने advanced artificial intelligence च्या भविष्याबाबत व्यापक भूमिका मांडली: निर्णायक मुद्दा फक्त performance नाही, तर governance, access, आणि powerचे वितरण आहे.

कंपनी म्हणते की तिचे mission अजूनही artificial general intelligence मुळे संपूर्ण मानवजातीला लाभ व्हावा हे सुनिश्चित करणे आहे. नव्या post मध्ये Altman पाच तत्त्वे मांडतात, जी OpenAI त्यांच्या कामासाठी मार्गदर्शक मानते; प्रकाशित मजकूर विशेषतः democratization, empowerment, आणि universal prosperity यांवर लक्ष केंद्रित करतो.

हे निवेदन एक values document आणि positioning move, दोन्ही म्हणून वाचले जाते. AI systems अधिक सक्षम आणि सार्वजनिक जीवनात अधिक खोलवर मिसळत असताना, labs ना ते कसे बांधतात हेच नव्हे, तर त्या systems ने कोणत्या प्रकारचा सामाजिक क्रम समर्थित करावा असे त्यांना वाटते, हेही स्पष्ट करण्याचा दबाव वाढत आहे.

यादीत सर्वात वर democratization

post मधील पहिले तत्त्व democratization आहे. superintelligence काही मोजक्या कंपन्यांच्या हाती power केंद्रीत करू नये, अशा भविष्यास OpenAI विरोध करते. त्याऐवजी capability अधिक decentralized पद्धतीने पसरावी आणि AI संबंधी महत्त्वाचे निर्णय केवळ AI labs ने नाही, तर democratic processes आणि egalitarian principles द्वारे घेतले जावेत, असे ते म्हणते.

हे framing महत्त्वाचे आहे, कारण ते सध्याच्या AI चक्रातील एक निर्णायक तणाव OpenAI च्या संदर्भात ठेवते. सर्वात advanced models साठी प्रचंड compute, talent, आणि capital लागते. या वास्तवामुळे development नैसर्गिकरित्या काहीच संस्थांमध्ये केंद्रीत होते. OpenAI चे निवेदन हा धोका थेट मान्य करते आणि broad access ला broad participation in decision-making सोबत जोडण्याचा राजकीय सिद्धांत मांडते.

ही भाषा aspirational आहे, पण strategic देखील आहे. frontier systems तयार करणारी कंपनी स्पष्टपणे म्हणते की future ठरवण्याचा अधिकार केवळ frontier companies कडे असू नये.

Empowerment ला product test म्हणून मांडले आहे

दुसरे तत्त्व empowerment आहे. AI लोकांना उद्दिष्टे साध्य करण्यास, अधिक शिकण्यास, त्यांची ध्येये पुढे नेण्यास, आणि अधिक समाधानकारक जीवन जगण्यास मदत करू शकते, आणि त्यामुळे समाजाचा एकूण फायदा होईल, असे OpenAI म्हणते. त्या वचनाला प्रत्यक्षात आणण्यासाठी अशी products हवीत जी users ना increasingly valuable tasks पूर्ण करण्यास सक्षम करतात, असा कंपनीचा युक्तिवाद आहे.

या भागात philosophy आणि product utility यांना किती जवळून जोडले आहे, हे लक्षवेधी आहे. OpenAI empowerment ला abstract moral benefit म्हणून मांडत नाही. ते त्याची operational व्याख्या करते: users या systems सोबत विश्वासार्हपणे meaningful work करू शकले पाहिजेत.

post autonomy वरही भर देते. जग विविध आहे, आणि लोकांच्या गरजा वेगवेगळ्या आहेत, असे त्यात म्हटले आहे. deployment harm कमी राहील अशा प्रकारे व्यवस्थापित केले तर users ना आपल्या सेवांचा वापर कसा करायचा याबाबत broad latitude द्यायला हवी, असे OpenAI म्हणते.

ही जोडी AI policy मधील ओळखीची समतोलता दर्शवते. कंपनी user freedom आणि capability वाढवू इच्छिते, पण ज्या ठिकाणी risk अजूनही अनिश्चित किंवा महत्त्वाचा आहे तिथे restrictions कायम ठेवू इच्छिते. अनिश्चित परिस्थितीत सावध बाजूने झुकणे आणि अधिक evidence मिळाल्यावरच constraints कमी करणे गरजेचे ठरू शकते, असे Altman लिहितात.

Universal prosperity तर्काला softwareच्या पलीकडे नेते

उपलब्ध मजकुरात नमूद केलेले तिसरे तत्त्व universal prosperity आहे. प्रत्येकाला उत्तम जीवन मिळावे असे OpenAI म्हणते, आणि substantial compute power असलेल्या easy-to-use AI systems सर्वांच्या हातात दिल्यास लोक value निर्माण करण्याचे नवे मार्ग शोधू शकतील, असा युक्तिवाद करते.

हा मुद्दा consumer tools आणि enterprise productivity पलीकडे economics कडे चर्चा नेतो. advanced AI ला opportunity, wealth creation, आणि social mobility वर परिणाम करणारी general-purpose system म्हणून OpenAI पाहते, असे यातून सूचित होते; ती फक्त एक नवी software category नाही.

इथे उपलब्ध मर्यादित मजकुरातही युक्तिवादाची रचना स्पष्ट आहे. कंपनी AI ला individual agency नाट्यमयरीत्या वाढवणारी शक्ती म्हणून मांडते, पण केवळ access व्यापक असेल आणि benefits infrastructure मालकांच्या हातातच एकवटले जाणार नाहीत, तेव्हाच.

वाढत्या scrutiny ला प्रतिसाद

हे principles post अशा वेळी आले आहे, जेव्हा AI कंपन्यांना governments, researchers, labor groups, creators, आणि civil society कडून वाढते प्रश्न भेडसावत आहेत. हे प्रश्न आता केवळ model safety किंवा benchmark performance इतके मर्यादित नाहीत. त्यात market concentration, public accountability, social impact, आणि व्यापक civic consequences असलेल्या technologies साठी private actors de facto rules ठरवण्याची वैधता यांचाही समावेश होतो.

OpenAI चा प्रतिसाद असा आहे की तंत्रज्ञानाचा upside प्रचंड असू शकतो, पण परिणाम निश्चित नाही. post म्हणते की future पूर्णपणे चांगला किंवा पूर्णपणे वाईट नसेल, आणि आत्ताच घेतलेले निर्णय चांगले पैलू कमाल करण्यास मदत करू शकतात. हे एक pragmatic formulation आहे. ते simple inevitability आणि simple catastrophe दोन्ही नाकारते, आणि त्याला governance challenge मध्ये रूपांतरित करते.

त्याच वेळी, हे निवेदन कोणत्याही मोठ्या AI कंपनीसाठी सोडवणे कठीण असा एक tension अधोरेखित करते. decentralization चे समर्थन घोषित करणे, scarce compute आणि मोठ्या capital requirements असलेल्या क्षेत्रात ते रचनात्मक पातळीवर साध्य करण्यापेक्षा सोपे आहे. तसेच democratic input ची बाजू मांडणे, कोणती institutions ती authority वापरणार आणि कशी, हे स्पष्ट करण्यापेक्षा सोपे आहे.

हे निवेदन महत्त्वाचे का आहे

Principles documents नीति-विवाद संपवत नाहीत. मात्र कंपन्या कशासाठी accountable व्हायचे आहे आणि लोकांनी त्यांची भूमिका कशी समजावी अशी त्यांची इच्छा आहे, हे ते दाखवतात. या प्रकरणात OpenAI वाचकांना सांगत आहे की त्यांची self-conception शक्तिशाली models बांधण्यापलीकडे जाते. advanced AI समाजापर्यंत कशा अटींवर पोहोचते, त्या अटी घडवणारी संस्था म्हणून पाहिले जावे अशी त्यांची इच्छा आहे.

म्हणूनच हे post सामान्य असले तरी महत्त्वाचे आहे. कंपनी सार्वजनिकपणे तीन परस्पर जोडलेले दावे करत आहे: AI व्यापकपणे वितरित झाले पाहिजे, त्याने मानवी क्षमता वाढवली पाहिजे, आणि त्याने व्यापकपणे वाटलेली prosperity समर्थित केली पाहिजे. आता या दाव्यांचे मोजमाप OpenAI च्या products, restrictions, partnerships, आणि राजकीय निवडींवर केले जाईल.

AGI debate परिपक्व होत असताना, अशा statements उद्योगकथेचा मोठा भाग बनण्याची शक्यता आहे. अजूनही headlines capability चालवते. पण control, access, आणि legitimacy increasingly ठरवतात की जनता त्या capability ला progress म्हणून पाहते की नाही.

हा लेख OpenAI च्या reporting वर आधारित आहे. मूळ लेख वाचा.