AGI नियंत्रणाचा प्रश्न क्षमता पासून सत्तेकडे वळत असताना OpenAI ने पाच मार्गदर्शक तत्त्वे मांडली

Empowerment ला product test म्हणून मांडले आहे

दुसरे तत्त्व empowerment आहे. AI लोकांना उद्दिष्टे साध्य करण्यास, अधिक शिकण्यास, त्यांची ध्येये पुढे नेण्यास, आणि अधिक समाधानकारक जीवन जगण्यास मदत करू शकते, आणि त्यामुळे समाजाचा एकूण फायदा होईल, असे OpenAI म्हणते. त्या वचनाला प्रत्यक्षात आणण्यासाठी अशी products हवीत जी users ना increasingly valuable tasks पूर्ण करण्यास सक्षम करतात, असा कंपनीचा युक्तिवाद आहे.

या भागात philosophy आणि product utility यांना किती जवळून जोडले आहे, हे लक्षवेधी आहे. OpenAI empowerment ला abstract moral benefit म्हणून मांडत नाही. ते त्याची operational व्याख्या करते: users या systems सोबत विश्वासार्हपणे meaningful work करू शकले पाहिजेत.

post autonomy वरही भर देते. जग विविध आहे, आणि लोकांच्या गरजा वेगवेगळ्या आहेत, असे त्यात म्हटले आहे. deployment harm कमी राहील अशा प्रकारे व्यवस्थापित केले तर users ना आपल्या सेवांचा वापर कसा करायचा याबाबत broad latitude द्यायला हवी, असे OpenAI म्हणते.

ही जोडी AI policy मधील ओळखीची समतोलता दर्शवते. कंपनी user freedom आणि capability वाढवू इच्छिते, पण ज्या ठिकाणी risk अजूनही अनिश्चित किंवा महत्त्वाचा आहे तिथे restrictions कायम ठेवू इच्छिते. अनिश्चित परिस्थितीत सावध बाजूने झुकणे आणि अधिक evidence मिळाल्यावरच constraints कमी करणे गरजेचे ठरू शकते, असे Altman लिहितात.

Universal prosperity तर्काला softwareच्या पलीकडे नेते

उपलब्ध मजकुरात नमूद केलेले तिसरे तत्त्व universal prosperity आहे. प्रत्येकाला उत्तम जीवन मिळावे असे OpenAI म्हणते, आणि substantial compute power असलेल्या easy-to-use AI systems सर्वांच्या हातात दिल्यास लोक value निर्माण करण्याचे नवे मार्ग शोधू शकतील, असा युक्तिवाद करते.

हा मुद्दा consumer tools आणि enterprise productivity पलीकडे economics कडे चर्चा नेतो. advanced AI ला opportunity, wealth creation, आणि social mobility वर परिणाम करणारी general-purpose system म्हणून OpenAI पाहते, असे यातून सूचित होते; ती फक्त एक नवी software category नाही.

इथे उपलब्ध मर्यादित मजकुरातही युक्तिवादाची रचना स्पष्ट आहे. कंपनी AI ला individual agency नाट्यमयरीत्या वाढवणारी शक्ती म्हणून मांडते, पण केवळ access व्यापक असेल आणि benefits infrastructure मालकांच्या हातातच एकवटले जाणार नाहीत, तेव्हाच.

वाढत्या scrutiny ला प्रतिसाद

हे principles post अशा वेळी आले आहे, जेव्हा AI कंपन्यांना governments, researchers, labor groups, creators, आणि civil society कडून वाढते प्रश्न भेडसावत आहेत. हे प्रश्न आता केवळ model safety किंवा benchmark performance इतके मर्यादित नाहीत. त्यात market concentration, public accountability, social impact, आणि व्यापक civic consequences असलेल्या technologies साठी private actors de facto rules ठरवण्याची वैधता यांचाही समावेश होतो.

OpenAI चा प्रतिसाद असा आहे की तंत्रज्ञानाचा upside प्रचंड असू शकतो, पण परिणाम निश्चित नाही. post म्हणते की future पूर्णपणे चांगला किंवा पूर्णपणे वाईट नसेल, आणि आत्ताच घेतलेले निर्णय चांगले पैलू कमाल करण्यास मदत करू शकतात. हे एक pragmatic formulation आहे. ते simple inevitability आणि simple catastrophe दोन्ही नाकारते, आणि त्याला governance challenge मध्ये रूपांतरित करते.

त्याच वेळी, हे निवेदन कोणत्याही मोठ्या AI कंपनीसाठी सोडवणे कठीण असा एक tension अधोरेखित करते. decentralization चे समर्थन घोषित करणे, scarce compute आणि मोठ्या capital requirements असलेल्या क्षेत्रात ते रचनात्मक पातळीवर साध्य करण्यापेक्षा सोपे आहे. तसेच democratic input ची बाजू मांडणे, कोणती institutions ती authority वापरणार आणि कशी, हे स्पष्ट करण्यापेक्षा सोपे आहे.

हे निवेदन महत्त्वाचे का आहे

Principles documents नीति-विवाद संपवत नाहीत. मात्र कंपन्या कशासाठी accountable व्हायचे आहे आणि लोकांनी त्यांची भूमिका कशी समजावी अशी त्यांची इच्छा आहे, हे ते दाखवतात. या प्रकरणात OpenAI वाचकांना सांगत आहे की त्यांची self-conception शक्तिशाली models बांधण्यापलीकडे जाते. advanced AI समाजापर्यंत कशा अटींवर पोहोचते, त्या अटी घडवणारी संस्था म्हणून पाहिले जावे अशी त्यांची इच्छा आहे.

म्हणूनच हे post सामान्य असले तरी महत्त्वाचे आहे. कंपनी सार्वजनिकपणे तीन परस्पर जोडलेले दावे करत आहे: AI व्यापकपणे वितरित झाले पाहिजे, त्याने मानवी क्षमता वाढवली पाहिजे, आणि त्याने व्यापकपणे वाटलेली prosperity समर्थित केली पाहिजे. आता या दाव्यांचे मोजमाप OpenAI च्या products, restrictions, partnerships, आणि राजकीय निवडींवर केले जाईल.

AGI debate परिपक्व होत असताना, अशा statements उद्योगकथेचा मोठा भाग बनण्याची शक्यता आहे. अजूनही headlines capability चालवते. पण control, access, आणि legitimacy increasingly ठरवतात की जनता त्या capability ला progress म्हणून पाहते की नाही.

हा लेख OpenAI च्या reporting वर आधारित आहे. मूळ लेख वाचा.