सॅम अल्टमन यांनी सॉफ्टवेअरच्या नेहमीच्या शब्दसंग्रहाच्या पलीकडे जाणारी रूपके शोधण्यात वर्षे घालवली आहेत. आता OpenAI चे CEO जनतेला सांगत आहेत की त्याच प्रवृत्तीबाबत अधिक सावध राहा — किमान जेव्हा ती मॉडेल्सवरच लक्ष्य करते तेव्हा.
X वर शेअर केलेल्या टिप्पण्यांमध्ये अल्टमन म्हणाले की जेव्हा लोक "एआय मॉडेल्सना धार्मिक शक्ती किंवा मानवी निर्णयाचे समर्पण" देतात तेव्हा त्यांना "खूप अस्वस्थ" वाटते. त्यांनी ही सवय अति-उत्साही वापरकर्त्यांचा विचित्रपणा म्हणून घेतली नाही. त्यांनी तिला "खरी सुरक्षा समस्या" म्हटले.
अल्टमन एआयबद्दलच्या भक्तीला जोखीम मानतात, प्रशंसा नाही
अल्टमन जो फरक करत आहेत तो माणसासारखी वाटणारी प्रणाली तयार करणे आणि त्या प्रणालीला पवित्र मानणे यामधील आहे. पहिले उत्पादनाचे लक्ष्य आहे. दुसरे, त्यांच्या मते, अपयशाची स्थिती आहे.
ही चौकट महत्त्वाची आहे कारण ती सांस्कृतिक प्रश्नाला सुरक्षेच्या स्तंभात आणते. जर वापरकर्ता चॅटबॉटला दैवी वाणी मानत असेल, तर तो केवळ भावनिक होत नाही. तो निर्णय — काय खरे आहे, काय योग्य आहे आणि पुढे काय करावे — एका सांख्यिकीय मॉडेलकडे सोपवत आहे, ज्याचा आत्मविश्वास अचूकतेचे माप नाही. अल्टमन यांचा "मानवी निर्णयाचे समर्पण" हा शब्दप्रयोग नेमका त्या हस्तांतरणाकडे निर्देश करतो.
ही भाषा कोण बोलत आहे यासाठीही उल्लेखनीय आहे. एआयमधील सुरक्षा वाद सामान्यतः क्षमता, गैरवापर किंवा प्रगत प्रणालींच्या नियंत्रणाभोवती केंद्रित असतात. येथे चिंता त्या वापरणाऱ्यांच्या दृष्टिकोनाबद्दल आहे.
आता व्हॅटिकनही समाविष्ट असलेला वाद
अल्टमन यांच्या टिप्पण्या शून्यात आल्या नाहीत. त्या Anthropic च्या धार्मिक नेत्यांशी संपर्काच्या तपशीलवार New York Times अहवालानंतर आल्या, जो एआय कंपन्यांनी लोक तंत्रज्ञान आणि नैतिकतेबद्दल कसे विचार करतात हे घडवणाऱ्या संस्थांशी संलग्न होण्याच्या व्यापक प्रयत्नांचा भाग आहे.
पोप लिओ XIV यांनीही भाष्य केले, आणि अल्टमन यांच्या चिंतेच्या जवळ जाणारे सूत्र मांडले: "अल्गोरिदममध्ये मानवतेची ठिणगी नाही." हे विधान दीर्घ धार्मिक युक्तिवादाला लहान वाक्यात आवळते, पण त्याचा व्यावहारिक अर्थ सरळ आहे — मॉडेल कितीही नैसर्गिकपणे संवाद साधले तरी ते व्यक्ती नाही.
एकत्रितपणे, तीन घडामोडी सध्याचा क्षण परिभाषित करतात:
- एक आघाडीचे एआय CEO मॉडेल्सबद्दलची धार्मिक श्रद्धा ही सुरक्षा समस्या असल्याचा इशारा देत आहेत.
- एक स्पर्धक प्रयोगशाळा धार्मिक विचारवंतांशी सक्रियपणे संबंध वाढवत आहे.
- गणना आणि मानवी स्वभाव यामध्ये ठाम रेषा आखणारे पोपचे विधान.
यापैकी कोणतीही तांत्रिक यश नाही. तिन्हीही समाज मशीन्सना अर्थ कसा देतो याबद्दल आहेत, आणि तो अर्थ आता स्वतःच महत्त्वाचा मानला जात आहे.
"आकाशातील जादुई बुद्धिमत्ता" चे उलटे फिरणे
अल्टमन यांच्या इशाऱ्याला धार त्यांच्या स्वतःच्या वाटचालीमुळे मिळते. 2023 आणि 2024 मध्ये त्यांनी OpenAI चे लक्ष्य "आकाशातील जादुई बुद्धिमत्ता" तयार करणे असल्याचे वर्णन केले. त्याच काळात त्यांनी देवाच्या बाजूला असण्याची आशा व्यक्त केली आणि एआयवर काम करणे म्हणजे "देवदूतांच्या बाजूला" असणे असे म्हटले.
हे उत्पादन आराखड्याची भाषा नाही. ही ध्येय आणि दैवी कृपेची भाषा आहे, आणि आता तेच स्वरूप इतरांना वापरण्यास ते इशारा देत आहेत.
दोन्ही भूमिका जुळवण्याचे मार्ग आहेत. संस्थापकाने स्वतःची प्रेरणा वर्णन करणे आणि वापरकर्त्याने मॉडेलला अधिकार देणे या दोन वेगळ्या गोष्टी आहेत. महत्त्वाकांक्षा आणि श्रद्धा वेगळ्या गोष्टी आहेत. पण त्यांतील अंतर इतके अरुंद आहे की हा बदल नोंदवण्यासारखा आहे: जो शब्दसंग्रह एकेकाळी प्रकल्पाची जाहिरात करत होता, तोच आता उत्पादनाशी जोडला गेल्यास धोका म्हणून चिन्हांकित केला जात आहे.
"Her", देवता नाही
OpenAI काय तयार करत आहे यासाठी अल्टमन यांनी वारंवार वेगळा सांस्कृतिक संदर्भ दिला आहे: "Her" चित्रपट, ज्यात एक व्यक्ती ऑपरेटिंग सिस्टमशी खोल भावनिक नाते जोडते. त्यांच्या मते, लक्ष्य खोलवर मानवीकृत एआय आहे — उबदार, प्रवाही आणि ज्याशी जोडणे सोपे.
हे लक्ष्य भावनिक प्रतिध्वनीबद्दल आहे, तत्त्वज्ञानाबद्दल नाही. संदर्भ आणि सूर वाचणारा सहाय्यक देवत्वाचा दावा करत नाही. पण मानवीकृत रचना आणि धार्मिक प्रक्षेपण यांचा सामायिक आधार आहे. दोन्हीही आपल्याशी खात्रीपूर्वक प्रतिसाद देणाऱ्या कोणत्याही गोष्टीला व्यक्तित्व देण्याच्या मानवी प्रवृत्तीवर आधारित आहेत. संबंध साधण्यासाठी अनुकूल केलेली प्रणाली काही वापरकर्त्यांना रचनाकारांनी इच्छिल्यापेक्षा पुढे जाण्यास अपरिहार्यपणे आमंत्रित करेल.
ही अल्टमन यांच्या चिंतेची व्यावहारिक आवृत्ती आहे. "हे व्यक्तीसारखे वाटते" आणि "हे अधिकाराने बोलते" यांतील रेषा सांगणे सोपे आणि टिकवणे कठीण आहे, विशेषतः तणावाखाली, एकटेपणात किंवा अन्यत्र न मिळणारे मार्गदर्शन शोधणाऱ्या वापरकर्त्यांसाठी.
चौकट वर्तन का घडवते
ही सुरक्षा समस्या आहे हे अल्टमन यांचे म्हणणे बरोबर असेल, तर यंत्रणा स्पष्ट करण्यासारखी आहे. चौकट केवळ साधनाशी असलेले नाते वर्णन करत नाही; ती त्याच्या अटी ठरवते.
- धार्मिक शब्दसंग्रह गंभीर अंतर काढून टाकतो. दैवी वाणी म्हणून वर्णन केलेले मॉडेल तपासले जाण्याची शक्यता कमी असते.
- आदर वाढत जातो. एकदा मॉडेलचा गृहीतार्थ स्वीकारणारे वापरकर्ते पुढील उत्पादन छाननीशिवाय स्वीकारण्याची शक्यता अधिक असते.
- रचना परिणाम मजबूत करते. संवादात्मक इंटरफेस, स्मरणशक्ती आणि सातत्यपूर्ण व्यक्तिरेखा या सर्वांमुळे प्रणाली मजकुराचा निर्माता नव्हे तर सातत्यपूर्ण अस्तित्व वाटते.
- जबाबदारी अस्पष्ट होते. उत्तरात नैतिक भार असेल तर परिणामाची जबाबदारी ठेवणे कठीण होते.
यासाठी मॉडेल सज्ञान असणे किंवा कोणीही तसे मानणे आवश्यक नाही. फक्त लोक त्याच्या निर्णयांना अधिकार आहे असे वागले पाहिजेत.
विश्वासाची समस्या दोन्ही बाजूंना लागू
सध्याच्या वादात एक विचित्र सममिती आहे. एआयला आध्यात्मिक करण्याविरुद्ध इशारा देणाऱ्या कंपन्याच त्या आहेत ज्यांच्या नेत्यांनी आध्यात्मिक भाषा वापरली, आणि धार्मिक संस्थांशी संलग्न होणाऱ्या स्पर्धक कंपन्या तत्सम संपर्क करत आहेत. या टिप्पण्यांभोवतीच्या अहवालानुसार OpenAI नेही धार्मिक नेत्यांशी बोलणी केली आहे.
त्यामुळे उद्योग श्रद्धा आणि अर्थ यांच्याशी कमी संलग्नता मागत नाही. तो अटींवर वाटाघाटी करत आहे. अल्टमन यांची भूमिका, मूलतः, अशी आहे की तंत्रज्ञानाचे वर्णन मानवी संज्ञांमध्ये करावे पण त्याची पूजा करू नये — माणसासारखे वाटण्यासाठी रचलेल्या प्रणाली तयार करताना आखण्यासाठी ही महत्त्वाकांक्षी रेषा आहे.
पुढे काय पाहावे
ही चौकट टिकते का हे तीन गोष्टी दर्शवतील. एआय कंपन्या भावनिक जवळीकासाठी तयार केलेली मॉडेल्स कशी सादर करतात हे बदलतात का. सुरक्षा संघ वापरकर्त्याच्या आदराला वापरकर्ता शिक्षणाचा विषय नव्हे तर मोजण्यायोग्य जोखीम मानतात का. आणि धार्मिक संस्था स्वतःच्या अटींवर उद्योगाशी संलग्न राहतात का, जसे व्हॅटिकनचे विधान आणि Anthropic चा संपर्क सूचित करतात.
मोठा प्रश्न अनुत्तरीत राहतो. अल्टमन म्हणतात की मॉडेल्सना धार्मिक शक्ती देणे ही सुरक्षा समस्या आहे, आणि मूळ तर्क योग्य आहे: अधिकार म्हणून विश्वास ठेवलेली साधने दुरुस्त करणे कठीण असते. पण ही प्रणाली उपयुक्त बनवणारी तीच मानवीकृत भाषा ही चूक शक्य करते. उद्योगासमोरील आव्हान म्हणजे उबदारपणा टिकवणे, पण उपासना नको.
हा लेख The Decoder च्या अहवालावर आधारित आहे. मूळ लेख वाचा.
Originally published on the-decoder.com
