अल्टमैन ने AI मॉडल्स को दी जाने वाली 'धार्मिक शक्ति' पर आपत्ति जताई

सैम अल्टमैन ने वर्षों तक ऐसे रूपकों का सहारा लिया है जो सॉफ्टवेयर की सामान्य शब्दावली से आगे निकल जाते हैं। अब OpenAI के CEO जनता से कह रहे हैं कि इसी प्रवृत्ति को लेकर अधिक सतर्क रहें — कम से कम तब, जब यह मॉडल्स पर लक्षित हो।

X पर साझा की गई टिप्पणियों में अल्टमैन ने कहा कि जब लोग "AI मॉडल्स को धार्मिक शक्ति या मानवीय निर्णय का समर्पण" बताते हैं, तो यह उन्हें "बहुत असहज" करता है। उन्होंने इस आदत को अति-उत्साही उपयोगकर्ताओं की सनक नहीं माना। उन्होंने इसे "वास्तविक सुरक्षा मुद्दा" कहा।

अल्टमैन AI के प्रति भक्ति को प्रशंसा नहीं, जोखिम बताते हैं

अल्टमैन जो अंतर रेखांकित कर रहे हैं, वह ऐसी प्रणाली बनाने के बीच है जो मानवीय लगती है और उस प्रणाली को पवित्र मानने के बीच है। पहला एक उत्पाद लक्ष्य है। दूसरा, उनके अनुसार, एक विफलता मोड है।

यह ढांचा महत्वपूर्ण है क्योंकि यह एक सांस्कृतिक प्रश्न को सुरक्षा कॉलम में स्थानांतरित करता है। यदि कोई उपयोगकर्ता चैटबॉट को ऑरेकल मानता है, तो वह केवल भावुक नहीं हो रहा। वह निर्णय सौंप रहा है — क्या सत्य है, क्या सही है, और आगे क्या करना है — एक सांख्यिकीय मॉडल को, जिसका आत्मविश्वास सटीकता का माप नहीं है। अल्टमैन का वाक्यांश "मानवीय निर्णय का समर्पण" ठीक उसी हस्तांतरण की ओर इशारा करता है।

यह भाषा इसलिए भी उल्लेखनीय है क्योंकि इसे कौन कह रहा है। AI में सुरक्षा बहसें आमतौर पर क्षमताओं, दुरुपयोग, या उन्नत प्रणालियों के नियंत्रण पर केंद्रित होती हैं। यहां चिंता उन्हें उपयोग करने वाले लोगों के रवैये के बारे में है।

एक बहस जिसमें अब वेटिकन भी शामिल है

अल्टमैन की टिप्पणियां खाली जगह में नहीं आईं। ये Anthropic द्वारा धार्मिक नेताओं तक पहुंचने पर एक विस्तृत New York Times रिपोर्ट के बाद आई हैं, जो AI कंपनियों द्वारा उन संस्थानों से जुड़ने की व्यापक कोशिश का हिस्सा है जो यह आकार देते हैं कि लोग तकनीक और नैतिकता के बारे में कैसे सोचते हैं।

पोप लियो XIV ने भी अपनी राय दी, एक ऐसी अभिव्यक्ति दी जो अल्टमैन की चिंता के करीब है: "एल्गोरिदम में मानवता की चिंगारी नहीं है।" यह कथन एक लंबी धार्मिक बहस को एक छोटी पंक्ति में समेटता है, लेकिन इसका व्यावहारिक अर्थ सीधा है — एक मॉडल व्यक्ति नहीं है, चाहे वह कितनी भी स्वाभाविक बातचीत करे।

कुल मिलाकर, तीन घटनाक्रम वर्तमान क्षण को परिभाषित करते हैं:

• एक प्रमुख AI CEO की चेतावनी कि मॉडल्स के प्रति धार्मिक श्रद्धा एक सुरक्षा समस्या है।
• एक प्रतिद्वंद्वी लैब द्वारा धार्मिक विचारकों के साथ संबंध सक्रिय रूप से विकसित करना।
• पोप का एक बयान जो गणना और मानव स्वभाव के बीच स्पष्ट रेखा खींचता है।

इनमें से कोई भी तकनीकी उपलब्धि नहीं है। तीनों इस बारे में हैं कि समाज मशीनों को कैसे अर्थ देता है, और अब उस अर्थ-निर्धारण को ही महत्वपूर्ण माना जा रहा है।

"आकाश में जादुई बुद्धिमत्ता" का उलटा

अल्टमैन की चेतावनी को धार उनका अपना रिकॉर्ड देता है। 2023 और 2024 में, उन्होंने OpenAI के लक्ष्य को "आकाश में जादुई बुद्धिमत्ता" बनाना बताया था। उसी अवधि में, उन्होंने कहा था कि वे भगवान के पक्ष में रहना चाहते हैं और AI पर काम करना "स्वर्गदूतों के पक्ष में" होना बताया था।

यह किसी उत्पाद रोडमैप की भाषा नहीं है। यह मिशन और ईश्वरीय विधान की भाषा है, और यह ठीक वही शैली है जिसके इस्तेमाल के खिलाफ वे अब दूसरों को आगाह कर रहे हैं।

दोनों स्थितियों में तालमेल बिठाने के तरीके हैं। एक संस्थापक का अपनी प्रेरणा बताना उससे अलग है जब कोई उपयोगकर्ता मॉडल को अधिकार देता है। महत्वाकांक्षा और श्रद्धा अलग चीजें हैं। लेकिन उनके बीच का अंतर इतना संकीर्ण है कि यह बदलाव उल्लेखनीय है: वही शब्दावली जो कभी परियोजना का प्रचार करती थी, अब आउटपुट से जुड़ने पर खतरे के रूप में चिह्नित की जा रही है।

"Her," कोई देवता नहीं

अल्टमैन ने OpenAI जो बना रहा है, उसके लिए बार-बार एक अलग सांस्कृतिक संदर्भ दिया है: फिल्म "Her," जिसमें एक व्यक्ति एक ऑपरेटिंग सिस्टम के साथ गहरा भावनात्मक जुड़ाव बनाता है। उनके अनुसार, लक्ष्य एक गहराई से मानवीकृत AI है — गर्मजोश, धाराप्रवाह, और जिससे जुड़ना आसान हो।

यह लक्ष्य भावनात्मक प्रतिध्वनि के बारे में है, तत्वमीमांसा के बारे में नहीं। संदर्भ और लहजा पढ़ने वाला सहायक देवत्व का दावा नहीं कर रहा। लेकिन मानवीकृत डिजाइन और धार्मिक प्रक्षेपण एक साझा आधार साझा करते हैं। दोनों मानवीय प्रवृत्ति पर टिके हैं कि जो भी हमें विश्वसनीय ढंग से जवाब देता है, उसे व्यक्तित्व दिया जाए। संबंधितता के लिए अनुकूलित प्रणाली अनिवार्य रूप से कुछ उपयोगकर्ताओं को डिजाइनरों के इरादे से आगे जाने के लिए आमंत्रित करेगी।

यही अल्टमैन की चिंता का व्यावहारिक रूप है। "यह व्यक्ति जैसा लगता है" और "यह अधिकार के साथ बोलता है" के बीच की रेखा कहना आसान है और थामना कठिन, खासकर तनाव में, अकेलेपन में, या ऐसे मार्गदर्शन की तलाश में जो कहीं और न मिले।

ढांचा व्यवहार को कैसे आकार देता है

यदि अल्टमैन सही हैं कि यह एक सुरक्षा मुद्दा है, तो इसकी क्रियाविधि स्पष्ट करने योग्य है। ढांचा केवल किसी उपकरण के साथ संबंध का वर्णन नहीं करता; यह उसकी शर्तें तय करता है।

• धार्मिक शब्दावली आलोचनात्मक दूरी हटा देती है। ऑरेकल बताए गए मॉडल की जांच की संभावना कम होती है।
• अधीनता बढ़ती जाती है। जो उपयोगकर्ता एक बार मॉडल की बात मान लेते हैं, वे अगले आउटपुट को बिना जांच के स्वीकार करने की अधिक संभावना रखते हैं।
• डिजाइन प्रभाव को मजबूत करता है। संवादात्मक इंटरफेस, मेमोरी, और सुसंगत व्यक्तित्व सभी प्रणाली को पाठ उत्पन्न करने वाली मशीन के बजाय एक सतत इकाई जैसा महसूस कराते हैं।
• जवाबदेही धुंधली हो जाती है। यदि किसी उत्तर में नैतिक भार है, तो परिणाम की जिम्मेदारी तय करना कठिन हो जाता है।

इनमें से किसी के लिए यह आवश्यक नहीं कि मॉडल सचेत हो, या कोई यह माने कि वह है। इसके लिए केवल यह आवश्यक है कि लोग ऐसे कार्य करें जैसे उसके निर्णयों में अधिकार हो।

विश्वास की समस्या दोनों तरफ काटती है

वर्तमान बहस में एक अजीब समरूपता है। जो कंपनियां AI को आध्यात्मिक बनाने के खिलाफ चेतावनी दे रही हैं, वही कंपनियां हैं जिनके नेताओं ने आध्यात्मिक भाषा का इस्तेमाल किया है, और जो धार्मिक संस्थानों से जुड़ रही हैं, वे प्रतिद्वंद्वी हैं जो समान पहुंच बना रही हैं। इन टिप्पणियों के आसपास की रिपोर्टिंग के अनुसार, OpenAI ने भी धार्मिक नेताओं से बातचीत की है।

तो उद्योग आस्था और अर्थ के साथ कम जुड़ाव नहीं मांग रहा। यह शर्तों पर बातचीत कर रहा है। अल्टमैन का रुख, मूल रूप से, यह है कि तकनीक को मानवीय शब्दों में वर्णित किया जाना चाहिए, लेकिन उन शब्दों में पूजा नहीं की जानी चाहिए — जो मानवीय महसूस कराने के लिए डिजाइन की गई प्रणालियां बनाते समय एक महत्वाकांक्षी रेखा है।

आगे क्या देखें

तीन बातें संकेत देंगी कि यह ढांचा टिकता है या नहीं। क्या AI कंपनियां भावनात्मक निकटता के लिए बनाए गए मॉडल्स को प्रस्तुत करने का तरीका बदलती हैं। क्या सुरक्षा टीमें उपयोगकर्ता की अधीनता को उपयोगकर्ता शिक्षा का मामला नहीं, बल्कि एक मापनीय जोखिम मानती हैं। और क्या धार्मिक संस्थान अपनी शर्तों पर उद्योग से जुड़ना जारी रखते हैं, जैसा कि वेटिकन के बयान और Anthropic की पहुंच से संकेत मिलता है।

बड़ा प्रश्न अनसुलझा रहता है। अल्टमैन कहते हैं कि मॉडल्स को धार्मिक शक्ति देना एक सुरक्षा मुद्दा है, और अंतर्निहित तर्क सही है: जिन उपकरणों पर अधिकारियों के रूप में भरोसा किया जाता है, उन्हें सुधारना कठिन होता है। लेकिन वही मानवीकृत भाषा जो इन प्रणालियों को उपयोगी बनाती है, वही इस गलती को संभव बनाती है। उद्योग की चुनौती है कि गर्मजोशी बनी रहे, लेकिन पूजा न हो।

यह लेख The Decoder की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।