अल्टमैन, मस्क, हसाबिस ने एआई पर स्वतंत्र निगरानी की अमोदेई की मांग का समर्थन किया

एआई सुरक्षा बहस में एक आश्चर्यजनक अभिसरण

कृत्रिम बुद्धिमत्ता के तीन सबसे प्रमुख व्यक्तियों — ओपनएआई के मुख्य कार्यकारी सैम अल्टमैन, एलन मस्क, और पूर्व डीपमाइंड सीईओ डेमिस हसाबिस — में से प्रत्येक ने एंथ्रोपिक के सीईओ डारियो अमोदेई के उस प्रस्ताव को कम से कम आंशिक समर्थन दिया है जिसमें एआई प्रयोगशालाओं के भीतर स्वतंत्र निगरानी की मांग की गई है। द डिकोडर द्वारा रिपोर्ट किया गया यह सहमति एक ऐसे क्षेत्र में उल्लेखनीय क्षण है जहां नेता अक्सर जोखिम, समयसीमा और नियमन पर सार्वजनिक रूप से असहमत होते हैं। यह एआई विकास को धीमा करने पर पूर्ण सहमति का प्रतिनिधित्व नहीं करता, लेकिन यह संकेत देता है कि बाहरी या स्वतंत्र मूल्यांकन का विचार मुख्यधारा के करीब पहुंच गया है।

मस्क का रुख सबसे कम आश्चर्यजनक है। उन्होंने वर्षों से एआई जोखिमों के बारे में चेतावनी दी है, अक्सर उन्नत प्रणालियों को अस्तित्वगत चिंता के रूप में चित्रित किया है। इसके विपरीत, अल्टमैन और हसाबिस ऐसे संगठनों का नेतृत्व करते हैं जिनकी व्यावसायिक सफलता फ्रंटियर मॉडलों की तीव्र तैनाती पर निर्भर करती है। स्वतंत्र निगरानी का समर्थन करने की उनकी इच्छा — भले ही आंशिक रूप से — यह दर्शाती है कि बहस इस बात से बदल गई है कि निगरानी की आवश्यकता है या नहीं, बल्कि यह कि इसे कैसे डिजाइन किया जाना चाहिए और इसे कौन करेगा।

अमोदेई ने क्या प्रस्तावित किया

अमोदेई का प्रस्ताव इस सिद्धांत पर केंद्रित है कि एआई प्रयोगशालाओं को अपनी सुरक्षा के एकमात्र निर्णायक नहीं होना चाहिए। इस ढांचे में, स्वतंत्र मूल्यांकन बाहरी विशेषज्ञों को मॉडलों और प्रशिक्षण प्रक्रियाओं तक पहुंच देगा ताकि वे तैनाती से पहले क्षमताओं और जोखिमों का आकलन कर सकें। कथित तौर पर अल्टमैन और अमोदेई इस मुख्य बिंदु पर सहमत हैं: एआई प्रयोगशालाओं का स्वतंत्र रूप से मूल्यांकन किया जाना चाहिए। यह अभिसरण महत्वपूर्ण है क्योंकि दोनों व्यक्ति फ्रंटियर पर प्रतिस्पर्धा करने वाली कंपनियों का संचालन करते हैं, और दोनों को पहले इस आलोचना का सामना करना पड़ा है कि स्व-नियमन अपना ही होमवर्क जांचने के समान है।

साझा सिद्धांत के रूप में स्वतंत्र मूल्यांकन

अल्टमैन, मस्क और हसाबिस का समर्थन स्थगन या वैश्विक गति सीमा पर व्यापक सहमति नहीं है। इसे बेहतर ढंग से एक शासन तंत्र के समर्थन के रूप में समझा जा सकता है: फ्रंटियर प्रणालियों की स्वतंत्र जांच। यह अंतर मायने रखता है। एक प्रयोगशाला बाहरी मूल्यांकन स्वीकार कर सकती है जबकि तीव्र विकास की वकालत भी कर सकती है, बशर्ते मूल्यांकन दिखाए कि प्रणाली आगे बढ़ने के लिए पर्याप्त सुरक्षित है। इसके विपरीत, एक आलोचक अनिवार्य धीमा करने का विरोध करते हुए भी स्वतंत्र निगरानी का समर्थन कर सकता है।

समझौता केवल आंशिक क्यों है

समर्थन की आंशिक प्रकृति प्रवर्तन के बारे में तीव्र मतभेदों के लिए जगह छोड़ती है। मूल्यांकनकर्ताओं की नियुक्ति कौन करता है? उन्हें क्या पहुंच मिलती है? यदि कोई प्रयोगशाला उनके निष्कर्षों पर विवाद करती है तो क्या होता है? इनमें से कोई भी प्रश्न साझा सिद्धांत से तय नहीं होता। द डिकोडर नोट करता है कि नेताओं ने एआई प्रयोगशालाओं के भीतर स्वतंत्र निगरानी की आवश्यकता पर सहमति जताई, लेकिन व्यावहारिक विवरण खुले हैं — और ये विवरण तय करेंगे कि निगरानी सार्थक है या केवल प्रतीकात्मक।

ओपनएआई का आईपीओ समय और सुरक्षा स्पष्टीकरण

अल्टमैन ने फॉर्च्यून को यह भी बताया कि ओपनएआई इस वर्ष सार्वजनिक नहीं होगी, सुरक्षा चिंताओं का हवाला देते हुए। उन्होंने जून में आंतरिक रूप से यह निर्णय पहले ही सूचित कर दिया था। उम्मीदवार ब्रीफ इस कदम को सुरक्षा विचारों के कारण आईपीओ को 2027 तक धकेलने के रूप में चित्रित करता है, साथ ही एक वैकल्पिक व्याख्या भी नोट करता है: ओपनएआई के वित्तीय आंकड़े इस समय आईपीओ का समर्थन नहीं कर सकते, विशेष रूप से एंथ्रोपिक की तुलना में। दोनों स्पष्टीकरण एक साथ सत्य हो सकते हैं। एक कंपनी प्रतिकूल बाजार स्थितियों का सामना कर सकती है और साथ ही प्रतीक्षा करने के कारण के रूप में सुरक्षा पर जोर देने का विकल्प भी चुन सकती है।

देरी की दो व्याख्याएं

सुरक्षा स्पष्टीकरण अल्टमैन के हालिया सार्वजनिक रुख से मेल खाता है। यदि फ्रंटियर एआई में गंभीर जोखिम हैं, तो सार्वजनिक लिस्टिंग के प्रकटीकरण दायित्वों और त्रैमासिक दबावों को स्वीकार करना एक जानबूझकर सुरक्षा रणनीति को जटिल बना सकता है। वित्तीय स्पष्टीकरण प्रतिस्पर्धी परिदृश्य से मेल खाता है। एंथ्रोपिक को तुलना बिंदु के रूप में उद्धृत किया गया है, और आईपीओ अंततः एक बाजार निर्णय है जितना कि दार्शनिक। निवेशक और नियामक संभवतः इस बात पर स्पष्टता की मांग करेंगे कि समयसीमा को कौन सा कारक चला रहा है।

किसी भी तरह, यह देरी ओपनएआई को प्रमुख एआई फर्मों के बीच अपनी अलग श्रेणी में रखती है: एक अग्रणी प्रयोगशाला जिसका नेतृत्व सार्वजनिक रूप से अपने पूंजी-बाजार निर्णयों को सुरक्षा चिंताओं से जोड़ रहा है। यह संबंध निगरानी बहस को एक ठोस कॉर्पोरेट आयाम देता है। यह अब केवल अमूर्त सिद्धांतों के बारे में नहीं है; यह इस बारे में है कि एक फ्रंटियर प्रयोगशाला अपने शासन, अपने प्रकटीकरण और बाहरी जांच के प्रति अपने दायित्वों को कैसे संरचित करती है।

प्रतिक्रिया: स्थिरता ही वास्तविक गति सीमा

हर कोई अमोदेई के प्रस्तावित गति सीमा के पीछे की धारणा को स्वीकार नहीं करता। गूगल के शोधकर्ता पेयमान मिलानफर ने प्रतिक्रिया दी, तर्क देते हुए कि पुनरावर्ती आत्म-सुधार (आरएसआई) एक भोली धारणा है क्योंकि इसमें शामिल फीडबैक लूप स्वाभाविक रूप से अस्थिर हैं। उनके विचार में, कोई प्रणाली जितनी अधिक खुद को अनुकूलित करने का प्रयास करती है, उतनी ही गहराई में अंधे धब्बों में गिरती है। उनका तर्क है कि विश्वसनीय साक्ष्य बेंचमार्क से नहीं बल्कि वास्तविक दुनिया से आते हैं।

मिलानफर क्यों कहते हैं कि गति सीमा अनावश्यक है

मिलानफर का तर्क उन्हें एक अलग निष्कर्ष पर ले जाता है: अनिवार्य गति सीमा की आवश्यकता नहीं है क्योंकि आत्म-सुधार स्वाभाविक रूप से सीमित है। उनका तर्क है कि स्वयं को विश्वसनीय रूप से सुधारने में सक्षम प्रणालियां उन मार्जिनों द्वारा शासित, अवमंदित, धीमी और सीमित होंगी जो शुद्ध दक्षता दृष्टिकोण से अपव्ययी लगती हैं। उनके सूत्रीकरण में, स्थिरता स्वयं प्रभावी गति सीमा के रूप में कार्य करती है। यदि यह सही है, तो अनियंत्रित पुनरावर्ती सुधार एक आसन्न निश्चितता से कम और एक सैद्धांतिक परिदृश्य अधिक है जो फीडबैक लूपों की नाजुकता को नजरअंदाज करता है।

यह उस जोखिम मॉडल के लिए सीधी चुनौती है जो निगरानी की मांगों को प्रेरित करता है। अमोदेई का प्रस्ताव मानता है कि बाहरी बाधाएं लगाए जाने तक प्रयोगशालाएं सुरक्षित गति से आगे बढ़ सकती हैं। मिलानफर की प्रतिक्रिया मानती है कि अंतर्निहित गतिशीलता पहले से ही अपनी बाधाएं लगाती है, और बेंचमार्क-संचालित आख्यान इस बात को बढ़ा-चढ़ा कर पेश करते हैं कि कोई प्रणाली अपनी क्षमताओं को कितनी सहजता से बूटस्ट्रैप कर सकती है। असहमति इस बारे में नहीं है कि सुरक्षा मायने रखती है या नहीं; यह इस बारे में है कि तकनीक को वास्तव में किस प्रकार के हस्तक्षेप की आवश्यकता है, यदि कोई हो।

बहस अब कहां जाएगी

दो खेमों के बीच विभाजन यह आकार देगा कि एआई शासन कैसे विकसित होता है। यदि स्वतंत्र निगरानी एक मानक अपेक्षा बन जाती है, तो प्रयोगशालाएं अपने बाहरी मूल्यांकनकर्ताओं की विश्वसनीयता पर प्रतिस्पर्धा कर सकती हैं। यदि अस्थिरता तर्क को बल मिलता है, तो धीमा करने की मांगों को उन प्रणालियों पर अनावश्यक ब्रेक के रूप में पुनः परिभाषित किया जा सकता है जो पहले से ही अपनी सीमाओं से बंधी हैं।

• अल्टमैन, मस्क और हसाबिस ने एआई लैब्स के भीतर स्वतंत्र निगरानी के लिए अमोदेई की मांग का आंशिक रूप से समर्थन किया है।
• कथित तौर पर अल्टमैन और अमोदेई सहमत हैं कि एआई लैब्स का स्वतंत्र रूप से मूल्यांकन किया जाना चाहिए।
• अल्टमैन ने फॉर्च्यून को बताया कि ओपनएआई इस वर्ष सार्वजनिक नहीं होगी, सुरक्षा चिंताओं का हवाला देते हुए, यह निर्णय जून में आंतरिक रूप से साझा किया गया था।
• उम्मीदवार ब्रीफ एक वित्तीय व्याख्या को भी चिह्नित करता है: ओपनएआई के आंकड़े इस समय आईपीओ का समर्थन नहीं कर सकते, विशेष रूप से एंथ्रोपिक की तुलना में।
• गूगल के शोधकर्ता पेयमान मिलानफर तर्क देते हैं कि आरएसआई एक भोली धारणा है क्योंकि स्व-अनुकूलन फीडबैक लूप अस्थिर हैं और अनुकूलन के साथ अंधे धब्बे गहरे होते जाते हैं।
• मिलानफर का तर्क है कि विश्वसनीय साक्ष्य वास्तविक दुनिया से आते हैं, बेंचमार्क से नहीं, और स्थिरता प्रभावी गति सीमा के रूप में कार्य करती है।

फिलहाल, सबसे महत्वपूर्ण घटनाक्रम उन नेताओं के बीच की खाई का कम होना हो सकता है जिन्होंने कभी निगरानी प्रस्तावों को खारिज किया था और जिन्होंने उनका समर्थन किया था। स्वतंत्र मूल्यांकन अब कोई हाशिये की मांग नहीं है। यह एक ऐसी स्थिति है जिसे फ्रंटियर के आंकड़े — ओपनएआई से एंथ्रोपिक तक, और मस्क की लंबे समय से चली आ रही चेतावनियों से लेकर हसाबिस की शोध पृष्ठभूमि तक — कम से कम आंशिक रूप से समर्थन कर सकते हैं। शेष प्रश्न संस्थागत डिजाइन, प्रवर्तन, और क्या आईपीओ में देरी के लिए सुरक्षा तर्क एक टिकाऊ रणनीति या एक सुविधाजनक आख्यान को दर्शाता है, के बारे में हैं। ये प्रश्न उद्योग का अगले चरण में अनुसरण करेंगे, चाहे गति-सीमा बहस का कोई भी पक्ष जीते।

यह लेख द डिकोडर की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।