चार AI नेता, एक शिथिल प्रतिज्ञा
जब OpenAI के CEO सैम अल्टमैन, Anthropic के CEO डारियो अमोदेई, Google DeepMind के सह-संस्थापक डेमिस हसाबिस और SpaceX के प्रमुख एलन मस्क ने सप्ताहांत में शिथिल रूप से कृत्रिम बुद्धिमत्ता के विकास को धीमा करने पर सहमति जताई, तो उनका ढांचा जानबूझकर चुना गया था। उनका घोषित लक्ष्य "सीमा को धीमा करना" था — ऐसी भाषा जो संयम को पीछे हटने के बजाय जिम्मेदार संरक्षकता के रूप में प्रस्तुत करती है। समूह ने कम से कम आंशिक रूप से तीन विचारों पर आधारित प्रस्ताव पर हस्ताक्षर किए: AI डेवलपर्स के साथ तीसरे पक्ष के ऑडिटर तैनात करना, घरेलू लैब्स को विनियमित करना, और अंततः विकास की गति को धीमा करने के लिए वैश्विक समझौता करना।
तालियां ज्यादा देर नहीं चलीं। कुछ ही घंटों में, संदेहवादियों ने उसी घोषणा की एक अलग व्याख्या पर सहमति बना ली। उनके दृष्टिकोण में, जिन कंपनियों ने वर्षों तक बड़े और बड़े मॉडल जारी करने की दौड़ लगाई थी, उन्होंने अचानक सतर्कता के गुणों की खोज ठीक उसी क्षण की जब सतर्कता उनकी बाजार स्थिति की रक्षा करेगी। कुछ आलोचक और आगे बढ़े और इस व्यवस्था को सीधे कार्टेल बताया।
उद्योग भर के सूत्रों के अनुसार, सच्चाई दोनों पक्षों की अनुमति से अधिक जटिल है। यही कारण है कि यह प्रकरण गहन पठन का हकदार है: यह उन लड़ाइयों की प्रारंभिक पूर्वाभ्यास है जो वर्षों तक AI नीति को परिभाषित करेंगी।
तीन-चरणीय प्रस्ताव वास्तव में क्या मांगता है
योजना का सार उससे जुड़े व्यक्तित्वों से अधिक मायने रखता है। यह ढांचा अमोदेई के एक निबंध में प्रस्तुत किया गया था, और इसके घटक उन सभी के लिए परिचित हैं जिन्होंने पिछले कई वर्षों में AI सुरक्षा बहसों का अनुसरण किया है।
- तीसरे पक्ष के ऑडिटर: डेवलपर्स के साथ तैनात स्वतंत्र समीक्षक जो मॉडल और प्रशिक्षण प्रथाओं का निरीक्षण करें, बजाय इसके कि लैब्स को खुद की निगरानी करने पर भरोसा किया जाए।
- घरेलू लैब विनियमन: संयुक्त राज्य अमेरिका के भीतर संचालित लैब्स को नियंत्रित करने वाले औपचारिक नियम, बजाय स्वैच्छिक आंतरिक दिशानिर्देशों के।
- वैश्विक धीमा करने का समझौता: प्रमुख शक्तियों के बीच एक अंतरराष्ट्रीय समझ जो सीमांत विकास की गति को रोके।
इनमें से कोई भी विचार उन अधिकारियों से उत्पन्न नहीं हुआ जो अब इनका समर्थन कर रहे हैं। AI सुरक्षा समर्थक वर्षों से बाहरी ऑडिटिंग और बाध्यकारी निगरानी की मांग करते रहे हैं, अक्सर तब जब यही लैब्स इस विचार का विरोध कर रही थीं। यही इतिहास है कि सप्ताहांत का समझौता आपकी स्थिति के आधार पर इतना अलग क्यों पढ़ा जाता है। कोई प्रस्ताव सिद्धांत रूप में उचित हो सकता है और फिर भी संदिग्ध हो सकता है जब उसके सबसे उत्साही समर्थक वही पक्ष हों जिन्हें वह सबसे कम बाधित करेगा।
कार्टेल का आरोप, समझाया गया
प्रतिज्ञा के सबसे कठोर आलोचक यह तर्क नहीं दे रहे कि धीमा करना स्वाभाविक रूप से गलत है। वे यह तर्क दे रहे हैं कि निर्णय कौन लेगा, और यह निर्णय किसकी रक्षा करता है। तीन चिंताएं बार-बार आती हैं।
यह संभावित प्रतिस्पर्धियों को बाहर कर सकता है। एक कंपनी जो पहले से ही सीमांत पर काम कर रही है, उसे रोक से अपेक्षाकृत कम नुकसान और बहुत लाभ होता है। धीमा विकास नेताओं और बाकी सभी के बीच का अंतर केवल नेताओं के लिए कम करता है, क्योंकि उनके पास पहले से ही मॉडल, कंप्यूट संबंध और प्रतिभा हैं। एक नियम जो प्रगति की गति को सीमित करता है, एक खाई के रूप में कार्य कर सकता है।
यह ओपन-सोर्स विकास को अपंग कर सकता है। ऑडिटिंग व्यवस्थाएं और लैब विनियमन अनुपालन लागतें थोपते हैं जो बड़े कानूनी और सुरक्षा स्टाफ वाली कंपनी के लिए मामूली हैं और छोटी ओपन-सोर्स टीमों के लिए दंडात्मक हैं। यदि सुरक्षा ढांचे का व्यावहारिक प्रभाव यह है कि केवल कुछ अच्छी तरह से पूंजीकृत फर्में कानूनी रूप से सीमांत मॉडल प्रशिक्षित कर सकती हैं, तो ढांचे ने सतर्कता के बैनर तले समेकन प्रदान किया है।
यह वास्तविक कानूनी सुरक्षा उपायों का विकल्प बन सकता है। जब उद्योग अपने नियम खुद लिखता है, तो वह यह भी तय करता है कि वे नियम क्या छोड़ देते हैं। स्वैच्छिक प्रतिबद्धताओं में कोई दंड नहीं जुड़ा होता, कोई स्वतंत्र प्रवर्तन नहीं होता, और कोई ऐसा तंत्र नहीं होता जो कॉर्पोरेट रणनीति में बदलाव के बाद टिके। विनियमन जैसी दिखने वाली प्रतिज्ञा वास्तविक विनियमन को अनावश्यक महसूस करा सकती है — जो वास्तव में आलोचकों का सबसे बड़ा डर है।
विनियमन शून्यता का तर्क
एक प्रति-तर्क है जो वास्तविक महत्व रखता है, और यह कार्टेल थीसिस के खिलाफ जाता है। वर्तमान प्रशासन के तहत, सार्थक AI विनियमन अपने आप आने की संभावना नहीं है। यदि विकल्प निजी प्रतिबद्धताओं और कुछ भी नहीं के बीच है, तो निजी प्रतिबद्धताएं कुछ भी नहीं नहीं हैं, भले ही वे अपूर्ण हों।
यह तर्क बताता है कि प्रस्ताव को उन लोगों से समर्थन क्यों मिला है जो स्वाभाविक रूप से बिग टेक के प्रति सहानुभूति नहीं रखते। इसकी रूपरेखा में तीन चरण — ऑडिटर, घरेलू नियम, अंतरराष्ट्रीय धीमा करना — वही चरण हैं जो सुरक्षा समर्थक मांगते रहे हैं। सबसे सक्षम लैब्स के नेताओं से ये शब्द जोर से कहलवाना एक सार्वजनिक मानदंड बनाता है। एक बार प्रतिबद्धता रिकॉर्ड पर आ जाने के बाद, पीछे हटना एक कहानी बन जाता है, और कहानियों की कीमत होती है।
लेकिन यही शून्यता संदेहवादियों को चिंतित करती है। एक ढांचा जो खाली जगह भरता है, वह खुद को मजबूत भी कर सकता है, वह वास्तविक मानक बन सकता है जिसका हवाला विधायक तब देते हैं जब पूछा जाए कि औपचारिक कानून क्यों अनावश्यक है। खतरा यह नहीं है कि प्रतिज्ञा बहुत अधिक करती है। यह है कि यह कुछ मजबूत को बाहर करने के लिए बस पर्याप्त करती है।
यह बातचीत किसे नेतृत्व करनी चाहिए?
उद्योग भर में, सहमति का एक बिंदु उभरता है: AI नेता इस अभियान का नेतृत्व करने के लिए सबसे अच्छे लोग नहीं हैं। भले ही उनके इरादे सच्चे हों, वे एक साथ नियमों के विषय, नियमों के लेखक, और इस बहस में सबसे तेज आवाज हैं कि नियमों में क्या होना चाहिए। यह इतने व्यापक परिणामों वाली किसी भी तकनीक के लिए व्यावहारिक व्यवस्था नहीं है।
प्रस्ताव को दांत देने वाली बात — वह वाक्यांश जिसे उद्योग का अपना ढांचा आमंत्रित करता है — बाहरी सत्यापन और परिणाम है। वास्तविक पहुंच और निष्कर्ष प्रकाशित करने की क्षमता वाले स्वतंत्र ऑडिटर। दंड से जुड़े विनियम, केवल प्रकटीकरण आवश्यकताएं नहीं। अंतरराष्ट्रीय समन्वय जिसमें इसे लागू करने में सक्षम सरकारें शामिल हों, बजाय कुछ अधिकारियों की सद्भावना पर निर्भर रहने के जो अपना मन बदल सकते हैं।
मुख्य बात
"सीमा को धीमा करना" प्रतिज्ञा न तो एक स्वच्छ सुरक्षा समझौता है और न ही एक सिद्ध कार्टेल। यह एक प्रस्ताव है जिसमें बचाव योग्य घटक हैं, जिन्हें ऐसे लोगों द्वारा आगे बढ़ाया गया है जिनके प्रोत्साहन जनहित के साथ पूरी तरह से संरेखित नहीं हैं। दोनों बातें सच हो सकती हैं, और अन्यथा दिखावा करना उन हिस्सों के पक्ष को कमजोर करता है जो रखने योग्य हैं।
यह मुद्दा केवल महत्व में बढ़ेगा, यही कारण है कि विवरण दिखावे से अधिक मायने रखते हैं। ऑडिटर, नियम और अंतरराष्ट्रीय समझौते सही साधन हैं। सप्ताहांत के हाथ मिलाने से जो सवाल खुला रह जाता है वह यह है कि इन्हें कौन संभालता है, और क्या बोर्डरूम के बाहर कोई भी जो वादा किया गया था उसे लागू कर पाएगा।
यह लेख The Verge की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on theverge.com