Anthropic ने अग्रिम मोर्चे की AI को धीमा करने का विचार रखा, लेकिन पूरी तरह रोक लगाने की मांग से परहेज़ किया

Anthropic ने ब्रेक लगाने की बात की, लेकिन पूरी तरह दबाए नहीं

Anthropic ने अग्रिम मोर्चे की AI विकास गति को लेकर बहस को फिर से तेज करते हुए तर्क दिया है कि यदि इसे लागू करना संभव हो, तो एक सार्थक मंदी समझदारी भरी हो सकती है। Gizmodo द्वारा वर्णित एक कंपनी ब्लॉग पोस्ट में लैब ने अपने आंतरिक डेटा की ओर इशारा किया और चेतावनी दी कि उन्नत प्रणालियाँ “recursive self-improvement” के उस बिंदु के करीब पहुँच सकती हैं, जहाँ AI प्रणालियाँ बिना किसी मानव के अपनी क्षमताओं को स्वयं परिष्कृत करती हैं।

मुख्य संदेश इतना स्पष्ट था कि उसने ध्यान खींचा: आत्म-सुधार करने वाली AI वाली दुनिया विज्ञान, स्वास्थ्य सेवा और अन्य क्षेत्रों में बड़े लाभ दे सकती है, लेकिन इससे इंसानों के उन प्रणालियों पर नियंत्रण खोने का जोखिम भी बढ़ सकता है। साथ ही, Anthropic ने किसी ठोस परिचालन विराम की प्रत्यक्ष मांग नहीं की। स्रोत के अनुसार, उसकी भाषा अत्यधिक सशर्त थी।

एक चेतावनी, शर्त के रूप में

कंपनी ने AI प्रगति को धीमा करने के विचार की तुलना शीत युद्ध-काल के निरस्त्रीकरण और अप्रसार प्रयासों से की, यह संकेत देते हुए कि विकास पर सीमाएँ समाजों को अधिक शक्तिशाली प्रणालियों के निहितार्थों से निपटने में मदद कर सकती हैं। लेकिन उसके शब्द सीधे कार्रवाई के आह्वान तक नहीं पहुँचे। लेखकों ने लिखा कि यदि अधिक समय खरीदने के लिए विकास को प्रभावी ढंग से धीमा करना संभव हो, तो वह संभवतः एक अच्छी बात होगी।

यह शब्दावली महत्वपूर्ण है। इससे Anthropic एक ऐसे लैब के रूप में सामने आता है जो संयम पर चर्चा करने को तैयार है, लेकिन ऐसा सरल, तत्काल परीक्षण योग्य आग्रह करने से बच रहा है कि उसे या उसके प्रतिद्वंद्वियों को काम रोक देना चाहिए। Gizmodo की व्याख्या यह है कि कंपनी, व्यवहार में, पूर्ण विराम अभियान के लिए प्रतिबद्ध होने के बजाय एक सुझाव दे रही है।

समय क्यों मायने रखता है

यह लेख इस बयान को एक व्यापक व्यावसायिक संदर्भ में रखता है। Anthropic के बारे में कहा गया है कि वह एक बहुप्रतीक्षित IPO के करीब पहुँच रहा है, जिससे सुरक्षा-प्रथम पहचान और भविष्य के शेयरधारकों की अपेक्षाओं के बीच एक स्पष्ट तनाव पैदा होता है। अपनी स्थापना के बाद से, Anthropic ने खुद को ऐसी कंपनी के रूप में अलग दिखाने की कोशिश की है जो AI जोखिम को गंभीरता से लेती है और यदि आवश्यक हो, तो प्रतिद्वंद्वियों की तुलना में अधिक सावधानी से आगे बढ़ने को तैयार है।

इसी रुख ने उसकी सार्वजनिक छवि को आकार देने में मदद की है। लेकिन सार्वजनिक बाजार में बदलाव विकास, प्रतिस्पर्धी स्थिति और मॉडल प्रगति को जारी रखने के दबाव को भी बढ़ाएगा। इस दृष्टि से, धीमी प्रगति के लिए दिया गया यह सशर्त आह्वान दो तरह से पढ़ा जा सकता है: एक ओर प्रणालीगत क्षमताओं पर एक वास्तविक चेतावनी के रूप में, और दूसरी ओर एक ऐसी कंपनी के सावधानीपूर्वक संतुलित सार्वजनिक बयान के रूप में जिसे फिर भी प्रतिस्पर्धा करनी है।

Recursive self-improvement की दहलीज

स्रोत Anthropic के मूल तकनीकी साक्ष्य का विस्तार से विवरण नहीं देता, इसलिए कंपनी के दावे का महत्व मुख्यतः इस बात में है कि वह यह दावा कर रही है। AI जोखिम चर्चाओं में recursive self-improvement को लंबे समय से एक दहलीजी परिदृश्य माना गया है, क्योंकि यह ऐसे फीडबैक लूप का संकेत देता है जिसमें प्रणालियाँ सामान्य मानव गति या निगरानी के बिना अपने प्रदर्शन में सुधार करती हैं।

उस स्थिति की दिशा में एक आंशिक कदम भी शासन-व्यवस्था के लिए महत्वपूर्ण होगा। नियामकों, लैब्स और ग्राहकों को मूल्यांकन, नियंत्रण, तैनाती की सीमाओं और अंतरराष्ट्रीय समन्वय जैसे प्रश्नों का सामना करना पड़ेगा। Anthropic का तर्क है कि शासन की चुनौती आरामदायक संस्थाओं की अपेक्षा जल्द आ सकती है।

2023 के विराम-विवाद की प्रतिध्वनि

यह पोस्ट 2023 में उभरे उन तर्कों को भी फिर से जीवित करती है, जब Future of Life Institute ने सबसे शक्तिशाली नए मॉडल्स के प्रशिक्षण पर छह महीने के विराम की मांग वाला एक खुला पत्र प्रसारित किया था। उस पत्र ने AI जोखिम को मुख्यधारा की सार्वजनिक बहस में ला दिया, लेकिन वह बाध्यकारी नीति में नहीं बदल सका। स्रोत यह भी नोट करता है कि उसके हस्ताक्षरकर्ताओं में से एक Elon Musk ने जल्द ही अपना प्रतिस्पर्धी AI स्टार्टअप लॉन्च कर दिया।

Anthropic का हस्तक्षेप लहजे में अलग है। प्रत्यक्ष सामूहिक मांग जारी करने के बजाय, वह यह संकेत दे रहा है कि यदि ऐसी राजनीतिक या व्यावहारिक परिस्थितियाँ बन सकें जिनमें इसे हासिल करना कठिन हो, तो धीमी गति लाभकारी होगी। इससे यह बयान भाषणात्मक रूप से स्वीकार्य तो बन जाता है, लेकिन इसे व्यवहार में लागू करना कठिन रह जाता है।

यह बयान वास्तव में क्या बदलता है

तत्काल प्रभाव किसी नीति-परिवर्तन का नहीं है। दी गई सामग्री में ऐसा कोई प्रमाण नहीं है कि Anthropic या व्यापक उद्योग वास्तव में विकास रोक रहा है। व्यावहारिक प्रभाव इसके बजाय तर्क के स्तर पर है। एक प्रमुख AI लैब फिर से सार्वजनिक रूप से यह कह रही है कि प्रतिस्पर्धी दौड़ की गतिशीलता सुरक्षित शासन के साथ असंगत हो सकती है।

यह इसलिए मायने रखता है क्योंकि स्रोत Anthropic को उन बड़े लैब्स में से एक के रूप में पेश करता है जो सावधानी से सबसे अधिक जुड़े हुए हैं। जब ऐसी कंपनी कहती है कि मंदी वांछनीय हो सकती है, तो यह इस विचार को मजबूत करती है कि सबसे गंभीर चेतावनियाँ केवल बाहरी आलोचकों से नहीं आ रही हैं। वे उद्योग के भीतर के प्रतिभागियों से भी आ रही हैं।

• Anthropic का कहना है कि यदि संभव हो, तो उन्नत AI विकास को धीमा करना लाभकारी हो सकता है।
• कंपनी ने recursive self-improvement को लेकर चिंताओं का हवाला दिया।
• उसकी भाषा एक तत्काल विराम की प्रत्यक्ष मांग के बजाय स्पष्ट रूप से सशर्त है।
• इस बयान का समय प्रतिस्पर्धा, सुरक्षा और संभावित IPO से जुड़े व्यापक सवालों के साथ मेल खाता है।

नतीजा एक ऐसा संदेश है जो ठीक इसी कारण महत्वपूर्ण है कि वह अधूरा है। Anthropic दौड़ को खत्म नहीं कर रहा। वह उद्योग को याद दिला रहा है कि उसके अनुसार इस दौड़ पर बाज़ार द्वारा अभी दिए जा रहे नियंत्रणों से अधिक सख्त सीमाओं की ज़रूरत पड़ सकती है।

यह लेख Gizmodo की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.