ओपनएआई सुरक्षा रिपोर्ट के लेखक ने इस्तीफा दिया, चेतावनी दी कि एआई संस्कृति 'टूटी हुई' है

ओपनएआई का एक सुरक्षा लेखक क्यों चला गया

कई वर्षों तक, डेविड रॉबिन्सन उन लोगों में से एक थे जो ओपनएआई के सबसे बड़े मॉडल लॉन्च के साथ आने वाले सुरक्षा दस्तावेज़ तैयार करने के लिए जिम्मेदार थे। इन रिपोर्टों का उद्देश्य लैब और उसके बाहर के सभी लोगों के बीच एक सेतु बनना है — यह लिखित विवरण कि एक नया सिस्टम क्या कर सकता है, उसकी सीमाएँ कहाँ हैं, और उपयोगकर्ताओं तक पहुँचने से पहले कौन-कौन से सुरक्षा उपाय मौजूद हैं। इस सप्ताह, रॉबिन्सन ने उस भूमिका से इस्तीफा दे दिया, और चुपचाप चले जाने के बजाय उन्होंने द एटलांटिक के लिए एक संपादकीय में अपना तर्क सार्वजनिक कर दिया।

उनका तर्क यह नहीं है कि ओपनएआई को आंतरिक नीति के कुछ और पन्नों की आवश्यकता है। उनका तर्क यह है कि फ्रंटियर एआई उद्योग में व्याप्त संस्कृति मूल रूप से टूटी हुई है — और इसे ठीक करने के लिए नए नियमों या कारोबारी सामान्यता पर लगाए गए नियामकीय चेकलिस्टों से कहीं अधिक गहरे बदलाव की आवश्यकता है।

रॉबिन्सन द्वारा बताई गई संस्कृति की समस्या

रॉबिन्सन उन आदतों की ओर इशारा करते हैं जिन्होंने एक पीढ़ी से सिलिकॉन वैली को आकार दिया है: जिसे वे अत्यधिक आत्मविश्वास, स्प्रिंट के निरंतर चक्र, और एक अबाधित आशावाद के रूप में चित्रित करते हैं जो हर नए मॉडल को एक निर्विवाद प्रगति के कदम के रूप में देखता है। उस वातावरण में, संभावित नुकसानों को मापने और कम करने के बजाय अनदेखा, कमतर आँका या मान लिया जाता है कि वे मौजूद ही नहीं हैं।

यह ढाँचा महत्वपूर्ण है क्योंकि यह बहस का स्वरूप बदल देता है। यदि समस्या एक गलत निर्णय या एक कम-संसाधन वाली टीम होती, तो एक लक्षित हस्तक्षेप पर्याप्त हो सकता था। लेकिन यदि उद्योग की मूल प्रवृत्ति ही समस्या है, तो समाधान में यह शामिल होना चाहिए कि ये कंपनियाँ अपनी स्वयं की भूल-संभावना के बारे में कैसे सोचती हैं — जिसे कोई बाहरी नियम-पुस्तिका महज़ आदेश से लागू नहीं कर सकती।

रॉबिन्सन का नुस्ख़ा विनम्रता से शुरू होता है। उनका तर्क है कि एआई कंपनियों को उस संकीर्ण, तेज़ी से आगे बढ़ने और चीज़ें तोड़ने वाली दुनिया से आगे देखना होगा जिसमें वे पली-बढ़ी हैं, और उन क्षेत्रों से निर्णय-क्षमता उधार लेनी होगी जिन्होंने दशकों यह सीखने में बिताए हैं कि ऐसे जोखिम का प्रबंधन कैसे किया जाए जिसे वे पूरी तरह खत्म नहीं कर सकते।

परमाणु संयंत्र, हवाई अड्डे, और अतिरेक की दलील

रॉबिन्सन के तर्क का सबसे ठोस हिस्सा यह उपमा है कि फ्रंटियर लैब्स को कैसे काम करना चाहिए। उनका कहना है कि इसमें शामिल जोखिमों के पैमाने को देखते हुए, उन्हें लॉन्च की तारीख का पीछा करने वाले स्टार्टअप्स की तरह कम और परमाणु ऊर्जा संयंत्रों या व्यस्त हवाई अड्डों की तरह अधिक चलना चाहिए।

ये ऐसी संस्थाएँ हैं जिन्हें समाज पहले से ही विनाशकारी नुकसान के लिए भरोसेमंद मानता है। इन्हें इस धारणा पर डिज़ाइन किया गया है कि मनुष्य गलतियाँ करेंगे, और इन्हें अतिरेक की परतों तथा जानबूझकर समय लेने वाली योजना के साथ बनाया गया है ताकि कोई कभी-कभार और अनिवार्य त्रुटि आपदा का द्वार न खोल दे। उद्देश्य किसी एक ऑपरेटर के flawless प्रदर्शन का नहीं, बल्कि ऐसी प्रणाली का है जो गलतियों को उनके अपरिवर्तनीय रूप लेने से पहले सोख ले।

एआई विकास पर लागू करने पर, यह तर्क धीमे रिलीज़ चक्र, समीक्षा की कई स्वतंत्र पंक्तियाँ, और उस समय को खर्च करने की इच्छा को इंगित करता है जिसे उद्योग वर्तमान में पूरी तरह बर्बादी मानता है। यह यह भी इंगित करता है कि सुरक्षा कार्य निर्माण के अंत में तैयार किया गया दस्तावेज़ नहीं, बल्कि शुरू से ही निर्माण कैसे किया जाता है इसका संरचनात्मक गुण है।

केवल नियम पर्याप्त क्यों नहीं हो सकते

रॉबिन्सन का केंद्रीय दावा यह है कि यह केवल प्रशिक्षण रनों को कैसे संभाला जाता है, इस पर कुछ नए नियम थोपने से कहीं गहरा मुद्दा है। नियम सीमांत स्तर पर व्यवहार को सीमित कर सकते हैं, लेकिन वे शायद ही उन लोगों की प्रेरणाओं या आत्म-छवि को बदलते हैं जो यह काम करते हैं। जो कंपनी यह मानती है कि वह दुनिया बचा रही है, वह उस अनुपालन आवश्यकता से शायद ही ज़्यादा धीमी होगी जिसे वह बाधा मानती है।

वास्तव में, वे जिस चीज़ का वर्णन कर रहे हैं वह एक संस्कृति की समस्या है जिसे भीतर से हल करना होगा — ऐसे नेताओं द्वारा जो खुलकर यह कहने को तैयार हों कि वे गलत हो सकते हैं, और ऐसे संगठनों द्वारा जो इस तरह संरचित हों कि यह कहना करियर-आत्महत्या न हो।

इस्तीफ़ों की बढ़ती सूची

रॉबिन्सन उस पैटर्न में नवीनतम नाम हैं जो अब पहचानने योग्य हो चुका है: प्रमुख एआई कंपनियों को छोड़ने वाले शोधकर्ता और सुरक्षा कर्मचारी, और फिर सार्वजनिक रूप से यह बताना कि उन्होंने क्या देखा। वर्तमान लहर जैकब कॉक्सन द्वारा शुरू की गई प्रतीत होती है, जिन्होंने एंथ्रोपिक से इस्तीफा दे दिया और चेतावनी दी कि एआई इस दशक के अंत तक हम सबको मार सकता है।

अन्य लोग भी इसके बाद आए:

• रॉबर्ट ओ'कैलाहन, बिलाल चुगताई, और जोश एंगेल्स, जिन्होंने गूगल डीपमाइंड छोड़ दिया।
• जो बेंटन, जिन्होंने एंथ्रोपिक छोड़ा।

प्रत्येक प्रस्थान इस तर्क में एक और डेटा पॉइंट जोड़ता है कि कुछ प्रणालीगत सुरक्षा-केंद्रित लोगों को लैब्स से बाहर धकेल रहा है। जब नुकसान के जोखिम के बारे में सोचने के लिए नियुक्त लोग बार-बार यह निष्कर्ष निकालते हैं कि वे भीतर से वह काम प्रभावी ढंग से नहीं कर सकते, तो यह स्पष्ट प्रश्न उठाता है कि आंतरिक रूप से उन चिंताओं को कितना महत्व दिया जाता है।

निंदकता की समस्या

इस सब पर एक उचित आपत्ति है। जब ऐसे लोग जिन्होंने किसी तकनीक को बनाने में मदद की, वे ही उसके बारे में चेतावनी देने लगें तो निंदक महसूस करना आसान है — उन्होंने उस स्थिति में योगदान दिया जिसका वे अब वर्णन कर रहे हैं, और उनकी चेतावनियाँ सिस्टम के पहले से तैनात हो जाने के बाद आती हैं।

लेकिन वह प्रतिक्रिया, चाहे कितनी भी समझ में आने वाली हो, वे जो कह रहे हैं उसके सार को अमान्य नहीं करती। अंदरूनी जानकारी ही इन विवरणों को उपयोगी बनाती है। जिन लोगों ने सुरक्षा रिपोर्टें लिखीं, मूल्यांकन चलाए, और उन कमरों में बैठे जहाँ रिलीज़ के निर्णय लिए गए, वे बाहरी टिप्पणीकारों की तुलना में यह बताने के लिए बेहतर स्थिति में हैं कि वे निर्णय वास्तव में कैसे लिए जाते हैं।

अगली मॉडल रिलीज़ के लिए इसका क्या अर्थ है

व्यावहारिक दाँव सीधे हैं। अब हर बड़े मॉडल लॉन्च के साथ ऐसा दस्तावेज़ आता है जिसका उद्देश्य उपयोगकर्ताओं, उद्यमों और नियामकों को आश्वस्त करना है। यदि वह दस्तावेज़ लिखने वाला व्यक्ति यह निष्कर्ष निकालता है कि उसे बनाने वाली संस्कृति टूटी हुई है, तो पूरे प्रकटीकरण अभ्यास की विश्वसनीयता संदेह में आ जाती है।

रॉबिन्सन का उत्तर इस काम को छोड़ना नहीं बल्कि इसे अधिक सतर्क नींव पर पुनर्निर्मित करना है — ऐसी नींव जो मानवीय त्रुटि को समझाने-बहाने वाला अपवाद नहीं, बल्कि ऐसी निश्चितता माने जिसके इर्द-गिर्द इंजीनियरिंग की जाए। क्या फ्रंटियर लैब्स इस रुख को स्वेच्छा से अपनाएँगी, या केवल बाहरी दबाव के बाद, यह अब उद्योग की अगली रिलीज़ श्रृंखला पर मंडराता केंद्रीय प्रश्न है।

फिलहाल, चेतावनियाँ संरचनात्मक बदलावों से तेज़ी से जमा हो रही हैं। रॉबिन्सन का इस्तीफा नवीनतम संकेत है कि तकनीक के सबसे निकट लोग ही उस गति से सबसे कम सहज हैं जिस गति से इसे जारी किया जा रहा है।

यह लेख The Verge की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।