OpenAI की मिलेनियम प्रूफ विवाद ने AI अनुसंधान में विश्वास के बारे में कठिन प्रश्न उठाए

जब एक AI लैब मिलेनियम समस्या का पीछा करती है

यह संघर्ष एक असाधारण दावे से शुरू हुआ: एक AI प्रणाली ने Navier-Stokes समीकरणों का प्रमाण तैयार किया था, जो क्ले गणित संस्थान की सात मिलेनियम समस्याओं में से एक है और एक चुनौती है जिसने दशकों से गणितज्ञों को परेशान कर रखा है। यह प्रकरण AI-सहायता प्राप्त अनुसंधान के लिए एक मील का पत्थर होना चाहिए था। इसके बजाय यह उन तरीकों के बारे में एक चेतावनी भरी कहानी बन गया है जिसमें स्वतंत्र शोधकर्ताओं और शक्तिशाली प्रयोगशालाओं के बीच विचार चलते हैं जो एल्गोरिदम और उन्हें विकसित करने के लिए उपयोग किए जाने वाले प्लेटफार्मों दोनों को नियंत्रित करते हैं।

सभी प्रमुख पक्षों ने अब सार्वजनिक बयान दिए हैं, और खाते काफी भिन्न हैं। केंद्र में गणितज्ञ ट्रिस्टन बकमास्टर हैं, जो कहते हैं कि OpenAI ने लेवेंट अल्पोज के साथ वह शोध परियोजना जानने के बाद कदाचार किया। OpenAI सबसे गंभीर आरोपों से इनकार करता है, लेकिन स्वीकार करता है कि उसके कार्य प्रतिद्वंद्वी लैब एंथ्रोपिक के मॉडलों ने क्या हासिल किया था, इस बारे में अफवाहों से आकार लिए गए थे।

दबाव और साहित्यिक चोरी के आरोप

बकमास्टर अपनी आलोचना में असामान्य रूप से स्पष्ट रहे हैं। उनका कहना है कि OpenAI ने उन और अल्पोज द्वारा OpenAI के Codex वातावरण में अपलोड किए गए ड्राफ्ट से सामग्री ली, शोध प्रक्रिया के दौरान उन पर दबाव डाला, अल्पोज को सह-लेखक के रूप में हटाने का प्रयास किया क्योंकि अल्पोज एंथ्रोपिक द्वारा नियोजित है, और उन्हें अपने करियर के लिए परिणामों की धमकी दी। बकमास्टर के दृष्टिकोण में, यह व्यवहार पूर्ण शैक्षणिक कदाचार है।

दबाव का आरोप बाहर से सत्यापित करना असंभव है। जो प्रलेखित किया जा सकता है वह यह है कि OpenAI ने अफवाहें सुनीं कि एंथ्रोपिक के मॉडलों ने एक मिलेनियम समस्या हल कर ली थी और, अपने स्वयं के स्वीकारोक्ति से, अपने संसाधनों को उसी लक्ष्य पर केंद्रित किया। OpenAI के सीईओ सैम ऑल्टमैन और शोधकर्ता सेबेस्टियन बुबेक ने साहित्यिक चोरी से इनकार किया। वे स्वीकार करते हैं कि उनकी टीम ने अफवाह फैलने के बाद विशेष रूप से समस्या के लिए एक मॉडल विकसित किया, लेकिन वे इस सुझाव को अस्वीकार करते हैं कि कंपनी का परिणाम बकमास्टर और अल्पोज से उठाया गया था।

एक ही काम के दो बहुत अलग संस्करण

असहमति का तकनीकी केंद्र मौलिकता है। OpenAI का कहना है कि उसका समाधान गणितज्ञों के काम से काफी अलग है। बकमास्टर और अल्पोज असहमत हैं। वे ध्यान देते हैं कि उन्होंने OpenAI की प्रणालियों में एक समान दृष्टिकोण दर्ज किया था, और उन्हें संदेह है कि इनपुट प्रशिक्षण डेटा में समाप्त हो गया। यदि सच है, तो कंपनी ने अपने प्रतिस्पर्धियों से आगे निकलने के लिए उन विचारों का उपयोग करके तेजी से आगे बढ़ सकती है जो प्रतिस्पर्धियों ने अपने विकास उपकरणों को सौंपे थे।

यह संभावना एक सरल कारण से मायने रखती है: शोधकर्ता आम तौर पर अपने अप्रकाशित काम को प्रशिक्षण के लिए प्रतियोगी को जमा नहीं करते हैं। लेकिन जब AI प्रयोगशालाएं कोडिंग सहायक और क्लाउड प्लेटफॉर्म प्रदान करती हैं, तो उपयोगकर्ता अपनी सबसे आशाजनक बौद्धिक संपदा को सीधे एक ऐसी प्रणाली में खिला सकते हैं जो लैब के अपने मॉडल में सुधार कर सकती है। एक उपकरण का उपयोग करने और शोध को उसे सौंपने के बीच की सीमा को नियंत्रित करना मुश्किल हो जाता है।

प्रशिक्षण डेटा प्रश्न अनुत्तरित रहता है

OpenAI के कर्मचारी बताते हैं कि कंपनी के प्रस्तुत समाधानों पर प्रशिक्षण की संभावना कम है, खासकर यदि दो शोधकर्ताओं ने उस विकल्प को अक्षम कर दिया जो उनके इनपुट को प्रशिक्षण के लिए उपयोग करने की अनुमति देगा। उन्होंने ऐसा किया या नहीं, यह सार्वजनिक रूप से ज्ञात नहीं है। वैज्ञानिक दृष्टिकोण से, यह अनिश्चितता ठीक वही है जो विवाद को खतरनाक बनाती है। जब इस तरह के आरोप की स्वतंत्र रूप से जांच नहीं की जा सकती है, तो शोधकर्ताओं को एक निगम के शब्द पर भरोसा करने के लिए छोड़ दिया जाता है जिसका कोई कानूनी दायित्व नहीं है कि वह अपनी प्रशिक्षण पाइपलाइन को बाहरी निरीक्षण के लिए खोले।

OpenAI शोधकर्ता बोअज़ बाराक ने इस विचार को खारिज कर दिया है कि मॉडल को बाहरी मदद की आवश्यकता थी। उनके अनुसार, मॉडल ने केवल एक ज्ञात तर्क को पुन: पेश नहीं किया; इसने गणितज्ञों द्वारा बनाए गए दावे से अधिक मजबूत दावा साबित करके शुरू किया। उनके दृष्टिकोण में, अन्यथा सुझाव देना यथार्थवादी मूल्यांकन के बजाय मुकाबला करना है। फिर भी यह बचाव उत्पत्ति के गहरे प्रश्न को हल करने के लिए बहुत कम करता है। यहां तक कि एक मॉडल जो अंततः शोधकर्ताओं के काम से आगे निकल गया, वह उनके ड्राफ्ट से प्रभावित हो सकता था। वैज्ञानिक अखंडता केवल इस बारे में नहीं है कि आउटपुट कॉपी किया गया था या नहीं; यह समान रूप से इस बारे में है कि क्या बिना अनुमति के एक विचार लिया गया था।

टेरेंस ताओ से एक चेतावनी

सबसे गंभीर प्रतिक्रियाओं में से एक गणितज्ञ टेरेंस ताओ से आई है। उन्होंने चेतावनी दी है कि इस तरह की भविष्य की घटनाएं स्वतंत्र गणितज्ञों को एक असंभव स्थिति में छोड़ सकती हैं। जब एक अफवाह एक बड़ी प्रौद्योगिकी कंपनी तक पहुंचती है, तो वह कंपनी दिनों के भीतर पर्याप्त कंप्यूट और प्रतिभा जुटा सकती है। शिक्षाविदों की एक छोटी टीम उस गति से मेल नहीं खा सकती है, खासकर यदि अफवाह उनके अपने अप्रकाशित काम पर आधारित है। परिणाम यह हो सकता है कि AI प्रयोगशालाएं नियमित रूप से मूल शोध परियोजनाओं से आगे निकल जाती हैं क्योंकि उनके पास बेहतर कान और बड़ी मशीनें होती हैं।

ताओ की चेतावनी तत्काल विवाद से परे है। यह विज्ञान में एक उभरती विषमता की ओर इशारा करती है: सबसे शक्तिशाली मॉडल बनाने वाले समूह शुरुआती परिणामों के बारे में सुनने, उन्हें प्रशिक्षण रन में एकीकृत करने और पहले प्रकाशित करने की सबसे अच्छी स्थिति में भी हैं। शैक्षणिक प्रोत्साहन प्राथमिकता और खुलेपन के आसपास बनाए गए हैं, लेकिन ये प्रोत्साहन अर्थहीन हो जाते हैं यदि कोई प्रतिद्वंद्वी बिना सहमति के अप्रकट डेटा को अवशोषित कर सकता है।

खुले विज्ञान के लिए इसका क्या अर्थ है

Navier-Stokes विवाद इसलिए केवल दो व्यक्तियों और एक लैब के बीच विवाद नहीं है। यह AI विकास और खुले अनुसंधान के बीच संबंधों के बारे में मौलिक प्रश्न उठाता है।

• क्या शोधकर्ता अपने अप्रकाशित विचारों को कंपनी के प्रशिक्षण डेटा से बाहर रखते हुए AI कोडिंग प्लेटफार्मों का सुरक्षित रूप से उपयोग कर सकते हैं? अधिकांश उपयोगकर्ताओं के पास यह सत्यापित करने का कोई तरीका नहीं है कि ऐसी सुरक्षा प्रभावी है।
• क्या AI प्रयोगशालाओं को किसी अन्य संगठन के गोपनीय या अफवाह वाले काम के आधार पर अपने शोध प्रयासों को पुनर्निर्देशित करने की अनुमति दी जानी चाहिए, खासकर जब अफवाह उनके अपने उपकरणों के अंदर उत्पन्न होती है?
• जब एक सह-लेखक एक प्रतिस्पर्धी लैब द्वारा नियोजित होता है, तो क्या उस तथ्य को लेखकत्व को प्रभावित करना चाहिए? बकमास्टर का कहना है कि OpenAI ने उस कारण से अल्पोज को पेपर से हटाने का प्रयास किया, जबकि कंपनी कदाचार से इनकार करती है लेकिन अपनी लेखकत्व नीति को स्पष्ट नहीं किया है।
• जब साहित्यिक चोरी का आरोप लगाया जाता है तो प्रशिक्षण डेटा और मॉडल वेट तक किसकी पहुंच होनी चाहिए? वर्तमान विवाद समाधान तंत्र बाहरी लेखा परीक्षकों के लिए कोई स्पष्ट मार्ग प्रदान नहीं करते हैं।
• यदि कनिष्ठ शोधकर्ताओं को डर है कि उनका काम एक अधिक शक्तिशाली अभिनेता द्वारा खनन किया जाएगा, तो प्रारंभिक परिणाम साझा करने की क्षेत्र की इच्छा का क्या होता है?

ये अमूर्त चिंताएं नहीं हैं। विवाद ने पहले ही इस विचार में विश्वास को नुकसान पहुंचाया है कि AI कंपनियां तटस्थ वैज्ञानिक भागीदारों के रूप में काम कर सकती हैं। यहां तक कि जिन शोधकर्ताओं को Navier-Stokes में कोई दिलचस्पी नहीं है, वे एक AI लैब द्वारा संचालित प्लेटफॉर्म पर एक आशाजनक लेम्मा या एक अप्रकाशित विधि अपलोड करने से पहले उचित रूप से संकोच कर सकते हैं।

विश्वास को मान नहीं लिया जा सकता

OpenAI और इसके रक्षक सही हो सकते हैं कि कोई दुरुपयोग नहीं हुआ। उपलब्ध साक्ष्य अधूरे हैं, और एक निर्दोष संयोग की संभावना वास्तविक है। लेकिन इस प्रकरण ने जिम्मेदार AI अनुसंधान के लिए बार बढ़ा दिया है। एक लैब जो गणितज्ञों के लिए उपकरण विकसित करती है, वह अपने काम का उपयोग नहीं करने का एक अस्पष्ट वादा नहीं कर सकती है। उसे पारदर्शी डेटा-हैंडलिंग नीतियों और स्वतंत्र ऑडिट तंत्र के माध्यम से प्रदर्शित करना होगा कि उपयोगकर्ता योगदान सहमति के बिना भविष्य के मॉडल में दिखाई नहीं देंगे।

व्यापक सबक यह हो सकता है कि वैज्ञानिक और AI प्रयोगशालाएं अलग-अलग तर्कों के तहत काम करते हैं। शिक्षाविद ज्ञान बनाने के लिए साझा करते हैं; कंपनियां लाभ बनाने के लिए साझा करती हैं। जब दोनों प्रणालियां टकराती हैं, तो कमजोर पक्ष आमतौर पर शोधकर्ता होता है जो कॉर्पोरेट दीवारों के बाहर होता है। Navier-Stokes विवाद को न केवल गणितीय उपलब्धि के लिए याद किया जाएगा जिसने इसे ट्रिगर किया, बल्कि इसके लिए भी कि इसने जनरेटिव AI के युग में खुले विज्ञान की भेद्यता के बारे में क्या खुलासा किया। जब तक स्पष्ट मानदंड जल्दी से स्थापित नहीं होते हैं, अगली मिलेनियम समस्या एक अकेले गणितज्ञ द्वारा ब्लैकबोर्ड पर नहीं, बल्कि एक कॉर्पोरेट टीम द्वारा हल की जा सकती है जिसने प्रश्न प्रकाशित होने से पहले उत्तर आते देखा था।

यह लेख द डिकोडर की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।