ओपनएआयच्या मिलेनियम पुराव्याच्या वादामुळे एआय संशोधनावरील विश्वासाबद्दल कठोर प्रश्न उपस्थित

जेव्हा एआय लॅब मिलेनियम समस्येचा पाठलाग करते

हा संघर्ष एका विलक्षण दाव्याने सुरू झाला: एका एआय प्रणालीने नेव्हियर-स्टोक्स समीकरणांचा पुरावा तयार केला होता, जी क्ले गणित संस्थेच्या सात मिलेनियम समस्यांपैकी एक आहे आणि दशकांपासून गणितज्ञांना आव्हान देणारी समस्या आहे. हा प्रसंग एआय-सहाय्यित संशोधनासाठी एक महत्त्वाचा टप्पा ठरला पाहिजे होता. त्याऐवजी, तो स्वतंत्र संशोधक आणि अल्गोरिदम तसेच त्यांच्या विकासासाठी वापरल्या जाणाऱ्या प्लॅटफॉर्मवर नियंत्रण ठेवणाऱ्या शक्तिशाली प्रयोगशाळांमधील कल्पनांच्या हालचालींबद्दलची एक इशारा देणारी कथा बनला आहे.

आता सर्व प्रमुख पक्षांनी सार्वजनिक विधाने केली आहेत, आणि त्यांची मते मोठ्या प्रमाणात भिन्न आहेत. या केंद्रस्थानी गणितज्ञ ट्रिस्टन बकमास्टर आहेत, ज्यांनी आरोप केला आहे की ओपनएआयने लेव्हेंट अल्पोजसोबत ते सुरू करत असलेल्या संशोधन प्रकल्पाची माहिती मिळाल्यानंतर गैरवर्तन केले. ओपनएआयने सर्वात गंभीर आरोप नाकारले आहेत, परंतु प्रतिस्पर्धी प्रयोगशाळा अँथ्रोपिकच्या मॉडेल्सनी काय साध्य केले होते याबद्दलच्या अफवांनी त्यांच्या कृतींना आकार दिला होता, हे मान्य केले आहे.

दबाव आणि साहित्यिक चोरीचे आरोप

बकमास्टर आपल्या टीकेमध्ये असामान्यपणे स्पष्ट आहेत. ते म्हणतात की ओपनएआयने त्यांनी आणि अल्पोजने ओपनएआयच्या कोडेक्स वातावरणात अपलोड केलेल्या मसुद्यांमधून साहित्य घेतले, संशोधन प्रक्रियेदरम्यान त्यांच्यावर दबाव आणला, अल्पोज हे अँथ्रोपिकमध्ये कार्यरत असल्याने त्यांना सह-लेखक म्हणून काढून टाकण्याचा प्रयत्न केला आणि त्यांच्या कारकिर्दीवर परिणाम होण्याची धमकी दिली. बकमास्टरच्या मते, हे वर्तन पूर्णपणे शैक्षणिक गैरवर्तन आहे.

दबावाचा आरोप बाहेरून सत्यापित करणे अशक्य आहे. काय दस्तऐवजीकरण केले जाऊ शकते ते म्हणजे ओपनएआयने अँथ्रोपिकच्या मॉडेल्सनी मिलेनियम समस्या सोडवल्याच्या अफवा ऐकल्या आणि स्वतःच्या कबुलीनुसार, आपली संसाधने त्याच लक्ष्यावर केंद्रित केली. ओपनएआयचे सीईओ सॅम ऑल्टमन आणि संशोधक सेबॅस्टियन बुबेक यांनी साहित्यिक चोरी नाकारली. ते मान्य करतात की अफवा पसरल्यानंतर त्यांच्या टीमने विशेषतः त्या समस्येसाठी एक मॉडेल विकसित केले, परंतु कंपनीचा निकाल बकमास्टर आणि अल्पोज यांच्या कामातून उचलला गेला ही सूचना ते नाकारतात.

त्याच कामाच्या दोन अत्यंत भिन्न आवृत्त्या

मतभेदाचा तांत्रिक गाभा मौलिकता आहे. ओपनएआय ठामपणे सांगते की त्यांचे समाधान गणितज्ञांच्या कामापेक्षा लक्षणीय भिन्न आहे. बकमास्टर आणि अल्पोज असहमत आहेत. ते नमूद करतात की त्यांनी समान दृष्टिकोन ओपनएआयच्या प्रणालींमध्ये प्रविष्ट केला होता, आणि त्यांना संशय आहे की तो इनपुट प्रशिक्षण डेटामध्ये संपला. जर ते खरे असेल, तर कंपनीने स्पर्धकांच्या त्या कल्पना वापरून त्यांच्या विकास साधनांवर विश्वास ठेवून त्यांच्या स्वतःच्या मॉडेल्सना गती दिली असू शकते.

त्या शक्यतेला एका साध्या कारणासाठी महत्त्व आहे: संशोधक सामान्यतः आपले अप्रकाशित काम प्रशिक्षणासाठी स्पर्धकाला सादर करत नाहीत. परंतु जेव्हा एआय प्रयोगशाळा कोडिंग सहाय्यक आणि क्लाउड प्लॅटफॉर्म प्रदान करतात, तेव्हा वापरकर्ते त्यांची सर्वात आशादायक बौद्धिक संपत्ता थेट अशा प्रणालीमध्ये देत असू शकतात जी प्रयोगशाळेच्या स्वतःच्या मॉडेल्सना सुधारू शकते. साधन वापरणे आणि संशोधन त्याच्या स्वाधीन करणे यामधील सीमारेषा नियंत्रित करणे कठीण होते.

प्रशिक्षण डेटाचा प्रश्न अनुत्तरित आहे

ओपनएआय कर्मचारी निदर्शनास आणतात की कंपनीने सादर केलेल्या उपायांवर प्रशिक्षण दिले असण्याची शक्यता कमी आहे, विशेषतः जर दोन संशोधकांनी त्यांच्या इनपुटचा प्रशिक्षणासाठी वापर करण्याचा पर्याय अक्षम केला असेल. त्यांनी तसे केले की नाही हे सार्वजनिकरित्या ज्ञात नाही. वैज्ञानिक दृष्टिकोनातून, ही अनिश्चितता नेमकी या वादाला धोकादायक बनवते. जेव्हा अशा प्रकारच्या आरोपाची स्वतंत्रपणे चौकशी केली जाऊ शकत नाही, तेव्हा संशोधकांना अशा कॉर्पोरेशनच्या शब्दावर अवलंबून राहावे लागते ज्याला आपली प्रशिक्षण पाइपलाइन बाह्य तपासणीसाठी उघडण्याची कायदेशीर जबाबदारी नाही.

ओपनएआय संशोधक बोआझ बाराक यांनी मॉडेलला बाह्य मदतीची आवश्यकता होती या कल्पनेला प्रतिसाद दिला आहे. त्यांच्या मते, मॉडेलने केवळ ज्ञात युक्तिवाद पुनरुत्पादित केला नाही; त्याने गणितज्ञांनी केलेल्या दाव्यापेक्षा अधिक मजबूत दावा सिद्ध करून सुरुवात केली. असे अन्यथा सुचवणे, त्यांच्या मते, वास्तववादी मूल्यांकनापेक्षा सामना करणे आहे. तरीही हा बचाव उत्पत्तीच्या खोल प्रश्नाचे निराकरण करण्यास थोडेच मदत करतो. जरी मॉडेलने शेवटी संशोधकांच्या कामापेक्षा अधिक साध्य केले असले तरी, त्यांच्या मसुद्यांनी प्रभावित झाले असू शकते. वैज्ञानिक अखंडता केवळ आउटपुट कॉपी केले गेले की नाही याबद्दल नाही; ती समान आहे की एखादी कल्पना परवानगीशिवाय घेतली गेली की नाही याबद्दल.

टेरेन्स टाओचा इशारा

सर्वात गंभीर प्रतिसादांपैकी एक गणितज्ञ टेरेन्स टाओ यांच्याकडून आला आहे. त्यांनी इशारा दिला आहे की अशा प्रकारच्या भविष्यातील घटनांमुळे स्वतंत्र गणितज्ञांना अशक्य स्थितीत सोडले जाऊ शकते. जेव्हा एखादी अफवा मोठ्या तंत्रज्ञान कंपनीपर्यंत पोहोचते, तेव्हा ती कंपनी काही दिवसांत मोठ्या प्रमाणात संगणकीय शक्ती आणि प्रतिभा एकत्र करू शकते. एका छोट्या शैक्षणिक पथकाला त्या गतीशी जुळवता येत नाही, विशेषतः जर अफवा त्यांच्या स्वतःच्या अप्रकाशित कामावर आधारित असेल. परिणाम असा होऊ शकतो की एआय प्रयोगशाळा नियमितपणे मूळ संशोधन प्रकल्पांना मागे टाकतील कारण त्यांच्याकडे चांगले कान आणि मोठी मशीन असतात.

टाओचा इशारा तात्काळ वादाच्या पलीकडे आहे. तो विज्ञानातील एका उदयोन्मुख विषमतेकडे निर्देश करतो: सर्वात शक्तिशाली मॉडेल्स तयार करणारे गट सुरुवातीचे परिणाम ऐकण्यासाठी, त्यांना प्रशिक्षण चक्रांमध्ये समाकलित करण्यासाठी आणि प्रथम प्रकाशित करण्यासाठी सर्वोत्तम स्थितीत आहेत. शैक्षणिक प्रोत्साहने प्राधान्य आणि मोकळेपणाभोवती बांधली जातात, परंतु जर एखादा प्रतिस्पर्धी संमतीशिवाय अज्ञात डेटा शोषून घेऊ शकत असेल तर ती प्रोत्साहने निरर्थक ठरतात.

मुक्त विज्ञानासाठी याचा अर्थ काय

नेव्हियर-स्टोक्स वाद म्हणून केवळ दोन व्यक्ती आणि एका प्रयोगशाळेतील वाद नाही. हे एआय विकास आणि मुक्त संशोधन यांच्यातील संबंधांबद्दल मूलभूत प्रश्न उपस्थित करते.

• संशोधक आपल्या अप्रकाशित कल्पना कंपनीच्या प्रशिक्षण डेटापासून दूर ठेवताना एआय कोडिंग प्लॅटफॉर्म सुरक्षितपणे वापरू शकतात का? बहुतेक वापरकर्त्यांना अशा संरक्षणांची प्रभावीता सत्यापित करण्याचा कोणताही मार्ग नाही.
• एआय प्रयोगशाळांना दुसऱ्या संस्थेच्या गोपनीय किंवा अफवा असलेल्या कामावर आधारित आपले संशोधन प्रयत्न पुनर्निर्देशित करण्याची परवानगी दिली पाहिजे का, विशेषतः जेव्हा अफवा त्यांच्या स्वतःच्या साधनांमध्ये उगम पावते?
• जेव्हा सह-लेखक स्पर्धात्मक प्रयोगशाळेत कार्यरत असतो, तेव्हा त्या वस्तुस्थितीने लेखकत्वावर प्रभाव पाडला पाहिजे का? बकमास्टर म्हणतात की ओपनएआयने अल्पोजला पेपरमधून काढून टाकण्याचा प्रयत्न केला, तर कंपनी गैरवर्तन नाकारते परंतु त्याच्या लेखकत्व धोरणाचे स्पष्टीकरण दिलेले नाही.
• साहित्यिक चोरीचा आरोप असताना प्रशिक्षण डेटा आणि मॉडेल वजनांमध्ये प्रवेश कोणाला असावा? सध्याच्या वाद निराकरण यंत्रणा बाह्य लेखापरीक्षकांसाठी कोणताही स्पष्ट मार्ग प्रदान करत नाहीत.
• जर कनिष्ठ संशोधकांना भीती वाटत असेल की त्यांचे काम अधिक शक्तिशाली खेळाडूद्वारे खाण्यात येईल, तर क्षेत्राच्या सुरुवातीचे निकाल सामायिक करण्याच्या इच्छेचे काय होईल?

या अमूर्त चिंता नाहीत. या वादाने एआय कंपन्या तटस्थ वैज्ञानिक भागीदार म्हणून काम करू शकतात या कल्पनेवरील विश्वासाला आधीच हानी पोहोचवली आहे. नेव्हियर-स्टोक्समध्ये स्वारस्य नसलेले संशोधक देखील एआय प्रयोगशाळेद्वारे चालवल्या जाणाऱ्या प्लॅटफॉर्मवर आशादायक लेमा किंवा अप्रकाशित पद्धत अपलोड करण्यापूर्वी योग्यरित्या संकोच करू शकतात.

विश्वास गृहीत धरता येत नाही

ओपनएआय आणि त्याचे बचावकर्ते बरोबर असू शकतात की कोणताही गैरवापर झाला नाही. उपलब्ध पुरावे अपूर्ण आहेत, आणि निष्पाप योगायोगाची शक्यता वास्तविक आहे. परंतु या प्रसंगाने जबाबदार एआय संशोधन कसे दिसते यासाठी आवश्यकता वाढवली आहे. गणितज्ञांसाठी साधने विकसित करणारी प्रयोगशाळा त्यांच्या कामाचा वापर न करण्याच्या अस्पष्ट आश्वासनावर अवलंबून राहू शकत नाही. पारदर्शक डेटा हाताळणी धोरणे आणि स्वतंत्र लेखापरीक्षण यंत्रणेद्वारे, वापरकर्त्यांचे योगदान संमतीशिवाय भविष्यातील मॉडेल्समध्ये दिसणार नाही हे दाखवून दिले पाहिजे.

व्यापक धडा असा असू शकतो की शास्त्रज्ञ आणि एआय प्रयोगशाळा वेगवेगळ्या तर्कांनुसार कार्य करतात. शैक्षणिक ज्ञान निर्माण करण्यासाठी सामायिक करतात; कंपन्या फायदा मिळवण्यासाठी सामायिक करतात. जेव्हा दोन प्रणाली आदळतात, तेव्हा कमकुवत बाजू सहसा कॉर्पोरेट भिंतींच्या बाहेर असलेला संशोधक असतो. नेव्हियर-स्टोक्स वाद केवळ त्यास कारणीभूत ठरलेल्या गणितीय कामगिरीसाठीच नव्हे, तर जनरेटिव्ह एआयच्या युगात मुक्त विज्ञानाच्या असुरक्षिततेबद्दल काय प्रकट केले त्यासाठी लक्षात ठेवला जाईल. जोपर्यंत लवकरच स्पष्ट नियम स्थापित केले जात नाहीत, तोपर्यंत पुढील मिलेनियम समस्या एकाकी गणितज्ञाने ब्लॅकबोर्डवर सोडवली जाणार नाही, तर एका कॉर्पोरेट टीमने ज्याने प्रश्न प्रकाशित होण्यापूर्वीच उत्तर येताना पाहिले असेल.

हा लेख द डिकोडरच्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.