अल्टमन, मस्क, हसाबिस यांनी अमोदेई यांच्या स्वतंत्र एआय देखरेखीच्या आवाहनाला पाठिंबा दिला

एआय सुरक्षा वादात आश्चर्यकारक एकजूट

कृत्रिम बुद्धिमत्तेतील तीन सर्वात प्रमुख व्यक्ती — ओपनएआयचे मुख्य कार्यकारी अधिकारी सॅम अल्टमन, एलॉन मस्क आणि माजी डीपमाइंड सीईओ डेमिस हसाबिस — यांनी अँथ्रोपिकचे सीईओ डारिओ अमोदेई यांनी एआय प्रयोगशाळांमध्ये स्वतंत्र देखरेखीसाठी केलेल्या प्रस्तावाला किमान अंशतः पाठिंबा दिला आहे. द डिकोडरने वृत्त दिल्यानुसार, ही एकजूट अशा क्षेत्रातील एक उल्लेखनीय क्षण आहे जिथे नेते धोका, कालमर्यादा आणि नियमन यांबाबत सार्वजनिकपणे वारंवार मतभेद करतात. हे एआय विकास मंदावण्याबाबत पूर्ण एकमत दर्शवत नाही, परंतु बाह्य किंवा स्वतंत्र मूल्यांकनाची कल्पना मुख्य प्रवाहाच्या जवळ आली आहे हे निदर्शनास आणते.

मस्क यांची भूमिका सर्वात कमी आश्चर्यकारक आहे. त्यांनी वर्षानुवर्षे एआय धोक्यांबद्दल इशारा दिला आहे, बऱ्याचदा प्रगत प्रणालींना अस्तित्वविषयक चिंता म्हणून चित्रित केले आहे. याउलट, अल्टमन आणि हसाबिस अशा संस्थांचे नेतृत्व करतात ज्यांचे व्यावसायिक यश फ्रंटियर मॉडेल्सच्या जलद तैनातीवर अवलंबून आहे. स्वतंत्र देखरेखीला — अगदी अंशतः — पाठिंबा देण्याची त्यांची तयारी असे सूचित करते की देखरेख आवश्यक आहे का यावरून वाद बदलून ती कशी रचली जावी आणि कोणी करावी याकडे वळला आहे.

अमोदेई यांनी काय प्रस्तावित केले

अमोदेई यांचा प्रस्ताव या तत्त्वावर केंद्रित आहे की एआय प्रयोगशाळांनी स्वतःच्या सुरक्षिततेचे एकमेव न्यायाधीश बनू नये. या चौकटीत, स्वतंत्र मूल्यांकन बाह्य तज्ञांना मॉडेल्स आणि प्रशिक्षण प्रक्रियांमध्ये प्रवेश देईल जेणेकरून ते तैनातीपूर्वी क्षमता आणि धोके मूल्यांकन करू शकतील. अल्टमन आणि अमोदेई या मूळ मुद्द्यावर सहमत असल्याचे वृत्त आहे: एआय प्रयोगशाळांचे स्वतंत्रपणे मूल्यांकन केले पाहिजे. ही एकजूट महत्त्वाची आहे कारण दोन्ही व्यक्ती फ्रंटियरवर स्पर्धा करणाऱ्या कंपन्या चालवतात आणि दोघांनीही पूर्वी स्व-नियमन म्हणजे स्वतःचे गृहपाठ तपासणे असल्याची टीका सहन केली आहे.

स्वतंत्र मूल्यांकन हे सामायिक तत्त्व

अल्टमन, मस्क आणि हसाबिस यांचा पाठिंबा स्थगिती किंवा जागतिक वेगमर्यादेवर सर्वसमावेशक करार नाही. तो प्रशासन यंत्रणेसाठी — फ्रंटियर प्रणालींच्या स्वतंत्र तपासणीसाठी — समर्थन म्हणून अधिक चांगल्या प्रकारे समजला जातो. हा फरक महत्त्वाचा आहे. एक प्रयोगशाळा बाह्य मूल्यांकन स्वीकारू शकते आणि तरीही वेगवान विकासाची बाजू मांडू शकते, जर मूल्यांकनाने प्रणाली पुढे जाण्यासाठी पुरेशी सुरक्षित असल्याचे दर्शवले. उलटपक्षी, एक टीकाकार अनिवार्य मंदावण्याला विरोध करताना स्वतंत्र देखरेखीला पाठिंबा देऊ शकतो.

करार फक्त अंशतः का आहे

पाठिंब्याचे अंशतः स्वरूप अंमलबजावणीबाबत तीव्र मतभेदांना जागा ठेवते. मूल्यांकनकर्त्यांची नेमणूक कोण करते? त्यांना काय प्रवेश मिळतो? एखाद्या प्रयोगशाळेने त्यांच्या निष्कर्षांना आव्हान दिल्यास काय होते? यापैकी कोणतेही प्रश्न सामायिक तत्त्वाने निकाली निघत नाहीत. द डिकोडर नमूद करते की नेत्यांनी एआय प्रयोगशाळांमधील स्वतंत्र देखरेखीच्या गरजेवर सहमती दर्शवली, परंतु व्यावहारिक तपशील खुले आहेत — आणि ते तपशील देखरेख अर्थपूर्ण की केवळ प्रतीकात्मक आहे हे ठरवतील.

ओपनएआयची आयपीओ वेळ आणि सुरक्षा स्पष्टीकरण

अल्टमन यांनी फॉर्च्यूनला सांगितले की ओपनएआय या वर्षी सार्वजनिक होणार नाही, सुरक्षा चिंतांचा हवाल देत. हा निर्णय त्यांनी जूनमध्ये अंतर्गतपणे आधीच कळवला होता. उमेदवार ब्रीफ सुरक्षा विचारांमुळे आयपीओ २०२७ पर्यंत ढकलण्याचे वर्णन करते, तसेच एक पर्यायी वाचन नोंदवते: ओपनएआयची आर्थिक स्थिती सध्या आयपीओला पाठिंबा देऊ शकत नाही, विशेषतः अँथ्रोपिकशी तुलना करता. दोन्ही स्पष्टीकरणे एकाच वेळी खरी असू शकतात. कंपनी प्रतिकूल बाजार परिस्थितीला तोंड देऊ शकते आणि प्रतीक्षा करण्याचे कारण म्हणून सुरक्षिततेवर भर देणे निवडू शकते.

विलंबाची दोन वाचने

सुरक्षा स्पष्टीकरण अल्टमन यांच्या अलीकडच्या सार्वजनिक भूमिकेशी जुळते. जर फ्रंटियर एआय गंभीर धोके वाहत असेल, तर सार्वजनिक सूचीबद्धतेची प्रकटीकरण जबाबदारी आणि त्रैमासिक दबाव स्वीकारणे हे विचारपूर्वक सुरक्षा धोरण गुंतागुंतीचे करू शकते. आर्थिक स्पष्टीकरण स्पर्धात्मक परिदृश्याशी जुळते. अँथ्रोपिकचा तुलनात्मक मुद्दा म्हणून उल्लेख केला गेला आहे, आणि आयपीओ शेवटी तात्विकाऐवजी बाजारपेठेचा निर्णय आहे. गुंतवणूकदार आणि नियामक कोणता घटक वेळापत्रक चालवत आहे यावर स्पष्टता मागतील.

कोणत्याही प्रकारे, विलंब ओपनएआयला प्रमुख एआय कंपन्यांमध्ये स्वतःच्या श्रेणीत ठेवतो: एक अग्रगण्य प्रयोगशाळा जिचे नेतृत्व सार्वजनिकपणे आपले भांडवल-बाजार निर्णय सुरक्षा चिंतांशी जोडत आहे. ही जोडणी देखरेख वादाला ठोस कॉर्पोरेट परिमाण देते. हे आता केवळ अमूर्त तत्त्वांबद्दल नाही; हे फ्रंटियर प्रयोगशाळा आपले प्रशासन, प्रकटीकरण आणि बाह्य तपासणीची जबाबदारी कशी रचते याबद्दल आहे.

प्रतिक्रिया: स्थिरता हीच खरी वेगमर्यादा

अमोदेई यांनी प्रस्तावित केलेल्या वेगमर्यादेमागील आधार सर्वांनी स्वीकारलेला नाही. गूगलचे संशोधक पेयमन मिलानफर यांनी प्रतिकार केला, असा युक्तिवाद करत की पुनरावृत्ती स्वयं-सुधारणा (आरएसआय) हे भोळे गृहीत आहे कारण त्यातील अभिप्राय चक्रे स्वाभाविकपणे अस्थिर असतात. त्यांच्या मते, प्रणाली स्वतःला जितकी अधिक अनुकूल करण्याचा प्रयत्न करते, तितकी ती अंध ठिपक्यांमध्ये अधिक खोलवर जाते. विश्वासार्ह पुरावा, ते म्हणतात, बेंचमार्कऐवजी वास्तविक जगातून येतो.

मिलानफर वेगमर्यादा अनावश्यक का म्हणतात

मिलानफर यांचा युक्तिवाद त्यांना वेगळ्या निष्कर्षाकडे नेतो: अनिवार्य वेगमर्यादा आवश्यक नाही कारण स्वयं-सुधारणा नैसर्गिकपणे मर्यादित आहे. ते म्हणतात की स्वतःला विश्वासार्हपणे सुधारण्यास सक्षम प्रणाली शासित, ओलसर, मंद आणि मर्यादित केल्या जातील अशा मार्जिन्सद्वारे ज्या शुद्ध कार्यक्षमतेच्या दृष्टिकोनातून वायफळ वाटतात. त्यांच्या मांडणीत, स्थिरता स्वतःच प्रभावी वेगमर्यादा म्हणून कार्य करते. हे बरोबर असल्यास, अनियंत्रित पुनरावृत्ती सुधारणा ही आसन्न निश्चिततेपेक्षा एक सैद्धांतिक परिस्थिती आहे जी अभिप्राय चक्रांच्या नाजूकपणाकडे दुर्लक्ष करते.

हे देखरेखीच्या आवाहनांना प्रेरित करणाऱ्या जोखीम मॉडेलला थेट आव्हान आहे. अमोदेई यांचा प्रस्ताव गृहीत धरतो की बाह्य मर्यादा लादल्या नाहीत तर प्रयोगशाळा सुरक्षित वेगापलीकडे वेग वाढवू शकतात. मिलानफर यांचा प्रतिसाद गृहीत धरतो की अंतर्निहित गतिशीलता आधीच स्वतःच्या मर्यादा लादते, आणि बेंचमार्क-प्रेरित कथन प्रणाली आपल्या क्षमता किती सहजतेने बूटस्ट्रॅप करू शकते याचा अतिरेक करते. मतभेद सुरक्षितता महत्त्वाची आहे का याबद्दल नाही; तर तंत्रज्ञानाला कोणत्या प्रकारचे हस्तक्षेप, असल्यास, प्रत्यक्षात आवश्यक आहे याबद्दल आहे.

वाद पुढे कुठे जातो

दोन गटांमधील फूट एआय प्रशासन कसे विकसित होईल हे घडवेल. जर स्वतंत्र देखरेख ही मानक अपेक्षा बनली, तर प्रयोगशाळा आपल्या बाह्य मूल्यांकनकर्त्यांच्या विश्वासार्हतेवर स्पर्धा करू शकतात. जर अस्थिरता युक्तिवादाला बळ मिळाले, तर मंदावण्याच्या आवाहनांना स्वतःच्या मर्यादांनी आधीच बांधलेल्या प्रणालींवरील अनावश्यक ब्रेक म्हणून पुनर्रचित केले जाऊ शकते.

• अल्टमन, मस्क आणि हसाबिस यांनी एआय प्रयोगशाळांमधील स्वतंत्र देखरेखीसाठी अमोदेई यांच्या आवाहनाला प्रत्येकी अंशतः पाठिंबा दिला आहे.
• अल्टमन आणि अमोदेई एआय प्रयोगशाळांचे स्वतंत्रपणे मूल्यांकन केले पाहिजे यावर सहमत असल्याचे वृत्त आहे.
• अल्टमन यांनी फॉर्च्यूनला सांगितले की ओपनएआय या वर्षी सार्वजनिक होणार नाही, सुरक्षा चिंतांचा हवाल देत, हा निर्णय जूनमध्ये अंतर्गतपणे कळवला होता.
• उमेदवार ब्रीफ आर्थिक वाचनही नोंदवते: ओपनएआयचे आकडे सध्या आयपीओला पाठिंबा देऊ शकत नाहीत, विशेषतः अँथ्रोपिकच्या तुलनेत.
• गूगलचे संशोधक पेयमन मिलानफर यांचा युक्तिवाद आहे की आरएसआय हे भोळे गृहीत आहे कारण स्वयं-अनुकूलन अभिप्राय चक्रे अस्थिर असतात आणि अनुकूलनासोबत अंध ठिपके खोलवर जातात.
• मिलानफर यांचे म्हणणे आहे की विश्वासार्ह पुरावा बेंचमार्कऐवजी वास्तविक जगातून येतो, आणि स्थिरता प्रभावी वेगमर्यादा म्हणून कार्य करते.

सध्या, सर्वात परिणामकारक घडामोड म्हणजे देखरेख प्रस्तावांना पूर्वी नाकारणारे नेते आणि त्यांची बाजू मांडणारे यांच्यातील अंतर कमी होणे. स्वतंत्र मूल्यांकन आता किरकोळ मागणी नाही. ही अशी भूमिका आहे जी फ्रंटियरवरील व्यक्ती — ओपनएआयपासून अँथ्रोपिकपर्यंत, आणि मस्क यांच्या दीर्घकालीन इशाऱ्यांपासून हसाबिस यांच्या संशोधन पार्श्वभूमीपर्यंत — किमान अंशतः समर्थन देऊ शकतात. उर्वरित प्रश्न संस्थात्मक रचना, अंमलबजावणी आणि आयपीओ विलंबाचे सुरक्षा कारण टिकाऊ धोरण आहे की सोयीचे कथन याबद्दल आहेत. वेगमर्यादा वादात कोणती बाजू जिंकली तरीही, हे प्रश्न उद्योगाला त्याच्या पुढील टप्प्यात सोबत नेतील.

हा लेख द डिकोडरच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.