OpenAI सुरक्षा लेखकाने पाठ फिरवली
अनेक वर्षे, डेव्हिड रॉबिन्सन हे OpenAI च्या सर्वात मोठ्या मॉडेल लॉन्चसोबत येणारे सुरक्षा दस्तऐवज तयार करणाऱ्यांपैकी एक होते. ते अहवाल प्रयोगशाळा आणि बाहेरील जग यांच्यातील सेतू मानले जातात — नवीन प्रणाली काय करू शकते, तिच्या मर्यादा कुठे आहेत आणि वापरकर्त्यांपर्यंत पोहोचण्यापूर्वी कोणते सुरक्षा उपाय आहेत याचा लिखित लेखाजोखा. या आठवड्यात, रॉबिन्सन यांनी त्या भूमिकेतून राजीनामा दिला, आणि शांतपणे निघून जाण्याऐवजी त्यांनी The Atlantic साठी संपादकीय लेखात आपला युक्तिवाद सार्वजनिक केला.
त्यांचा मुद्दा असा नाही की OpenAI ला अंतर्गत धोरणाची आणखी काही पाने हवी आहेत. त्यांचा मुद्दा असा आहे की फ्रंटियर AI उद्योगात पसरलेली संस्कृती मूलभूतपणे भंग आहे — आणि ती दुरुस्त करण्यासाठी नियम किंवा नियामक चेकलिस्ट व्यवसायात जोडण्यापेक्षा खूप खोलवर काहीतरी आवश्यक आहे.
रॉबिन्सन वर्णन करत असलेली संस्कृतीची समस्या
रॉबिन्सन एका पिढीपासून सिलिकॉन व्हॅलीला घडवणाऱ्या सवयींकडे लक्ष वेधतात: त्यांनी वर्णन केलेला अत्यधिक आत्मविश्वास, सतत स्प्रिंटचे चक्र, आणि प्रत्येक नवीन मॉडेलला निःसंदिग्ध प्रगतीचे पाऊल मानणारा अडविलास नसलेला आशावाद. त्या वातावरणात, संभाव्य हानी दुर्लक्षित, कमी लेखली जाते किंवा मोजून कमी करण्याऐवजी गृहीत धरून टाळली जाते.
हे चित्र महत्त्वाचे आहे कारण ते वादाचे स्वरूप बदलते. जर समस्या एकच चुकीचा निर्णय किंवा एक कमी संसाधने असलेला संघ असेल, तर लक्ष्यित हस्तक्षेप पुरेसा ठरू शकतो. पण जर उद्योगाची मूलभूत प्रवृत्तीच ही समस्या असेल, तर उपाय म्हणजे या कंपन्या आपल्या स्वतःच्या चुकीच्या शक्यतेबद्दल कसे विचार करतात हे बदलणे — जे कोणताही बाह्य नियमावली आदेश देऊन करू शकत नाही.
रॉबिन्सन यांचा उपाय नम्रतेपासून सुरू होतो. त्यांचा युक्तिवाद असा आहे की AI कंपन्यांनी आपण वाढलेल्या बंदिस्त, वेगाने धावा आणि तोडफोड करा या जगापलीकडे पाहिले पाहिजे आणि ज्या क्षेत्रांनी दशकांपासून पूर्णपणे दूर करता येत नाही अशा जोखमीचे व्यवस्थापन करण्याचे शिक्षण घेतले आहे, त्या क्षेत्रांकडून निर्णयक्षमता उधार घेतली पाहिजे.
अणुऊर्जा प्रकल्प, विमानतळ आणि रिडंडन्सीचा युक्तिवाद
रॉबिन्सन यांच्या युक्तिवादातील सर्वात ठोस भाग म्हणजे फ्रंटियर प्रयोगशाळांनी कसे कार्य करावे यासाठी त्यांनी दिलेली उपमा. त्यांचा दावा आहे की, गुंतलेल्या जोखमीच्या प्रमाणात, त्यांनी लॉन्च तारखेचा पाठलाग करणाऱ्या स्टार्टअप्ससारखे नाही तर अणुऊर्जा प्रकल्प किंवा गर्दीच्या विमानतळांसारखे चालवले पाहिजे.
ही अशी संस्था आहेत ज्यांना समाज आधीच विनाशकारी नुकसानीसह विश्वास ठेवतो. ते माणसे चुका करतील या गृहीतकावर रचलेले आहेत, आणि त्यांना रिडंडन्सीचे स्तर आणि जाणीवपूर्वक, वेळ घेणारे नियोजन अशा प्रकारे बांधले आहे की अधूनमधून होणारी अपरिहार्य चूक आपत्तीचे दार उघडू नये. उद्दिष्ट कोणत्याही एका ऑपरेटरची निर्दोष कामगिरी नाही, तर चुका अपरिवर्तनीय होण्यापूर्वी शोषून घेणारी प्रणाली आहे.
AI विकासात रूपांतरित केल्यास, या तर्काचा अर्थ असा होतो की हळू प्रकाशन चक्र, अनेक स्वतंत्र पुनरावलोकन मार्ग, आणि उद्योग सध्या पूर्ण वायफळ मानतो तो वेळ खर्च करण्याची तयारी. याचा अर्थ असाही होतो की सुरक्षा कार्य हे बांधकामाच्या शेवटी तयार होणारे दस्तऐवज नाही, तर सुरुवातीपासून बांधकाम कसे केले जाते याचा संरचनात्मक गुणधर्म आहे.
फक्त नियम पुरेसे का नसतील
रॉबिन्सन यांचा मुख्य दावा असा आहे की ही समस्या प्रशिक्षण धावा कशा हाताळल्या जातात यावर काही नवीन नियम लादण्यापेक्षा खूप खोल आहे. नियम किनाऱ्यावर वर्तन मर्यादित करू शकतात, पण ते काम करणाऱ्या लोकांच्या प्रोत्साहनांमध्ये किंवा स्वतःच्या प्रतिमेत क्वचितच बदल घडवतात. जी कंपनी स्वतःला जग वाचवत असल्याचे मानते, तिला घर्षण वाटणारी अनुपालन अट फारशी थांबवू शकणार नाही.
ते प्रत्यक्षात अशा संस्कृतीच्या समस्येचे वर्णन करत आहेत जी आतून सोडवावी लागते — अशा नेत्यांकडून जे उघडपणे म्हणायला तयार आहेत की ते चुकीचे असू शकतात, आणि अशा संघटनांकडून ज्यांमध्ये तसे म्हणणे कारकिर्दीचा नाश ठरणार नाही.
वाढती राजीनाम्यांची यादी
रॉबिन्सन हे आता ओळखीचा झालेल्या एका नमुन्यातील नवीनतम व्यक्ती आहेत: प्रमुख AI कंपन्यांमधून संशोधक आणि सुरक्षा कर्मचारी निघून जातात आणि नंतर त्यांनी काय पाहिले याबद्दल सार्वजनिकपणे बोलतात. सध्याची लाट जेकब कॉक्सन यांनी सुरू केलेली दिसते, ज्यांनी Anthropic मधून राजीनामा दिला आणि या दशकाच्या अखेरीस AI आपल्या सर्वांना ठार मारू शकते असा इशारा दिला.
इतरही पुढे आले:
- रॉबर्ट ओ'कॅलाहन, बिलाल चुगताई आणि जोश एंगेल्स, जे सर्व Google DeepMind मधून निघाले.
- जो बेंटन, ज्यांनी Anthropic सोडले.
प्रत्येक राजीनामा या युक्तिवादात एक मुद्दा जोडतो की काहीतरी प्रणालीगत सुरक्षा-विचारसरणीच्या लोकांना प्रयोगशाळांबाहेर ढकलत आहे. जेव्हा जोखमीबद्दल विचार करण्यासाठी नेमलेले लोक सतत असा निष्कर्ष काढतात की ते आतून ते काम प्रभावीपणे करू शकत नाहीत, तेव्हा त्या चिंतांना अंतर्गत किती वजन मिळते याबद्दल स्पष्ट प्रश्न उपस्थित होतात.
निंदकपणाची समस्या
या सर्वांवर एक योग्य आक्षेप आहे. ज्यांनी तंत्रज्ञान बनविण्यास मदत केली तेच आता त्याबद्दल इशारा देतात तेव्हा निंदक वाटणे सोपे आहे — त्यांनी आता वर्णन करत असलेल्या परिस्थितीत योगदान दिले, आणि त्यांचे इशारे प्रणाली आधीच तैनात झाल्यानंतर येतात.
पण ती प्रतिक्रिया, समजण्यासारखी असली तरी, ते जे सांगत आहेत त्याचा सारांश रद्द करत नाही. आतली माहिती हीच या कथनांना उपयुक्त बनवते. सुरक्षा अहवाल लिहिणारे, मूल्यांकन चालवणारे आणि प्रकाशन निर्णय घेतले जात असलेल्या खोल्यांमध्ये बसलेले लोक, ते निर्णय प्रत्यक्षात कसे घेतले जातात हे वर्णन करण्यासाठी बाहेरील भाष्यकारांपेक्षा अधिक सक्षम स्थितीत आहेत.
पुढील मॉडेल प्रकाशनासाठी याचा अर्थ
व्यावहारिक stakes सरळ आहेत. प्रत्येक प्रमुख मॉडेल लॉन्च आता वापरकर्ते, उद्योग आणि नियामकांना आश्वस्त करण्यासाठी दस्तऐवजांसह येते. जर ते दस्तऐवज लिहिणारा व्यक्ती असा निष्कर्ष काढत असेल की ते तयार करणारी संस्कृती भंग आहे, तर संपूर्ण प्रकटीकरण प्रक्रियेची विश्वासार्हता प्रश्नार्थक होते.
रॉबिन्सन यांचे उत्तर हे काम सोडणे नाही तर ते अधिक सावध पायावर पुन्हा उभारणे आहे — मानवी चूक ही स्पष्टीकरण देऊन टाळण्याचा अपवाद नाही तर त्याभोवती अभियांत्रिकी करण्याची निश्चितता मानणे. फ्रंटियर प्रयोगशाळा ही भूमिका स्वेच्छेने स्वीकारतील की बाह्य दबावानंतरच, हा आता उद्योगाच्या पुढील प्रकाशन फेरीवर लटकलेला केंद्रीय प्रश्न आहे.
सध्या, इशारे संरचनात्मक बदलांपेक्षा वेगाने जमा होत आहेत. रॉबिन्सन यांचा राजीनामा हा नवीनतम संकेत आहे की तंत्रज्ञानाच्या सर्वात जवळ असलेले लोक ते ज्या वेगाने पाठवले जात आहे त्याबद्दल सर्वात अस्वस्थ आहेत.
हा लेख The Verge च्या अहवालावर आधारित आहे. मूळ लेख वाचा.
Originally published on theverge.com