Grok च्या सुरक्षिततेबाबत चिंता व्यक्त केल्यावर xAI अभियंत्याला काढून टाकल्याचा दावा

व्हिसलब्लोअर प्रकारच्या खटल्यामुळे अंतर्गत AI सुरक्षा संस्कृतीवर प्रकाशझोत पडला आहे

xAI च्या एका माजी अभियंत्याने खटला दाखल करून असा आरोप केला आहे की कंपनीच्या Grok चॅटबॉटमुळे निर्माण होणाऱ्या धोक्यांविषयी चिंता व्यक्त केल्यामुळे आणि अधिक मजबूत सुरक्षा यंत्रणा लागू करण्याचा प्रयत्न केल्यामुळे त्याला काढून टाकण्यात आले. दिलेल्या स्रोत सामग्रीनुसार, Devin Kim म्हणतो की Grok वर गार्डरेल्स लावण्याचे त्याचे प्रयत्न त्याला कंपनी नेतृत्वाचे लक्ष्य बनविण्यास कारणीभूत ठरले. या प्रकरणामुळे फक्त तांत्रिक भाषेत मांडल्या जाणाऱ्या चर्चांना कामगार आणि प्रशासनाचा एक आयाम मिळतो.

कॅलिफोर्निया राज्य न्यायालयात दाखल केलेल्या तक्रारीत एक तीव्र अंतर्गत वादाचे वर्णन आहे. स्रोत म्हणतो की सुरक्षा प्राधान्य देण्यात xAI अपयशी ठरल्यामुळे, भेदभावापासून ते सामूहिक संहारक शस्त्रांच्या प्रसारापर्यंत बेकायदेशीर कृत्ये कंपनीकडून होण्याची जवळपास खात्रीच झाली होती, असा आरोप Kim ने केला. ही कोणतीही नेहमीची कामाच्या ठिकाणची तक्रार नाही. शक्तिशाली चॅटबॉट तयार करण्याच्या व्यावसायिक दबावांनी मूलभूत जोखीम नियंत्रणांना मागे टाकले, आणि त्या दिशेला विरोध केल्यामुळे सूड उगवण्यात आला, असा हा आरोप आहे.

वेळेमुळे या प्रकरणाकडे आणखी लक्ष वेधले गेले. हा खटला SpaceX च्या नियोजित प्रारंभिक सार्वजनिक निर्गमाच्या अगदी आधी दाखल झाला, ज्याचे वर्णन स्रोताने आतापर्यंतचे सर्वात मोठे असे केले आहे. त्याच दिवशी एका कॅनडियन देखरेख संस्थेने सांगितले की Grok ने देशाच्या गोपनीयता कायद्यांचे उल्लंघन केले, कारण त्याने असा image-generation tool सुरू केला ज्यामुळे वापरकर्ते संमतीशिवाय लैंगिकीकृत deepfake तयार आणि शेअर करू शकत होते. स्रोताच्या म्हणण्यानुसार, ही चौकशी जानेवारीत सुरू झाली आणि वास्तविक लोकांच्या उघड कपड्यांतील प्रतिमा संपादित होण्यापासून रोखण्यासाठी xAI ने बदल जाहीर केले.

ही माहिती एकत्र घेतल्यास बाह्य नियामक दबाव आणि अंतर्गत मतभेद यांचा संगम दिसतो. ते महत्त्वाचे आहे, कारण AI सुरक्षा विषयक युक्तिवाद फार वेगाने अमूर्त होतात. येथे, दिलेल्या नोंदी त्यांना उत्पादनाचे वर्तन, गोपनीयता पालन, आणि रोजगार कारवाई यांसारख्या ठोस वादांशी जोडतात. ते हेही सुचवते की सुरक्षा प्रशासन हे फक्त कंपनी सार्वजनिकपणे काय म्हणते याबद्दल नसून, कर्मचारी नोकरीवरून हटवले न जाता चिंता वरच्या स्तरापर्यंत पोहोचवू शकतात का, याबद्दलही आहे.

या खटल्यात विडंबनाचा आणखी एक थर आहे. स्रोताच्या म्हणण्यानुसार, Musk ने 2023 मध्ये xAI ची स्थापना OpenAI च्या तुलनेत अधिक सुरक्षित पर्याय म्हणून केली. Kim म्हणतो की Musk ला योग्य सुरक्षा चाचणी अपेक्षित होती, पण कंपनी नेतृत्वाने तिला अडथळा मानायला सुरुवात केली. जर हा दावा खरा असेल, तर ब्रँडिंग आणि अंतर्गत अंमलबजावणी यांतील दरीच या प्रकरणाचा केंद्रबिंदू ठरू शकते. स्वतःला सार्वजनिकरीत्या सुरक्षा-जागरूक पर्याय म्हणून मांडणाऱ्या कंपनीवर, आतून विरोधी दावे आले तर अधिक कडक तपास होऊ शकतो.

स्रोत असेही नमूद करतो की Kim 2024 मधील xAI च्या सुरुवातीच्या भरतींपैकी एक होता आणि काही महिन्यांतच महत्त्वाच्या नेतृत्व भूमिकेत त्याची बढती झाली. ही वेळरेषा हा वाद किरकोळ आणि परिघावरील कर्मचाऱ्याच्या तणावासारखा उडवून लावणे कठीण करते. तक्रारदार निर्णयप्रक्रियेच्या जवळ होता आणि त्याच्या आक्षेपांना बाहेरील मतभेदाऐवजी मूलभूत कार्यकारी चिंता म्हणण्याइतपत त्याची स्थिती होती, असे यातून दिसते. Center for AI Safety चा अध्यक्ष म्हणून त्याची नंतरची नियुक्ती या आरोपांच्या मुद्द्यावर आणि आघाडीच्या AI कंपन्या अंतर्गत टीकाकारांशी कसे वागतात, या व्यापक प्रश्नावर लक्ष अधिक केंद्रीत करेल.

एकाच कंपनीपलीकडे हे प्रकरण का महत्त्वाचे आहे

• हे AI सुरक्षा केवळ मॉडेल-मूल्यांकनाचा नाही, तर रोजगार आणि प्रतिशोधाचा मुद्दा म्हणून मांडते.
• हे Grok च्या image-generation वर्तनावर असलेल्या नियामक तपासणीबरोबरच आले आहे.
• ही आरोपपत्रे स्वतःला सुरक्षा-केंद्रित म्हणवणाऱ्या कंपन्या ती संस्कृती अंतर्गत सिद्ध करू शकतात का, याची कसोटी लावतात.
• हे प्रकरण भविष्यातील AI whistleblower वादांचा न्यायालये, नियामक आणि कामगार कसा अर्थ लावतील, यावर परिणाम करू शकते.

दिलेल्या लेखानुसार, xAI आणि SpaceX यांनी टिप्पणीच्या विनंत्यांना तत्काळ प्रतिसाद दिला नाही. या खटल्यातील दाव्यांची अद्याप न्यायालयात चाचणी झालेली नाही. तरीही, ही फाइलिंग AI संस्कृती आणि जबाबदारीतील एक महत्त्वाची घडामोड आहे, कारण ती चर्चा प्रणाली काय करू शकतात यावरून कंपनी जलदगतीने त्यांना बाजारात आणण्याच्या शर्यतीत काय सहन करेल, याकडे वळवते. सुरक्षा चर्चा सर्वाधिक निर्णायक बहुधा इथेच बनतात.

हा लेख The Guardian च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.