OpenAI अनेक राज्यांतील अॅटर्नी जनरल चौकशीच्या कक्षेत

OpenAI एका नव्या बहु-राज्य कायदेशीर चौकशीला सामोरे जात आहे

पुरवलेल्या अहवालानुसार, राज्य अॅटर्नी जनरलांच्या एका आघाडीने OpenAI ला समन्स बजावले आहे, ज्यात कंपनीची उत्पादने, व्यवसाय पद्धती आणि वापरकर्त्यांवर होणारा परिणाम याबद्दल माहिती मागितली आहे. 12 जूनचे हे समन्स न्यूयॉर्कच्या अॅटर्नी जनरलकडून आले असल्याचे वर्णन केले गेले आहे आणि The Wall Street Journal ने त्याचा आढावा घेतला आहे. यामध्ये जाहिरात, वापरकर्ता सहभाग आणि त्यांना टिकवून ठेवण्याशी संबंधित कागदपत्रे, तसेच वापरकर्ता डेटा आणि आरोग्यविषयक माहिती कंपनी कशी हाताळते यासंबंधी नोंदी मागितल्या आहेत.

मोठ्या AI विकसकांभोवती वाढत असलेल्या तपासणीच्या रेषेत ही चौकशी आणखी एक भर घालते, कारण नियामक हे समजून घेण्याचा प्रयत्न करत आहेत की जनरेटिव्ह AI प्रणाली कशा तयार केल्या जातात, कशा बाजारात आणल्या जातात आणि कशा वापरल्या जातात. या प्रकरणात, स्त्रोत सामग्रीत वर्णन केलेली व्याप्ती लक्षणीय आहे, कारण ती व्यवसाय पद्धती आणि सुरक्षितता मुद्दे दोन्ही समाविष्ट करते, ज्यात AI सेवा अल्पवयीन आणि ज्येष्ठांवर कसा परिणाम करतात हेही आले आहे.

नियामक नेमके काय मागत आहेत, असे सांगितले जाते

स्त्रोत मजकुरावरून, अॅटर्नी जनरल अनेक बाजूंनी कागदपत्रे मागत आहेत. यामध्ये OpenAI ची जाहिरात, त्याच्या सहभाग आणि टिकवून ठेवण्याच्या पद्धती, आणि ते वापरकर्ता डेटा कसा हाताळते हे समाविष्ट आहे. ही विनंती आरोग्याशी संबंधित माहितीपर्यंतही जाते, म्हणजेच गोपनीयतेबरोबरच संभाव्य संवेदनशील वापरकर्ता संवादाच्या श्रेणींबद्दलही चिंता आहे.

अहवालित समन्समध्ये कंपनीच्या deep learning मॉडेल्स, अंतर्गत धोरणे आणि model “sycophancy” संबंधित साहित्यही मागितले आहे. हा शब्द चॅटबॉटचे असे वर्तन वर्णन करण्यासाठी वापरला जातो, जे अतिशय सहमतिपूर्ण किंवा पुष्टीकरण देणारे बनू शकते. ही दृष्टी सूचित करते की नियामक फक्त सामान्य ग्राहक-संरक्षण प्रश्नांपुरते आपले लक्ष मर्यादित ठेवत नाहीत. मॉडेलचे वर्तन स्वतः वापरकर्त्यांवर कसा परिणाम करू शकते, यातही त्यांना रस आहे असे दिसते.

आणखी एक मोठा चिंतेचा विषय म्हणजे असुरक्षित लोकसमूह. अल्पवयीन आणि ज्येष्ठ वापरकर्त्यांशी संबंधित माहिती अॅटर्नी जनरल मागत आहेत, असे स्त्रोत सांगतो. हे AI देखरेखीतील व्यापक प्रवृत्तीस अनुरूप आहे, जिथे धोरणकर्ते अधिकाधिक लक्ष देत आहेत की संभाषणात्मक प्रणाली मुले, किशोरवयीन किंवा ज्येष्ठांना फसवणूक, हानिकारक सामग्री किंवा असुरक्षित भावनिक अवलंबित्व यांना सामोरे जाऊ देतात का.

OpenAI ची प्रतिक्रिया

OpenAI ने सहकार्य करण्याचा आपला इरादा व्यक्त केला आहे. स्त्रोतामधील उद्धृत निवेदनात, कंपनीच्या प्रवक्त्याने सांगितले की OpenAI दररोज AI चे फायदे लोकांपर्यंत जबाबदारीने पोहोचवण्यासाठी काम करते आणि राज्य अॅटर्नी जनरलांनी उपस्थित केलेल्या चिंतांना गांभीर्याने घेत आहे. कंपनीने सांगितले की ती त्यांच्या कार्यालयांशी रचनात्मकरीत्या संवाद साधणार आहे.

ती प्रतिक्रिया संयत आहे, पण अहवालाने उपस्थित केलेल्या खोल प्रश्नाचे उत्तर देत नाही: चौकशी नेमकी कशामुळे सुरू झाली? कारण अजूनही स्पष्ट नाही, असे स्त्रोत म्हणतो. तरीसुद्धा, समन्समध्ये ओळखलेल्या मुद्द्यांचा जनरेटिव्ह AI प्रणालींवर वाढत असलेल्या सार्वजनिक टीकेशी मेळ बसतो, विशेषतः जेव्हा चॅटबॉट्स शिक्षण, आरोग्य-संबंधित संवाद आणि भावनिक आधाराच्या वापरप्रकरणांमध्ये शिरत आहेत.

AI तपासणीच्या व्यापक लाटेचा भाग

पुरवलेल्या लेखात हे समन्स व्यापक संदर्भात ठेवले आहे. मागील वर्षी, 44 राज्य अॅटर्नी जनरलांच्या एका गटाने OpenAI सह अनेक मोठ्या तंत्रज्ञान आणि AI कंपन्यांना पत्र पाठवून मुलांना हानिकारक चॅटबॉट संवादांपासून अधिक चांगले संरक्षण देण्याची विनंती केली होती. त्या आधीच्या प्रयत्नातून राज्य अधिकारी AI सुरक्षितता आणि ग्राहक विषयांवर आधीच अधिकारक्षेत्रांपलीकडे समन्वय साधत होते, हे स्पष्ट झाले.

स्त्रोत असेही नमूद करतो की OpenAI वर अधिक लक्ष्यित कायदेशीर आणि राजकीय दबाव आला आहे. एप्रिलमध्ये, 2025 Florida State University सामूहिक गोळीबार प्रकरणातील संशयिताने कथितपणे ChatGPT वापरल्यावर Florida Attorney General James Uthmeier यांनी फौजदारी तपास सुरू केला. वेगळ्या प्रकरणात, आणखी एका पालकाने चुकीच्या मृत्यूचा दावा दाखल करून असा आरोप केला की, फिर्यादीच्या मुलीने, जिचा नंतर आत्महत्येने मृत्यू झाला, मृत्यूपूर्वीच्या महिन्यांत चॅटबॉटशी आत्महत्येचे विचार आणि योजना याबाबत चर्चा केली, तरीही OpenAI ने पुरेशी संरक्षणे लागू केली नाहीत.

ती प्रकरणे सध्याच्या बहु-राज्य चौकशीचा निकाल ठरवत नाहीत, पण उत्पादन डिझाइन, हस्तक्षेप पद्धती आणि अंतर्गत धोरणे यांची तपासणी नियामक का करत असतील, हे स्पष्ट करतात. लक्ष आता फक्त चुकीची माहिती किंवा कॉपीराइट वादांवर केंद्रित नाही. त्यात आता संकट वर्तन, काळजीची जबाबदारी आणि AI उत्पादने धोकादायक संवाद वाढवावीत की थांबवावीत, हे प्रश्नही अधिकाधिक समाविष्ट होत आहेत.

हे आत्ता का महत्त्वाचे आहे

वेळ महत्त्वाची आहे. स्त्रोत म्हणतो की OpenAI ने अलीकडेच US Securities and Exchange Commission कडे सार्वजनिक होण्यासाठी कागदपत्रे दाखल केली आहेत, जरी त्यांनी अद्याप वेळ किंवा किंमत ठरवलेली नाही. सार्वजनिक बाजाराकडे जाण्याचा मार्ग सामान्यतः शासकीय व्यवस्था, प्रकटीकरण आणि जोखीम व्यवस्थापनावर अधिक लक्ष केंद्रित करतो. त्याच वेळी बहु-राज्य अॅटर्नी जनरल चौकशी येणे, कंपनीच्या अनुपालन स्थिती आणि सार्वजनिक संदेशांवर दाव वाढवते.

व्यापक अर्थाने, ही चौकशी अमेरिकेत AI नियमनाच्या पुढील टप्प्याचे चित्र दाखवते. एकाच संघीय चौकटीची वाट न पाहता, राज्य अधिकारी विद्यमान ग्राहक-संरक्षण, गोपनीयता आणि सार्वजनिक-सुरक्षा अधिकारांचा वापर करून AI कंपन्यांकडून नोंदी आणि स्पष्टीकरणे मागत आहेत. अनेक राज्यांनी समन्वय साधला तर यामुळे वेगाने दबाव निर्माण होऊ शकतो.

OpenAI साठी प्रत्यक्ष आव्हान केवळ एका समन्सला उत्तर देणे नाही. त्यांच्या प्रणाली, व्यवसाय मॉडेल आणि सुरक्षितता उपाय हे जनरेटिव्ह AI दैनंदिन वापरात लोकांवर कसा परिणाम करतो, याच्या व्यापक परीक्षणाला तोंड देऊ शकतात, हे दाखवणे गरजेचे आहे. स्त्रोतामध्ये नमूद केलेले मुद्दे सूचित करतात की नियामक एकाच वेळी कॉर्पोरेट प्रोत्साहने, तांत्रिक वर्तन आणि वापरकर्ता हानी यांचा विचार करत आहेत. ही जोडणी भविष्यातील AI देखरेख उद्योगभर कशी विकसित होईल, याला आकार देऊ शकते.

हा लेख Engadget च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.