OpenAI को बहु-राज्यीय अटॉर्नी जनरल जांच का सामना

OpenAI एक नई बहु-राज्यीय कानूनी जांच का सामना कर रहा है

उपलब्ध रिपोर्ट के अनुसार, राज्य के अटॉर्नी जनरलों के एक गठबंधन ने OpenAI को कंपनी के उत्पादों, व्यावसायिक प्रथाओं और उपयोगकर्ताओं पर पड़ने वाले प्रभाव के बारे में जानकारी मांगते हुए समन जारी किया है। 12 जून के इस समन को, जिसे न्यूयॉर्क के अटॉर्नी जनरल की ओर से आने वाला बताया गया है और जिसे The Wall Street Journal ने देखा, में विज्ञापन, उपयोगकर्ता सहभागिता और बनाए रखने की दर, तथा उपयोगकर्ता डेटा और स्वास्थ्य जानकारी के प्रबंधन से जुड़े दस्तावेज़ मांगे गए हैं।

यह जांच प्रमुख AI डेवलपर्स पर बढ़ती निगरानी की श्रृंखला में एक और कड़ी जोड़ती है, क्योंकि नियामक यह समझना चाहते हैं कि जनरेटिव AI सिस्टम कैसे बनाए, विपणित और उपयोग किए जाते हैं। इस मामले में, स्रोत सामग्री में बताए गए दायरे की खास बात यह है कि यह व्यावसायिक प्रथाओं और सुरक्षा मुद्दों, दोनों को शामिल करता है, जिसमें यह भी शामिल है कि AI सेवाएं नाबालिगों और वृद्ध वयस्कों को कैसे प्रभावित करती हैं।

नियामक कथित तौर पर क्या मांग रहे हैं

स्रोत पाठ के आधार पर, अटॉर्नी जनरल कई मोर्चों पर दस्तावेज़ चाहते हैं। इनमें OpenAI का विज्ञापन, उसकी सहभागिता और बनाए रखने की प्रथाएं, और उपयोगकर्ता डेटा को संभालने का तरीका शामिल है। अनुरोध स्वास्थ्य-संबंधी जानकारी तक भी जाता है, जो केवल गोपनीयता ही नहीं बल्कि उपयोगकर्ता अंतःक्रिया की संभावित संवेदनशील श्रेणियों को लेकर भी चिंता का संकेत देता है।

रिपोर्टेड समन में कंपनी के डीप लर्निंग मॉडल, आंतरिक नीतियों और मॉडल “sycophancy” से संबंधित सामग्री भी मांगी गई है, यह शब्द उस चैटबॉट व्यवहार का वर्णन करने के लिए उपयोग होता है जो अत्यधिक सहमतिपूर्ण या पुष्टि करने वाला हो सकता है। यह फोकस दिखाता है कि नियामक अपनी रुचि को सामान्य उपभोक्ता-सुरक्षा प्रश्नों तक सीमित नहीं रख रहे हैं। वे इस बात में भी रुचि रखते दिखते हैं कि मॉडल का व्यवहार स्वयं उपयोगकर्ताओं को कैसे प्रभावित कर सकता है।

चिंता का एक और बड़ा क्षेत्र कमजोर आबादी है। स्रोत के अनुसार, अटॉर्नी जनरल नाबालिग और वरिष्ठ उपयोगकर्ताओं से जुड़ी जानकारी मांग रहे हैं। यह AI निगरानी में एक व्यापक प्रवृत्ति के अनुरूप है, जहां नीति निर्माता इस पर अधिक ध्यान दे रहे हैं कि क्या संवादात्मक सिस्टम बच्चों, किशोरों या वृद्ध वयस्कों को हेरफेर, हानिकारक सामग्री या असुरक्षित भावनात्मक निर्भरता के जोखिम में डालते हैं।

OpenAI की प्रतिक्रिया

OpenAI ने कहा कि वह सहयोग करने का इरादा रखता है। स्रोत में उद्धृत एक बयान में, कंपनी के प्रवक्ता ने कहा कि OpenAI हर दिन लोगों तक जिम्मेदारी से AI के लाभ पहुंचाने के लिए काम करता है और राज्य के अटॉर्नी जनरलों द्वारा उठाई गई चिंताओं को गंभीरता से लेता है। कंपनी ने कहा कि वह उनके कार्यालयों के साथ रचनात्मक रूप से जुड़ने की योजना बना रही है।

यह प्रतिक्रिया संतुलित है, लेकिन यह रिपोर्ट द्वारा उठाए गए गहरे सवाल का जवाब नहीं देती: आखिर जांच को किसने, विशेष रूप से, प्रेरित किया। स्रोत कहता है कि कारण अभी भी स्पष्ट नहीं है। इसके बावजूद, समन में पहचाने गए मुद्दे जनरेटिव AI सिस्टम के बारे में बढ़ती सार्वजनिक आलोचना के अनुरूप हैं, खासकर तब जब चैटबॉट शिक्षा, स्वास्थ्य-संबंधित बातचीत और भावनात्मक समर्थन जैसे उपयोग मामलों में प्रवेश कर रहे हैं।

AI निगरानी की व्यापक लहर का हिस्सा

प्रदत्त लेख इस समन को एक बड़े संदर्भ में रखता है। पिछले साल, 44 राज्य अटॉर्नी जनरलों के एक समूह ने OpenAI सहित कई प्रमुख तकनीकी और AI कंपनियों को पत्र भेजकर उनसे हानिकारक चैटबॉट बातचीत से बच्चों की बेहतर सुरक्षा करने को कहा था। उस पहले प्रयास ने संकेत दिया था कि राज्य अधिकारी AI सुरक्षा और उपभोक्ता मुद्दों पर पहले से ही क्षेत्राधिकारों के बीच समन्वय कर रहे थे।

स्रोत यह भी नोट करता है कि OpenAI पर अधिक लक्षित कानूनी और राजनीतिक दबाव पड़ा है। अप्रैल में, फ्लोरिडा के अटॉर्नी जनरल James Uthmeier ने तब आपराधिक जांच शुरू की जब 2025 Florida State University सामूहिक गोलीबारी के संदिग्ध ने कथित तौर पर ChatGPT का उपयोग किया था। अलग से, एक अन्य माता-पिता ने गलत मृत्यु का मुकदमा दायर किया, जिसमें आरोप लगाया गया कि OpenAI पर्याप्त सुरक्षा उपाय लागू करने में विफल रहा, जब वादी की बेटी, जिसकी बाद में आत्महत्या से मृत्यु हो गई, ने अपनी मृत्यु से पहले के महीनों में चैटबॉट के साथ आत्मघाती विचारों और योजनाओं पर चर्चा की थी।

ये मामले वर्तमान बहु-राज्यीय जांच के परिणाम को तय नहीं करते, लेकिन वे यह समझाने में मदद करते हैं कि नियामक उत्पाद डिजाइन, हस्तक्षेप प्रथाओं और आंतरिक नीतियों की जांच क्यों कर रहे होंगे। ध्यान अब केवल गलत सूचना या कॉपीराइट विवादों तक सीमित नहीं है। इसमें तेजी से संकट-व्यवहार, देखभाल के दायित्व और क्या AI उत्पाद जोखिमपूर्ण अंतःक्रियाओं को बढ़ाएं या बाधित करें, जैसे सवाल शामिल हो रहे हैं।

यह अभी क्यों महत्वपूर्ण है

समय महत्वपूर्ण है। स्रोत के अनुसार, OpenAI ने हाल ही में सार्वजनिक होने के लिए US Securities and Exchange Commission के पास कागजी कार्रवाई दाखिल की है, हालांकि उसने अभी तक समय या मूल्य निर्धारण पर निर्णय नहीं लिया है। सार्वजनिक बाजार की राह आम तौर पर शासन, प्रकटीकरण और जोखिम प्रबंधन पर ध्यान बढ़ाती है। उसी समय बहु-राज्यीय अटॉर्नी जनरल जांच का आना कंपनी की अनुपालन स्थिति और सार्वजनिक संदेश पर दांव बढ़ा देता है।

व्यापक रूप से देखें तो यह जांच संयुक्त राज्य में AI विनियमन के अगले चरण को दर्शाती है। एकल संघीय ढांचे का इंतजार करने के बजाय, राज्य अधिकारी मौजूदा उपभोक्ता-सुरक्षा, गोपनीयता और सार्वजनिक-सुरक्षा अधिकारों का उपयोग करके AI कंपनियों से रिकॉर्ड और स्पष्टीकरण मांग रहे हैं। यह तेजी से दबाव बना सकता है, खासकर जब कई राज्य समन्वय करें।

OpenAI के लिए व्यावहारिक चुनौती केवल एक समन का जवाब देना नहीं है। उसे यह भी दिखाना है कि उसके सिस्टम, व्यवसाय मॉडल और सुरक्षा उपाय इस बात की व्यापक जांच झेल सकते हैं कि जनरेटिव AI रोज़मर्रा के उपयोग में लोगों को कैसे प्रभावित करता है। स्रोत में सूचीबद्ध मुद्दे संकेत देते हैं कि नियामक एक साथ कॉर्पोरेट प्रोत्साहन, तकनीकी व्यवहार और उपयोगकर्ता हानि, तीनों को देख रहे हैं। यह संयोजन तय कर सकता है कि भविष्य में उद्योग भर में AI निगरानी कैसे विकसित होती है।

यह लेख Engadget की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.