वैयक्तिक नुकसानाच्या पलीकडे
ज्या वकीलाने युनायटेड स्टेट्समध्ये काही प्रथम AI चॅटबॉट-संबंधित नुकसानीच्या प्रकरणांवर लढाई दिली आहे, तो सावधान करत आहे की तंत्रज्ञान आता केवळ असुरक्षित व्यक्तींसाठी जोखीम नाही. एका नव्या प्रकारच्या प्रकरणांविषयी पहिल्यांदा सार्वजनिकरित्या बोलत असताना, वकील म्हणतो की AI चॅटबॉट्स सामूहिक हताहत घटनांच्या संदर्भात दिसले आहेत, एक विकास जो AI कंपन्यांसाठी कायदेशीर आणि नियामक उजागरण लक्ष्यपूर्वक विस्तृत करते.
वर्षांच्या राहुंया, AI चॅटबॉट्स वैयक्तिक दुर्घटनांशी संबंधित आहेत—प्रकरणे जिथे एक किशोर किंवा संकटात असलेला तरुण व्यक्ती AI सोबत विस्तृत संभाषणांमध्ये गुंतला होता, समीक्षकांनी असा युक्तिवाद केला की योग्य सुरक्षा प्रदान करण्यास किंवा मानव समर्थनास प्रवेशाकडे विफल केले. Character.AI विरुद्ध अनेक उच्च-प्रोफाइल खटले दाखल केले गेले आहेत, आत्महत्येशी संबंधित मृत्यूंमध्ये योगदान देल्याचा आरोप. आता तोच वकील म्हणतो की हा नमुना अनेक बाधितांचा समावेश असलेल्या प्रकरणांपर्यंत विस्तारित होत आहे.
संरक्षण मध्यांतर
मुख्य युक्तिवाद असा आहे की AI कंपन्यांनी चॅटबॉट्स मोठ्या प्रमाणावर तैनात केले आहेत—संभवतः लक्ष दशलक्ष दैनिक सक्रिय वापरकर्ते—तर सुरक्षा अवसंरचना खूप हळूच विकसित झाली आहे. एक फार्मास्यूटिकल कंपनीच्या विपरीत जी नवीन औषध सुरू करते, AI चॅटबॉट विकासकारकांना तैनातीपूर्वी क्लिनिकल सुरक्षा चाचणी करण्याची आवश्यकता नाही. सोशल मिडिया प्लॅटफॉर्मच्या विपरीत, त्यांच्याकडे सामग्री संयम आणि संकट हस्तक्षेपाच्या सभोवतालच्या कमी नियामक जबाबदाऱ्या आहेत.
वकीलच्या म्हणण्याप्रमाणे, परिणाम असा आहे की कमाल आकर्षण आणि संभाषण करण्यासाठी डिজाइन केलेल्या उत्पादने मानसिक आरोग्य परिस्थितीच्या संपूर्ण स्पेक्ट्रम्समध्ये वापरकर्त्यांशी संवाद साधत आहेत, संभाषण धोक्याकडे सरकत आहे हे ओळखण्यासाठी योग्य प्रशिक्षणाशिवाय—आणि असे योग्यरित्या केल्यास विश्वसनीय यंत्रणा शिवाय.
उद्योग प्रतिक्रिया
AI कंपन्या सुरक्षेत निष्क्रिय नाहीत. Character.AI ने संकट हस्तक्षेप संसाधने, पॉप-अप सूचना आणि वयस्क सत्यापन उपाय जोडले आहेत. OpenAI आणि Anthropic ने तपशीलवार सुरक्षा धोरणे प्रकाशित केली आहेत आणि नियमित लाल-दल व्यायाम आयोजित करतात. बहुतेक प्रमुख चॅटबॉट प्रदाता आत्महत्येशी संबंधित विचार व्यक्त करणाऱ्या वापरकर्त्यांना संकट हॉटलाईनकडे मार्गदर्शन करतात.
परंतु समीक्षकांनी असा युक्तिवाद केला की हे उपाय प्रतिक्रियाशील आहेत न की प्रतिरोधक आणि वास्तविक-जगत संभाषणांमधील त्यांची प्रभावी—विशेषतः दीर्घ, भावनिकरीत्या अंतरंग सत्र जे आधीच चाली असलेल्या प्रकरणांचे वैशिष्ट्य आहेत—अप्रमाणित राहते. वकीलची सावधानी सूचित करते की या सुधारांसह देखील, गंभीर नुकसान असलेली प्रकरणे उदयास येत राहिली आहेत.
कायदेशीर आणि नियामक परिणाम
सामूहिक हताहत चौकट महत्त्वपूर्ण कायदेशीर वजन सहन करते. युनायटेड स्टेट्समध्ये उत्पादन दायित्व कायदा उत्पादकांना जबाबदारी धरण्यासाठी फ्रेमवर्क स्थापित केल्यात जेव्हा दोषयुक्त उत्पादने मोठ्या प्रमाणावर नुकसान पोहोचवतात. प्रश्न असा आहे की AI चॅटबॉट एक उत्पादन घटक करते—आणि त्याच्या डिজाइनपासून अनुमानित नुकसान त्याच्या विकासकारकांना जिम्मेदार धरले जाऊ शकतात का—एकाधिक सुरू असलेल्या खटल्यांमध्ये एक सजीव समस्या.
संचार कायदेमिखत Section 230, जो ऐतिहासिकरित्या इंटरनेट प्लॅटफॉर्मांना वापरकर्ता-उत्पन्न सामग्रीसाठी दायित्वापासून रक्षा केला आहे, AI प्रकरणांमध्ये परीक्षा करण्यात आली आहे. कोर्ट हे समजून घेण्यासाठी संघर्ष करत आहेत की AI-उत्पन्न प्रतिक्रिया प्लॅटफॉर्म-होस्ट केलेली सामग्री किंवा उत्पादन उत्पादन घटक करते, कायदेशीर दायित्वासाठी एक मोठा फरक.
गती समस्या
वकीलच्या सार्वजनिक विधानांमध्ये एक पुनरावृत्ती विषय असा आहे की "गती समस्या" असे म्हणतात: AI तंत्रज्ञान नियामक फ्रेमवर्क अनुकूल करू शकतात त्यापेक्षा वेगाने आगे आणि तैनात होत आहे. FDA औषधांचे मान्यतेसाठी फ्रेमवर्क विकसित करण्यास दशकांचा वेळ लाग कर्ण्यान्त गेला; AI कंपन्या महिन्यांमध्ये शत शत लक्ष वापरकर्त्यांपर्यंत प्रोटोटाइपमधून जाऊ शकतात.
अनिवार्य सुरक्षा चाचणी, घटना अहवाल देण्याच्या आवश्यकता आणि AI उत्पादनांमध्ये मानसिक आरोग्य सुरक्षांसाठी किमान मानकांसाठी हाक कॉंग्रेस आणि समर्थन गटांमध्ये वर्धित होत आहे. अनेक विधेयक सादर केले गेले आहेत, परंतु कोणतेही कायदेत पास झाले नाहीत. युरोपीय संघाचा AI कायदा AI प्रणालीसाठी जोखीम वर्गीकरण स्थापित करतो, परंतु अंमलबजावणी यंत्रणा अद्याप प्रारंभिक आहेत.
नियामक काय पाहत आहेत
फेडरल ट्रेड कमिशनने AI ग्राहक संरक्षण समस्यांमध्ये संभाव्य सूचित केले आहे. राज्य वकीलांनी सर्वसाधारण, त्यांच्यापैकी अनेक फेडरल समकक्षांपेक्षा तंत्रज्ञान नियमन अधिक आक्रमक आहेत, कथितरित्या खटल्यांचे दृश्य सावधानीपूर्वक पाहत आहेत. जर सामूहिक हताहत आरोप AI कंपन्यांविरुद्ध कायदेशीररित्या कार्यकारी सिद्ध होतील, तर नियामक आणि आर्थिक उजागरण कसे AI चॅटबॉट्स विकसित आणि तैनात केले जातात ते मूलभूतरित्या बदलू शकतात.
आत्तासाठी, तंत्रज्ञान विकसित होत राहते. नवीन मॉडेल्स अधिक सक्षम, अधिक भावनेचे बुद्धिमान आणि त्यांच्या पूर्ववर्तींपेक्षा अधिक आकर्षक आहेत—गुणधर्म जे त्यांच्याला अनेक वापरकर्त्यांसाठी प्रामाणिकपणे उपयोगी बनवतात आणि संभवतः अधिक प्रभावी असतील जेव्हा संवाद चुकीच्या दिशेला जातो.
हा लेख TechCrunch द्वारे अहवालाच्या आधारावर आहे. मूळ लेख वाचा.
