AI खेळणी त्यांना नियंत्रित करणाऱ्या नियमांपेक्षा अधिक वेगाने पसरत आहेत

तंत्रज्ञान नीट चालले, तेव्हाच समस्या अधिक कठीण होऊ शकते

स्रोत मजकूर दुसरी, कमी स्पष्ट चिंता अधोरेखित करतो: AI खेळण्यांचे सामाजिक परिणाम, जी केवळ बिघडत नाहीत तर अतिशय प्रभावी ठरू शकतात. PIRG चे R.J. Cross यांनी सांगितले की काही अपयशे चांगल्या संरक्षणांनी दुरुस्त होऊ शकतात. पण खोल समस्या तेव्हा निर्माण होऊ शकते जेव्हा प्रणाली नाते निर्माण करण्यात कुशल होते.

त्यामुळे चर्चा moderation पासून बालविकासाकडे वळते. जी खेळणी स्वतःला सर्वोत्तम मित्र म्हणून मांडते, मागील संभाषणे लक्षात ठेवते, आणि भावनिक प्रवाहीपणाने उत्तर देते, ती फक्त करमणूक राहत नाही. ती मुले जुळवणूक, कल्पनाशक्ती, संघर्ष आणि स्व-अभिव्यक्तीचा सराव कसा करतात, यावर प्रभाव टाकू शकते.

ही चिंता विशेषतः महत्त्वाची आहे कारण ही उत्पादने अनेकदा स्क्रीन वेळेच्या चांगल्या पर्याय म्हणून विकली जातात. “स्क्रीन-फ्री प्ले” हा अधिक निरोगी प्रकार सूचित करतो, पण जर संवाद अजूनही प्रतिसादक्षमता जास्तीत जास्त करण्यासाठी प्रशिक्षित केलेल्या नेटवर्केड मॉडेलद्वारे मध्यस्थीत होत असेल, तर दिसणाऱ्या स्क्रीनच्या अभावामुळे सामाजिक किंवा मानसिक दावे कमी होत नाहीत.

म्हणजेच, AI खेळणे चुकीचे वागले तेव्हा काय बोलते, इतकाच मुद्दा नाही. ते बरोबर वागले तेव्हा कोणत्या प्रकारचे नाते प्रोत्साहित करते, हेही तितकेच महत्त्वाचे आहे.

संशोधन अद्याप सुरूच आहे

बाजार पुराव्याच्या आधारेपेक्षा वेगाने पुढे जात आहे. स्रोत मजकूरात मार्चमध्ये प्रसिद्ध झालेल्या Cambridge University च्या एका अभ्यासाचा उल्लेख आहे, ज्याला व्यावसायिकदृष्ट्या उपलब्ध AI खेळणे मुलांसमोर आणि पालकांसमोर ठेवून त्यांच्या खेळाचे निरीक्षण करणारा पहिला अभ्यास असे वर्णन केले गेले. हे महत्त्वाचे आहे, कारण AI साथीदारांभोवती सार्वजनिक चर्चा असूनही, लहान मुले त्यांचा प्रत्यक्षात कसा वापर करतात यावरील वास्तविक-जगातील संशोधन अजूनही फार मर्यादित आहे.

पालक, शिक्षक आणि नियामकांसाठी महत्त्वाचे प्रश्न अजूनही मोठ्या प्रमाणावर खुले आहेत. ही खेळणी कल्पनाशील खेळाला प्रोत्साहन देतात की तो मर्यादित करतात? मुले त्यांना साधने, व्यक्तिरेखा, की अधिकार म्हणून पाहतात? दीर्घकाळ वापर केल्याने भावनिक नियमन, विश्वास किंवा समवयस्कांशी संवाद यावर परिणाम होतो का? आणि खरेदी केल्यानंतर दूरस्थपणे क्षमता अद्ययावत होऊ शकणाऱ्या उत्पादनांचे मूल्यमापन पालक कसे करणार?

अधिक मजबूत पुराव्यांशिवाय, नियमन बहुधा प्रतिक्रियात्मकच राहील, संपूर्ण विकासात्मक संदर्भ लक्षात घेऊन आखलेले नसून सर्वाधिक दिसणाऱ्या अपयशांवर आधारित असेल.

कायदेकर्ते का लक्ष देत आहेत

स्रोत मजकुरानुसार काही कायदेकर्त्यांना AI खेळण्यांवर बंदी हवी आहे. हे या श्रेणीने किती पटकन नवलाईवरून सार्वजनिक-हिताच्या मुद्द्यात रूपांतर केले आहे, याचे लक्षण आहे. बंदीची मागणी कायदा होऊ शकते किंवा नाही, पण हा बाजार मोठ्या प्रमाणावर स्वैच्छिक मानके आणि ॲप-स्टोअर शैलीतील अस्वीकरणांवर सोडण्याबाबत वाढती अस्वस्थता दर्शवते.

मुलांची उत्पादने सर्वसाधारण ग्राहक सॉफ्टवेअरपेक्षा वेगळ्या नियामक क्षेत्रात येतात, कारण वापरकर्ते जोखीम मूल्यांकन, हाताळणीला विरोध, किंवा डेटा पद्धती समजून घेणे यात कमी सक्षम असतात. AI खेळणी एकाच वेळी अनेक कठीण श्रेणी एकत्र आणतात: कनेक्टेड डिव्हाइसेस, संवादात्मक प्रणाली, मुलांची उत्पादने, आणि काही प्रकरणांत क्लाउड-आधारित सेवा.

या संयोजनामुळे धोरणात्मक पोकळी निर्माण होते. विद्यमान खेळणी नियम जनरेटिव संभाषणासाठी तयार करण्यात आलेले नाहीत. तसेच अनेक AI प्रशासन प्रस्ताव भावनिक अवलंबित्व, विकासात्मक सुसंगतता, किंवा पालक नियंत्रण यांसारख्या मुलांशी संबंधित प्रश्नांची उत्तरे देण्यासाठी खूप व्यापक आहेत.

गॅझेट ट्रेंडच्या वेषातला उद्योगबदल

AI खेळण्यांना गॅझेट सायकल म्हणून झटकून टाकणे सोपे आहे: नवलाईच्या उत्पादनांची लाट, जी एकतर सुधारेल किंवा नाहीशी होईल. पण अधिक योग्य वाचन असे की ती जनरेटिव AI चा जवळच्या ग्राहक वातावरणात संरचनात्मक विस्तार दर्शवतात. उत्पादकता साधने किंवा एंटरप्राइझ चॅट प्रणालींपेक्षा भिन्न, ही उपकरणे मर्यादित निर्णयक्षमता, अनियमित देखरेख, आणि तीव्र भावनिक मोकळेपणा असलेल्या वापरकर्त्यांसाठी डिझाइन केलेली आहेत.

त्यामुळे ती व्यापक ग्राहक AI प्रशासनासाठी एक उघड चाचणी प्रकरण ठरतात. जर कंपन्या प्रीस्कूल मुलांसाठी विकल्या जाणाऱ्या मऊ खेळण्यातही असुरक्षित किंवा हाताळणी करणारे वर्तन विश्वासार्हपणे रोखू शकत नसतील, तर इतरत्र जबाबदार तैनातीबाबतचे दावे समजण्यासारख्या तपासणीला सामोरे जातील.

व्यावसायिक प्रेरणा स्पष्ट आहे. संवादात्मक खेळणी स्थिर उत्पादनांपासून वेगळी ओळख निर्माण करू शकतात, सहभागाचा डेटा गोळा करू शकतात, आणि अद्यतने किंवा सबस्क्रिप्शन्समधून पुन्हा पुन्हा मूल्य तयार करू शकतात. सामाजिक जबाबदारी मात्र तितकी विकसित नाही. पालकांना अशा प्रणालींवर विश्वास ठेवायला सांगितले जात आहे ज्या मैत्रीपूर्ण, शैक्षणिक आणि निरुपद्रवी वाटू शकतात, पण प्रत्यक्षात मॉडेलचे वर्तन अजूनही पूर्णपणे अंदाजणे कठीण आहे.

जबाबदार देखरेखीसाठी काय आवश्यक आहे

सध्याचे पुरावे किमान एक स्पष्ट निष्कर्ष समर्थित करतात: या श्रेणीला आतापर्यंत मिळाल्यापेक्षा अधिक जवळच्या परीक्षणाची गरज आहे. याचा अर्थ प्रत्येक AI खेळणे असुरक्षित आहे किंवा संवादात्मक खेळ निरुपयोगी आहे असा नाही. पण याचा अर्थ सामान्य नवलाई इलेक्ट्रॉनिक्सपेक्षा पुराव्याची जबाबदारी अधिक असली पाहिजे.

किमान, अर्थपूर्ण देखरेखीसाठी वयोपयुक्ततेसाठी अधिक कठोर चाचणी, मॉडेलच्या क्षमतां आणि मर्यादांचे स्पष्ट प्रकटीकरण, विश्वासार्ह पालक नियंत्रण, आणि खेळणी स्मृती, अद्यतने आणि संवादात्मक सीमा कशा हाताळतात यासाठी मानके आवश्यक असतील. यामध्ये केवळ content moderation नाही, तर विकासात्मक परिणामांचे मूल्यांकनही समाविष्ट असेल.

AI खेळणी आराम आणि सर्जनशीलतेच्या भाषेत येत आहेत. सुरुवातीचा नोंद सांगतो की ते पुरेसे नाही. जेव्हा एखादे उत्पादन मुलांशी बोलण्यासाठी, त्यांच्या कुतूहलाभोवती स्वैरपणे प्रतिसाद देण्यासाठी, आणि त्यांच्या भावनिक जगाचा भाग बनण्यासाठी तयार केले जाते, तेव्हा सुरक्षिततेला नंतरचा विचार मानता येत नाही. तंत्रज्ञान वेगाने विकसित होत असेल, पण संरक्षण-रेषेसाठीचा युक्तिवाद आधीच येथे आहे.

हा लेख Wired च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.