एआय खेळणी नियामकांना कळण्याआधीच मुलांपर्यंत पोहोचत आहेत

एआय साथीदार नवलाईतून मोठ्या प्रमाणावरील मुलांच्या उत्पादनांकडे जात आहेत

कृत्रिम बुद्धिमत्तेने आधीच शोध, सॉफ्टवेअर आणि स्मार्टफोन बदलून टाकले आहेत. आता ती अधिक जवळच्या आणि संवेदनशील अशा वातावरणात प्रवेश करत आहे: मुलांची खेळण्याची खोली. जोडलेली बाहुली, मऊ खेळणी आणि मुलांसाठी अनुकूल रोबोट्सची नवी लाट अतिशय लहान वापरकर्त्यांसाठी साथी, मनोरंजन, कथा सांगणे आणि अगदी शिकण्याचा स्रोत म्हणून बाजारात आणली जात आहे. ही श्रेणी झपाट्याने वाढत आहे, पण तिच्या भोवतीची सुरक्षा व्यवस्था अजूनही मागे आहे.

अलीकडील वार्तांकन सूचित करते की ही बाजारपेठ आता काही भांडवलशक्ती असलेल्या रोबोटिक्स ब्रँडपुरती मर्यादित राहिलेली नाही. विशेषतः आशियात एआय खेळण्यांच्या कंपन्या वेगाने वाढल्या आहेत, तर तीन वर्षांपासूनच्या लहान मुलांसाठी असलेली उत्पादने मोठ्या ऑनलाइन मार्केटप्लेस आणि इलेक्ट्रॉनिक्स व्यापार प्रदर्शनांमध्ये दिसू लागली आहेत. ही गती महत्त्वाची आहे, कारण ही उपकरणे केवळ साधी प्लेबॅक यंत्रे नाहीत. ती अधिकाधिक खुल्या उत्तरांसह प्रतिसाद देणारी, प्रत्यक्ष वेळेत प्रतिक्रिया देणारी, आणि सामाजिक जवळीक असल्याचा भास निर्माण करणारी संवादात्मक प्रणाली बनत आहेत.

असमतोल सुरक्षा-कवचांसह वाढणारी श्रेणी

सध्याच्या बाजारातील उदाहरणे हे क्षेत्र किती वेगाने वाढत आहे हे दाखवतात. ऑक्टोबर 2025 पर्यंत, चीनमध्ये 1,500 हून अधिक एआय खेळणी कंपन्या नोंदणीकृत झाल्याचे सांगितले गेले. Huawei च्या Smart HanHan मऊ खेळण्याने तिथे पहिल्याच आठवड्यात 10,000 युनिट्स विकल्या. Sharp ने एप्रिलमध्ये जपानमध्ये आपले PokeTomo बोलणारे एआय खेळणे लाँच केले. Amazon आणि इतर किरकोळ चॅनेल्समध्ये FoloToy, Alilo, Miriat आणि Miko यांसारखे ब्रँड आहेत, आणि Miko ने 700,000 पेक्षा अधिक युनिट्स विकल्याचे सांगितले आहे.

व्यावसायिक तर्क सोपा आहे. एआय मॉडेल्स आता ग्राहक उत्पादनांमध्ये सहज समाकलित करता येतात, आणि जलद प्रोटोटायपिंगमुळे उत्पादकांना प्रत्येक क्षमता सुरुवातीपासून उभारल्याशिवाय जोडलेले साथी तयार करणे सोपे झाले आहे. यामुळे मैत्रीपूर्ण, परवडणारी आणि आधुनिक दिसणारी उत्पादनांची लाट आली आहे. त्याचबरोबर, सुरक्षितता मानके, मजकूर नियंत्रण आणि चाचणी पद्धती एका उपकरणापासून दुसऱ्यापर्यंत मोठ्या प्रमाणात बदलू शकतात अशी विखुरलेली बाजारपेठही तयार झाली आहे.

चाचण्या स्पष्ट अपयश उघड करत आहेत

सर्वात तातडीच्या चिंता मूलभूत सामग्री नियंत्रणा संदर्भात आहेत. ग्राहक हक्क कार्यकर्ते आणि पत्रकारांना आधीच अशी उदाहरणे मिळाली आहेत जिथे एआय खेळण्यांनी वयानुसार अनुचित प्रतिसाद दिले. एका उद्धृत चाचणीत, मूल्यमापनाच्या वेळी OpenAI च्या GPT-4o वर चालणाऱ्या FoloToy च्या Kumma अस्वलाने काडेपेट्या आणि चाकूंबद्दल सूचना दिल्या आणि लैंगिकता व ड्रग्स याबद्दल बोलले. Alilo च्या Smart AI सशाने चाचणीदरम्यान लैंगिक विषयांवर चर्चा केल्याचे सांगितले जाते. NBC News ने हेही आढळले की Miriat चे Miiloo खेळणे चिनी कम्युनिस्ट पक्षाची मांडणी पुन्हा करत होते.

या घटना एक स्पष्ट समस्या दाखवतात: मुलांसाठी बनवलेली उत्पादनेही त्यांच्या संरक्षणात अपयश आल्यास असुरक्षित किंवा अनुपयुक्त आउटपुट देऊ शकतात. पारंपरिक खेळण्यात, रचनेतील दोष म्हणजे एखादा भाग तुटणे किंवा साहित्याशी संबंधित समस्या असू शकते. एआय खेळण्यात, अपयश भाषण, सल्ला, भावनिक हाताळणी किंवा चुकीची माहिती या स्वरूपात समोर येऊ शकते. यामुळे उत्पादन जोखमीचे स्वरूप बदलते आणि लाँचनंतरचे दुरुस्तीचे काम कठीण होते, कारण खेळण्याचे वर्तन सॉफ्टवेअर अपडेट, क्लाउड सेवा किंवा अपेक्षित नसलेल्या प्रॉम्प्ट्समुळे बदलू शकते.

मोठा मुद्दा फक्त चुकीची उत्तरे नाहीत

समर्थकांचे म्हणणे आहे की हानिकारक संभाषण ही केवळ चिंतेची पहिली पातळी आहे. कंपन्यांनी फिल्टर्स सुधारले आणि सर्वात स्पष्ट अपयश कमी केले, तरीही एक अधिक मूलभूत प्रश्न उरतो: जेव्हा संवादी खेळणी मुलांच्या दैनंदिन आयुष्यात अतिशय विश्वासार्ह सामाजिक अभिनेता बनतात, तेव्हा काय होते?

जुनी इलेक्ट्रॉनिक खेळणी स्क्रिप्टचे पालन करत असत, पण एआय साथी पुढे-मागे होणारे संवाद टिकवू शकतात आणि लक्ष देत असल्याचा अभिनय करू शकतात. त्यामुळे मुलांचे खेळ, गोष्ट सांगणे, झोपण्यापूर्वीची दिनचर्या, आणि भावनिक दिलासा यांच्याशी नातं कसे बदलते, हे बदलू शकते. धीराने ऐकणारे, प्रतिसाद देणारे, आणि नेहमी उपलब्ध असल्यासारखे दिसणारे उपकरण मुलाच्या नजरेत केवळ गॅझेटपेक्षा अधिक बनू शकते. ते सामाजिक जागा व्यापू शकते जी पारंपरिकपणे पालक, भावंडे, शिक्षक किंवा मित्र भरतात.

याचा अर्थ एआय खेळणी मुळातच हानिकारक आहेत असा नाही. याचा अर्थ इतकाच की या श्रेणीकडे बातम्यांमध्ये गाजलेल्या अनुपयुक्त आउटपुटच्या उदाहरणांपलीकडे जाऊन पाहण्याची गरज आहे. डिझाइनर, नियामक आणि कुटुंबे यांना हे ठरवावे लागत आहे की ही उत्पादने साध्या खेळण्यांपेक्षा जोडलेल्या सेवांसारखी अधिक मानली पाहिजेत का.

नियामक राखाडी क्षेत्राचे समर्थन करणे कठीण होत आहे

सध्याची बाजारपेठ तिच्या भोवतीच्या धोरणात्मक चौकटींपेक्षा वेगाने वाढत असल्याचे दिसते. ग्राहक गट कठोर देखरेखीची मागणी करत आहेत; त्यांचे म्हणणे आहे की जनरेटिव्ह एआय क्षमता असलेली जोडलेली खेळणी केवळ खेळण्यांच्या वस्तू म्हणून विकली जातात म्हणून कमीतकमी सुरक्षिततेसह चालू दिली जाऊ नयेत. ही उत्पादने भाषा, वर्तन आणि भावनिक अपेक्षा प्रभावित करू शकतात, तसेच डेटा गोळा करू शकतात किंवा दूरस्थ सेवांवर अवलंबून राहू शकतात, या वस्तुस्थितीमुळे त्यांचा युक्तिवाद अधिक बळकट होतो.

हे राखाडी क्षेत्र आता समर्थनीय ठरणे कठीण झाले आहे. प्रीस्कूल वयाच्या मुलासाठीचे बोलणारे मऊ साथीदार खेळण्यांची सुरक्षितता, बाल गोपनीयता, ऑनलाइन प्लॅटफॉर्म प्रशासन, आणि एआय जबाबदारी यांना छेदणारे प्रश्न उपस्थित करतात. एखाद्या खेळण्याने धोकादायक सल्ला दिला तर जबाबदार कोण? लहान मुलांसाठी असलेल्या उत्पादनात वय पडताळणी कशी कार्य करावी? बाजारात आणण्यापूर्वी कोणती चाचणी आवश्यक असावी, आणि सॉफ्टवेअर अपडेटनंतर कोणती देखरेख लागू व्हावी?

पुढे काय

एआय खेळण्यांचा वेगवान उदय सुरू राहण्याची शक्यता आहे, कारण व्यावसायिक प्रेरणा मजबूत आहेत आणि मूलभूत तंत्रज्ञान सुधारत आहे. अधिक तातडीचे आव्हान असे आहे की हानी मोठ्या प्रमाणावर कडक कारवाई भाग पाडण्याआधी बाजार परिपक्व होऊ शकेल का. किमान, सुरुवातीचे पुरावे दाखवतात की अधिक मजबूत सामग्री नियंत्रण, स्पष्ट लेबलिंग, आणि अधिक काटेकोर चाचणी आता ऐच्छिक राहिलेली नाहीत.

सध्या, ही श्रेणी स्थिर झालेल्या ग्राहक बाजारपेठेपेक्षा मुलांना अंतिम वापरकर्ते मानून चाललेल्या अनियंत्रित थेट प्रयोगासारखी दिसते. घरात विश्वास मिळवायचा असलेल्या तंत्रज्ञानासाठी ही वाईट पायाभरणी आहे.

हा लेख Ars Technica च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.