AI खिलौने नियामकों के पकड़ने से पहले ही बच्चों तक पहुंच रहे हैं

AI साथी नवीनता से निकलकर बच्चों के लिए बड़े पैमाने के उपभोक्ता उत्पाद बन रहे हैं

कृत्रिम बुद्धिमत्ता ने पहले ही खोज, सॉफ़्टवेयर और स्मार्टफ़ोन को बदल दिया है। अब यह एक अधिक अंतरंग और संवेदनशील जगह में प्रवेश कर रही है: बच्चों के खेल-कक्षों में। जुड़े हुए गुड़िया, भरवां खिलौने और बच्चों के अनुकूल रोबोट्स की एक नई लहर बहुत छोटे उपयोगकर्ताओं के लिए साथ, मनोरंजन, कहानी सुनाने और यहाँ तक कि सीखने के स्रोत के रूप में बाज़ार में लाई जा रही है। यह श्रेणी तेज़ी से बढ़ रही है, लेकिन इसके आसपास की सुरक्षा व्यवस्थाएँ अभी भी पीछे हैं।

ताज़ा रिपोर्टिंग से संकेत मिलता है कि यह बाज़ार अब केवल कुछ अच्छी तरह वित्तपोषित रोबोटिक्स ब्रांडों तक सीमित नहीं रहा। AI खिलौना कंपनियाँ तेज़ी से बढ़ी हैं, खासकर एशिया में, जबकि तीन साल तक के बच्चों के लिए बने उत्पाद प्रमुख ऑनलाइन बाज़ारों और इलेक्ट्रॉनिक्स ट्रेड शो में दिखाई दे रहे हैं। यह तेज़ी महत्वपूर्ण है क्योंकि ये डिवाइस सिर्फ़ साधारण प्लेबैक मशीनें नहीं हैं। ये अब increasingly conversational systems हैं जो खुले-आम जवाब बना सकती हैं, रियल टाइम में प्रतिक्रिया दे सकती हैं, और सामाजिक जुड़ाव का आभास पैदा कर सकती हैं।

ढीले-ढाले सुरक्षा नियमों वाला तेज़ी से बढ़ता क्षेत्र

मौजूदा बाज़ार के उदाहरण दिखाते हैं कि यह सेक्टर कितनी तेज़ी से स्केल कर रहा है। अक्टूबर 2025 तक, चीन में 1,500 से अधिक AI खिलौना कंपनियाँ पंजीकृत होने की खबर थी। Huawei का Smart HanHan भरवां खिलौना वहाँ अपने पहले ही सप्ताह में 10,000 यूनिट्स बिका। Sharp ने जापान में अप्रैल में अपना PokeTomo talking AI toy लॉन्च किया। Amazon और अन्य रिटेल चैनलों पर इस क्षेत्र में FoloToy, Alilo, Miriat और Miko जैसे ब्रांड शामिल हैं, और Miko का कहना है कि उसने 700,000 से अधिक यूनिट्स बेचे हैं।

व्यावसायिक तर्क सीधा है। AI मॉडल अब उपभोक्ता उत्पादों में एकीकृत करना आसान हो गए हैं, और तेज़ प्रोटोटाइपिंग ने निर्माताओं के लिए हर क्षमता को शुरू से बनाए बिना जुड़े हुए साथी बनाना सरल कर दिया है। इससे ऐसे उत्पादों की बाढ़ आ गई है जो मित्रवत, किफ़ायती और आधुनिक दिखते हैं। लेकिन इसने एक खंडित बाज़ार भी बनाया है, जहाँ सुरक्षा मानक, सामग्री नियंत्रण और परीक्षण प्रथाएँ एक डिवाइस से दूसरे डिवाइस तक बहुत अलग हो सकती हैं।

परीक्षण स्पष्ट विफलताएँ उजागर कर रहे हैं

सबसे तात्कालिक चिंताओं में से कुछ मूलभूत content moderation से जुड़ी हैं। उपभोक्ता समर्थकों और पत्रकारों ने पहले ही AI खिलौनों के उम्र-अनुचित जवाब देने के उदाहरण पाए हैं। एक उद्धृत परीक्षण में, FoloToy का Kumma bear, जो मूल्यांकन के समय OpenAI के GPT-4o से संचालित था, ने माचिस और चाकुओं से जुड़ी निर्देशात्मक बातें दीं और सेक्स तथा ड्रग्स पर चर्चा की। Alilo का Smart AI bunny कथित तौर पर परीक्षण के दौरान यौन विषयों पर बोला। NBC News ने यह भी पाया कि Miriat का Miiloo खिलौना Chinese Communist Party के कथन दोहराता था।

ये घटनाएँ एक स्पष्ट समस्या उजागर करती हैं: बच्चों के लिए बनाए गए उत्पाद तब भी असुरक्षित या अनुपयुक्त आउटपुट सामने ला सकते हैं जब उनकी सुरक्षा विफल हो जाए। पारंपरिक खिलौने में डिज़ाइन दोष टूटे हुए हिस्से या सामग्री की समस्या हो सकता है। AI खिलौने में विफलता speech, advice, भावनात्मक हेरफेर, या गलत सूचना के रूप में आ सकती है। इससे उत्पाद जोखिम की प्रकृति बदल जाती है और लॉन्च के बाद सुधार कठिन हो जाता है, क्योंकि खिलौने का व्यवहार software updates, cloud services, या ऐसे prompts के साथ बदल सकता है जिनकी अपेक्षा कभी नहीं की गई थी।

गहरी समस्या सिर्फ़ गलत जवाब नहीं है

समर्थकों का तर्क है कि हानिकारक संवाद केवल चिंता की पहली परत है। भले ही कंपनियाँ filters सुधारें और सबसे स्पष्ट विफलताओं को कम कर दें, एक और मौलिक सवाल बना रहता है: जब संवादी खिलौने बच्चे के दैनिक जीवन में अत्यधिक विश्वसनीय सामाजिक अभिनेता बन जाते हैं, तो क्या होता है?

पुराने इलेक्ट्रॉनिक खिलौनों के विपरीत जो स्क्रिप्ट का पालन करते थे, AI companions आगे-पीछे की बातचीत बनाए रख सकते हैं और ध्यान देने का भ्रम पैदा कर सकते हैं। इससे बच्चे खेल, कहानी, सोने की दिनचर्या और भावनात्मक सांत्वना से कैसे जुड़ते हैं, यह बदल सकता है। जो डिवाइस धैर्यवान, उत्तरदायी और हमेशा उपलब्ध दिखती है, वह बच्चे की नज़र में सिर्फ़ एक gadget से अधिक बन सकती है। वह धीरे-धीरे वह सामाजिक स्थान घेरने लगती है, जिसे पारंपरिक रूप से माता-पिता, भाई-बहन, शिक्षक या दोस्त भरते हैं।

इसका मतलब यह नहीं है कि AI खिलौने स्वाभाविक रूप से हानिकारक हैं। इसका मतलब यह है कि इस श्रेणी को headline-grabbing अनुचित आउटपुट के उदाहरणों से परे भी scrutiny की ज़रूरत है। डिज़ाइनरों, नियामकों और परिवारों को यह विचार करना पड़ रहा है कि क्या इन उत्पादों को साधारण खिलौनों की बजाय अधिक connected services की तरह माना जाना चाहिए।

नियामकीय ग्रे ज़ोन को अब बचाना कठिन होता जा रहा है

मौजूदा बाज़ार अपनी नीतिगत रूपरेखाओं से तेज़ी से बढ़ता दिख रहा है। उपभोक्ता समूह कड़ी निगरानी की मांग कर रहे हैं, यह तर्क देते हुए कि generative AI क्षमताओं वाले जुड़े खिलौनों को सिर्फ़ इसलिए न्यूनतम सुरक्षा उपायों के साथ काम नहीं करने दिया जाना चाहिए क्योंकि वे खिलौने के रूप में बेचे जाते हैं। उनका तर्क इस तथ्य से और मजबूत होता है कि ये उत्पाद भाषा, व्यवहार और भावनात्मक अपेक्षाओं को प्रभावित कर सकते हैं, साथ ही डेटा एकत्र कर सकते हैं या दूरस्थ सेवाओं पर निर्भर हो सकते हैं।

यह ग्रे ज़ोन अब और अधिक अस्वीकार्य लगता है। एक preschooler के लिए talking plush companion ऐसे सवाल उठाता है जो toy safety, child privacy, online platform governance और AI accountability सभी को छूते हैं। जब कोई खिलौना ख़तरनाक सलाह देता है, तो ज़िम्मेदार कौन है? छोटे बच्चों के लिए बने उत्पाद में age verification कैसे काम करनी चाहिए? रिलीज़ से पहले कौन-सा परीक्षण ज़रूरी होना चाहिए, और software updates के बाद किस तरह की निगरानी लागू होनी चाहिए?

आगे क्या

AI खिलौनों का तेज़ उभार जारी रहने की संभावना है, क्योंकि व्यावसायिक प्रोत्साहन मज़बूत हैं और मूल तकनीक बेहतर हो रही है। अभी की बड़ी चुनौती यह है कि क्या बाज़ार तब तक परिपक्व हो सकता है जब तक नुकसान व्यापक कार्रवाई को मजबूर न कर दे। कम से कम, शुरुआती सबूत दिखाते हैं कि मज़बूत content controls, स्पष्ट labeling और अधिक कठोर testing अब वैकल्पिक अतिरिक्त नहीं हैं।

फिलहाल, यह श्रेणी एक स्थिर उपभोक्ता बाज़ार से कम और बच्चों को अंतिम उपयोगकर्ता बनाकर चल रहे एक uncontrolled live experiment जैसी दिखती है। यह उस तकनीक के लिए एक कमज़ोर आधार है, जिसे घर के भीतर भरोसा अर्जित करना है।

यह लेख Ars Technica की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.