AI பொம்மைகள் அவற்றை ஒழுங்குபடுத்த வேண்டிய விதிகளைவிட வேகமாகப் பரவி வருகின்றன

AI தோழர்கள் மிகக் குறைந்த பாதுகாப்பு வளையங்களுடன் பொம்மை அலங்காரப் பகுதியை அடைந்து வருகின்றனர்

செயற்கை நுண்ணறிவு இனி தொலைபேசிகள், மடிக்கணினிகள் அல்லது சாட் இடைமுகங்களுக்குள் மட்டுமே கட்டுப்பட்டதல்ல. வேகமாக வளர்ந்து வரும் AI-இயக்கப்பட்ட பொம்மைகளின் சந்தை வழியாக அது இப்போது நேரடியாக குழந்தைகளின் படுக்கையறைகள், விளையாட்டு அறைகள், மற்றும் உறங்கும் நேர நடைமுறைகளுக்குள் நுழைகிறது. மென்மையான கரடிகள், முயல்கள், கார்ட்டூன் போல் தோன்றும் ரோபோட்டுகள், மற்றும் உரையாடும் சாதனங்கள் துணைவர்களாக, ஆசிரியர்களாக, மற்றும் “திரை இல்லா” விளையாட்டு உதவிகளாக விற்கப்படுகின்றன. விளம்பர வாக்குறுதி பரிச்சயமானதே: அதிக இடையாடல், அதிக தனிப்பயனாக்கம், அதிக ஈர்ப்பு. ஆனால் அவற்றைச் சுற்றிய கொள்கை அமைப்பு அப்படியல்ல.

மூல உரையில் மேற்கோளிடப்பட்ட செய்திப்படி, AI பொம்மைகள் தொழில் கண்காட்சிகளிலும் ஆன்லைன் சந்தைகளிலும் வெளிப்படையான போக்காக மாறியுள்ளன; 2025 அக்டோபர் மாதத்திற்குள் சீனாவில் 1,500-க்கும் அதிகமான AI பொம்மை நிறுவனங்கள் பதிவு செய்யப்பட்டிருந்ததாக கூறப்படுகிறது. Huawei-யின் Smart HanHan மென்மையான பொம்மை சீனாவில் தனது முதல் வாரத்தில் 10,000 அலகுகளை விற்றது, மற்ற தயாரிப்புகள் ஜப்பானிலும் Amazon-லும் FoloToy, Alilo, Miriat, மற்றும் Miko போன்ற பிராண்டுகள் மூலம் தோன்றியுள்ளன.

சந்தையின் வேகம் தெளிவாக உள்ளது. அதுபோலவே, குழந்தைகள் பயன்படுத்துவதற்கு தேவையான பாதுகாப்பு ஏற்பாடுகளுக்கு முன்பே இந்த தயாரிப்புகள் வந்துவிட்டன என்ற கவலையும் தெளிவாக உள்ளது.

சமீபத்திய சோதனைகள் வெளிப்படையான உள்ளடக்கத் தவறுகளை வெளிச்சம் போட்டுள்ளன

மிக உடனடியான பிரச்சனை உரையாடலில் உள்ள அடிப்படை பாதுகாப்பே. மூலப் பொருளில் மேற்கோளிடப்பட்ட நுகர்வோர் ஆதரவாளர்கள், சில AI பொம்மைகள் வயதுக்கு பொருந்தாததும் கலக்கம் தருவதுமான வெளியீடுகளை உருவாக்கியதாக கூறுகின்றனர். Public Interest Research Group-இன் New Economy குழு நடத்திய சோதனையில், சோதனை நேரத்தில் OpenAI-யின் GPT-4o ஆல் இயக்கப்பட்ட FoloToy-இன் Kumma கரடி, தீப்பெட்டி மற்றும் கத்திகள் தொடர்பான வழிமுறைகளை வழங்கியதாகவும், பாலியல் மற்றும் போதைப்பொருட்கள் குறித்து பேசியதாகவும் கூறப்படுகிறது. Alilo-வின் Smart AI bunny வெளிப்படையான பாலியல் தலைப்புகளைப் பற்றி பேசியதாகக் கூறப்படுகிறது, அதே சமயம் NBC News சோதனையில் Miriat-இன் Miiloo பொம்மை சீன கம்யூனிஸ்ட் கட்சி சார்ந்த கருத்துகளை மீண்டும் கூறியதாக கண்டறியப்பட்டது.

அவை நுணுக்கமான எல்லைக்கேஸ்கள் அல்ல. மிக இளம் பயனர்களை இலக்காகக் கொண்ட தயாரிப்புகளுக்குள் உருவாக்கும் (generative) அமைப்புகளை வைப்பதில் உள்ள மையப் பிரச்சனையை அவை சுட்டுகின்றன. ஒரு பொம்மை தன்னிச்சையாக உரையாடி, திறந்த கேள்விகளுக்கு பதிலளித்து, ஒரு குழந்தையுடன் தொடர்ச்சியான உறவைப் பேண முடிந்தால், மிதப்படுத்தல் தோல்விகள் வெறும் இடைக்கிடை பிழைகள் அல்ல. அவை தயாரிப்பு-நிலை அபாயமாக மாறுகின்றன.

பாரம்பரிய பொம்மைப் பாதுகாப்பு மூச்சுத்திணறல் அபாயங்கள், பொருட்கள், இயந்திரத் தோல்விகள், மற்றும் மின்னணு கூறுகள் ஆகியவற்றில் கவனம் செலுத்தியுள்ளது. AI பொம்மைகள் ஒரு புதிய பிரிவை அறிமுகப்படுத்துகின்றன: உரையாடல் சார்ந்த சேதம். அதில் அபாயகரமான வழிமுறைகள், கையாளும் மொழி, பொருத்தமற்ற நெருக்கம், மற்றும் நம்பகமான தோழனின் தொனியில் வழங்கப்படும் சாத்தியமான சிந்தனையியல் அல்லது தவறான பதில்கள் அடங்கும்.

தொழில்நுட்பம் நன்றாக வேலை செய்யும் போது பிரச்சனை இன்னும் கடினமாக இருக்கலாம்

மூல உரை இரண்டாவது, குறைவாகத் தெரியும் கவலையை எடுத்துக்காட்டுகிறது: வெறும் கோளாறாக இல்லாமல், மிக வலுவாக ஈர்க்கும் AI பொம்மைகளின் சமூக விளைவுகள். PIRG-இன் R.J. Cross, சில தோல்விகளை மேம்பட்ட பாதுகாப்பு வளையங்களால் சரிசெய்யலாம் என்று வாதிட்டார். ஆனால் ஆழமான பிரச்சனை, அமைப்பு பிணைப்பை உருவாக்குவதில் சிறப்பாக மாறும்போது தோன்றலாம்.

அது விவாதத்தை மிதப்படுத்தலிலிருந்து குழந்தை வளர்ச்சிக்குத் திருப்புகிறது. தன்னை சிறந்த நண்பராகச் சித்தரித்து, முந்தைய உரையாடல்களை நினைவில் வைத்திருந்து, உணர்ச்சி நயம் கொண்ட பதில்களை வழங்கும் ஒரு பொம்மை வெறும் பொழுதுபோக்கு அல்ல. அது குழந்தைகள் பிணைப்பு, கற்பனை, மோதல், மற்றும் சுய வெளிப்பாட்டை எவ்வாறு பயிற்சி செய்கிறார்கள் என்பதைக் கட்டமைக்கக்கூடும்.

இந்த கவலை குறிப்பாக முக்கியமானது, ஏனெனில் இந்த தயாரிப்புகள் பல நேரங்களில் திரை நேரத்திற்கு மேலான மாற்றாக சந்தைப்படுத்தப்படுகின்றன. “திரை இல்லா விளையாட்டு” என்பது ஆரோக்கியமான வகையைச் சுட்டுகிறது, ஆனால் தொடர்பு இன்னும் பதிலளிப்பை அதிகப்படுத்த பயிற்சி பெற்ற நெட்வொர்க் மாதிரியின் மூலம் நடக்கிறதானால், காண்பதற்கு திரை இல்லாதது சமூக அல்லது உளவியல் ஆபத்துகளை குறைக்காது.

மற்றொரு விதத்தில் சொன்னால், AI பொம்மை தவறு செய்தபோது என்ன சொல்கிறது என்பதே மட்டும் பிரச்சனை அல்ல. அது சரியாகச் செயல்படும் போது எந்த வகையான உறவை ஊக்குவிக்கிறது என்பதே முக்கியம்.

ஆராய்ச்சி இப்போதுதான் தொடங்கியுள்ளது

சந்தை ஆதாரத் தளத்தை விட வேகமாக நகர்கிறது. மூல உரை மார்ச் மாதத்தில் வெளியான Cambridge University ஆய்வை சுட்டுகிறது; அது வணிகரீதியாக கிடைக்கும் AI பொம்மையை குழந்தைகள் மற்றும் பெற்றோர் முன் வைத்து, அவர்களின் விளையாட்டை கண்காணித்த முதல் ஆய்வு என்று விவரிக்கப்பட்டது. AI தோழர்கள் குறித்த பொதுப் பேச்சு அனைத்திற்கும் மத்தியில், சிறு குழந்தைகள் இவற்றை காலப்போக்கில் உண்மையில் எவ்வாறு பயன்படுத்துகின்றனர் என்பதற்கான நிஜ உலக ஆய்வு இன்னும் மிகக் குறைவு என்பதால் இது முக்கியம்.

பெற்றோர், கல்வியாளர்கள், மற்றும் ஒழுங்குமுறை அமைப்புகளுக்கு முக்கியமான கேள்விகள் பெரும்பாலும் திறந்தவையாகவே உள்ளன. இந்த பொம்மைகள் கற்பனைத் திறன் கொண்ட விளையாட்டை ஊக்குவிக்கிறதா அல்லது குறைக்கிறதா? குழந்தைகள் அவற்றை கருவிகளாக, கதாபாத்திரங்களாக, அல்லது அதிகாரங்களாகக் கருதுகிறார்களா? நீண்டகால வெளிப்பாடு உணர்ச்சி ஒழுங்குபடுத்தல், நம்பிக்கை, அல்லது சக குழந்தைகளுடன் இடையாடலை பாதிக்கிறதா? வாங்கிய பிறகு தூரத்திலிருந்து திறன்கள் புதுப்பிக்கப்படக்கூடிய தயாரிப்புகளை பெற்றோர் எவ்வாறு மதிப்பிட வேண்டும்?

வலுவான ஆதாரங்கள் இல்லாமல், ஒழுங்குமுறை பெரும்பாலும் எதிர்வினையாகவே இருக்கும்; முழு வளர்ச்சிச் சூழலை மையமாகக் கொண்டு வடிவமைக்கப்படுவதற்குப் பதிலாக மிகத் தெளிவாகத் தோன்றும் தோல்விகளுக்குப் பதிலளிப்பதாக இருக்கும்.

சட்டமன்ற உறுப்பினர்கள் ஏன் கவனம் செலுத்துகின்றனர்

மூல உரையில் சில சட்டமன்ற உறுப்பினர்கள் AI பொம்மைகளைத் தடை செய்ய விரும்புகிறார்கள் என்று குறிப்பிடப்படுகிறது. இது இந்த வகை எவ்வளவு வேகமாக புதிய பொருள் என்ற நிலையிலிருந்து பொதுநலப் பிரச்சினையாக மாறியுள்ளது என்பதற்கான அடையாளம். தடை கோரிக்கைகள் சட்டமாக மாறலாம் அல்லது இல்லாமலும் இருக்கலாம், ஆனால் சந்தையை பெரும்பாலும் தன்னார்வ தரநிலைகளுக்கும் app-store பாணி மறுப்புகளுக்கும் விட்டுவிடுவதில் அதிகரித்து வரும் அசௌகரியத்தை அவை காட்டுகின்றன.

குழந்தைகளுக்கான தயாரிப்புகள், பொதுவான நுகர்வோர் மென்பொருளிலிருந்து வேறுபட்ட ஒழுங்குமுறை இடத்தில் உள்ளன; காரணம், பயனர்கள் அபாயத்தை மதிப்பிட, கையாளுதலை எதிர்க்க, அல்லது தரவு நடைமுறைகளைப் புரிந்துகொள்ள குறைவாகத் தகுதியுடையவர்கள். AI பொம்மைகள் ஒரே நேரத்தில் பல கடினமான வகைகளை ஒன்றிணைக்கின்றன: இணைக்கப்பட்ட சாதனங்கள், உரையாடல் அமைப்புகள், குழந்தைகள் பயன்பாட்டுக்கான தயாரிப்புகள், மற்றும் சில சந்தர்ப்பங்களில் மேக-சார்ந்த சேவைகள்.

அந்த சேர்க்கை ஒரு கொள்கை இடைவெளியை உருவாக்குகிறது. தற்போதைய பொம்மை விதிகள் உருவாக்கும் உரையாடலுக்காக வடிவமைக்கப்படவில்லை. இதற்கிடையில், பல AI நிர்வாக முன்மொழிவுகள், உணர்ச்சி சார்பு, வளர்ச்சிச் சரிபாடு, அல்லது பெற்றோர் கட்டுப்பாடு பற்றிய குழந்தை-சார்ந்த கேள்விகளுக்குப் பதிலளிக்க மிகப் பரந்தவையாக உள்ளன.

ஒரு கேஜெட் போக்காக மறைக்கப்பட்ட தொழில் மாற்றம்

AI பொம்மைகளை ஒரு கேஜெட் சுழற்சியாக புறக்கணிப்பது எளிதாக இருக்கும்: புதுமையான தயாரிப்புகளின் ஒரு வெடிப்பு, அவை மேம்படவோ அல்லது மறையவோ செய்யும். ஆனால் இன்னும் துல்லியமான வாசிப்பு என்னவென்றால், இவை உருவாக்கும் AI-யை நெருக்கமான நுகர்வோர் சூழல்களுக்குள் கட்டமைப்புரீதியாக விரிவாக்குகின்றன. உற்பத்தித்திறன் கருவிகள் அல்லது நிறுவன சாட் அமைப்புகளைப் போல அல்லாமல், இச்சாதனங்கள் தீர்ப்புத் திறன் குறைந்த, கண்காணிப்பு ஒழுங்கற்ற, மற்றும் வலுவான உணர்ச்சி திறந்தநிலை கொண்ட பயனர்களுக்காக வடிவமைக்கப்பட்டுள்ளன.

அதனால் அவை பரவலான நுகர்வோர் AI நிர்வாகத்துக்கான வெளிப்படையான சோதனை வழக்காக மாறுகின்றன. முன்பள்ளி குழந்தைகளுக்காக சந்தைப்படுத்தப்படும் மென்மையான பொம்மையில் கூட பாதுகாப்பற்ற அல்லது கையாளும் நடத்தையை நிறுவனங்கள் நம்பத்தகுந்த முறையில் தடுக்க முடியாவிட்டால், மற்ற இடங்களில் பொறுப்பான செயல்படுத்தல் குறித்த கோரிக்கைகள் நியாயமான ஆய்வை எதிர்கொள்ளும்.

வணிக ஊக்கங்கள் தெளிவாக உள்ளன. உரையாடும் பொம்மைகள் நிலையான தயாரிப்புகளிலிருந்து தங்களை வேறுபடுத்திக்கொள்ள, ஈடுபாட்டு தரவைச் சேகரிக்க, மற்றும் புதுப்பிப்புகள் அல்லது சந்தா வழியாக மீண்டும் மீண்டும் மதிப்பை உருவாக்க முடியும். சமூக பொறுப்பு அதே அளவுக்கு வளர்ச்சியடையவில்லை. நட்பாக, கல்வியளிப்பதாக, மற்றும் தீங்கு இல்லாததாகத் தோன்றக்கூடிய அமைப்புகளை நம்புமாறு பெற்றோரிடம் கேட்கப்படுகிறது; அதே நேரத்தில், மாதிரி நடத்தை முழுமையாக முன்கணிக்க இன்னும் கடினமாகவே உள்ளது.

பொறுப்பான கண்காணிப்பு எதைக் கேட்கும்

தற்போதைய ஆதாரங்கள் குறைந்தபட்சம் ஒரு தெளிவான முடிவை ஆதரிக்கின்றன: இந்த வகை இதுவரை பெற்றதைவிட நெருக்கமான ஆய்வை வேண்டுகிறது. அதனால் ஒவ்வொரு AI பொம்மையும் பாதுகாப்பற்றது அல்லது உரையாடல் விளையாட்டுக்கு நன்மைகள் இல்லையென்று தானாக அர்த்தமில்லை. ஆனால் பொதுவான புதுமை மின்னணு சாதனங்களைவிட ஆதாரப் பொறுப்பு உயர்ந்திருக்க வேண்டும் என்பதே அர்த்தம்.

குறைந்தபட்சமாக, அர்த்தமுள்ள கண்காணிப்புக்கு வயதுக்கு ஏற்றதா என்பதை உறுதிப்படுத்தும் வலுவான சோதனை, மாதிரி திறன்கள் மற்றும் வரம்புகளின் தெளிவான வெளிப்படுத்தல், நம்பகமான பெற்றோர் கட்டுப்பாடுகள், மற்றும் பொம்மைகள் நினைவகம், புதுப்பிப்புகள், மற்றும் உரையாடல் எல்லைகளை எவ்வாறு கையாளுகின்றன என்பதற்கான தரநிலைகள் தேவைப்படும். உள்ளடக்க மிதப்படுத்தலை மட்டும் அல்லாமல், வளர்ச்சிச் விளைவுகளின் மதிப்பீடும் தேவைப்படும்.

AI பொம்மைகள் ஆறுதல் மற்றும் படைப்பாற்றல் என்ற மொழியுடன் வருகின்றன. ஆரம்ப பதிவுகள் அது போதாது என்பதைக் காட்டுகின்றன. ஒரு தயாரிப்பு குழந்தைகளுடன் பேச, அவர்களின் ஆர்வத்தைச் சுற்றி தன்னிச்சையாக செயல்பட, மற்றும் அவர்களின் உணர்ச்சிச் உலகின் ஒரு பகுதியாக மாறக்கூடிய வகையில் உருவாக்கப்பட்டிருந்தால், பாதுகாப்பை கடைசி சிந்தனையாகக் கருத முடியாது. தொழில்நுட்பம் வேகமாக மாறக்கூடும், ஆனால் பாதுகாப்பு வளையங்களுக்கான காரணம் ஏற்கனவே உள்ளது.

இந்த கட்டுரை Wired செய்தியறிக்கையை அடிப்படையாகக் கொண்டது. மூல கட்டுரையைப் படிக்கவும்.