Emotional intimacyचा simulation करणाऱ्या आणि मुलांना स्वतःवर अवलंबून राहण्यास प्रोत्साहित करणाऱ्या किंवा ती dependence वाढवणाऱ्या AI chatbotsवर नवीन मर्यादा आणण्याचा Australiaचा federal governmentचा प्रयत्न आहे. हे व्यापक digital duty-of-care frameworkचा भाग आहे.

हा proposal broader online safety billसोबत आला आहे. तो 28 Octoberला House of Representativesमध्ये मंजूर झाला असून Senateमध्ये चर्चेला जाणार आहे. तिथे त्याचे भवितव्य अनिश्चित आहे; मात्र AI chatbot behaviourला पारंपरिकपणे social media आणि इतर online servicesवर केंद्रित platform-safety rulesमध्ये समाविष्ट करण्याचा हा महत्त्वाचा बदल आहे.

Online harmची नवी category

Planned framework social media, games, apps आणि chatbotsवर safety standards लागू करेल. Australiansसाठी safe online environment देण्याची overarching obligation या servicesवर असेल, असे government proposalमध्ये म्हटले आहे.

Misogyny, terrorism, suicide, self-harm आणि eating disordersला प्रोत्साहन देणारे material proposed duty-of-care lawsच्या कक्षेत येईल, असे Communications Minister Anika Wells यांनी सांगितले. Independent MP Kate Chaney यांच्या government-accepted amendmentमुळे काही AI chatbot activity listed harmsमध्ये येईल.

या amendmentनुसार emotional intimacyचा simulation करणारे आणि मुलांची AI chatbotवरील dependence वाढवणारे material किंवा conduct platformsनी ban करावे. प्रत्येक conversational AI interactionला आपोआप unsafe न मानता wording conduct आणि त्याच्या परिणामावर भर देते.

Prime minister Anthony Albanese speaks during question time in the House of Representatives at Parliament House in Canberra on 27 October
Prime minister Anthony Albanese speaks during question time in the House of Representatives at parliament House in Canberra on 27 October. Photograph: Lukas Coch/AAP

Proposal महत्त्वाचा का आहे

Chatbotsना helpful companions, tutors आणि assistants म्हणून अधिकाधिक सादर केले जात आहे. Conversation टिकवणे, engaging tone वापरणे आणि कोणत्याही वेळी उत्तर देणे यामुळे emotional relianceबद्दलच्या चिंता वाढल्या आहेत—विशेषतः मुलांबाबत.

Australian proposal या चिंतेला concrete regulatory category बनवेल. General moderation policies किंवा voluntary safeguardsवरच अवलंबून न राहता frameworkच्या कक्षेतील platformsना specified harmful conduct रोखण्याची statutory responsibility मिळू शकते.

Bill existing online codes आणि standardsना broader duty-of-care requirementमध्ये एकत्र करेल. Algorithmic आणि suggested contentसाठी opt-out feature देण्याची proposed requirement social-media platformsवरही असेल.

Parliamentary path अजून खुला

2026च्या अखेरपर्यंत bill मंजूर होईल अशी Laborची अपेक्षा आहे; मात्र तो अजून Senateमधून जावा लागेल. Greens समर्थन करत आहेत, तर Coalitionने vote करणार नसल्याचे म्हटले आहे. Government amendmentsसाठी खुले राहून broader support मिळवण्याचा प्रयत्न करत आहे.

म्हणून chatbot provisionsचे अंतिम स्वरूप अजून ठरलेले नाही. Bill lower houseमध्ये मंजूर झाला असला तरी सध्या तो law नाही. त्याचा eventual reach आणि platformsना सध्या पाळाव्या लागणाऱ्या obligations वेगळ्या आहेत.

OpenAI admits misstep in handling AI agent interactions with Australian government sites – video
OpenAI admits misstep in handling AI agent interactions with Australian government sites – video

Enforcement आणि accountabilityचा दबाव

Telecommunications ombudsmanला social media आणि AI watchdogची भूमिका द्यावी, अशी मागणीही आहे. मोठे technology platforms अपयशी ठरल्यास Australiansना external complaints route आणि public accountability mechanism हवा, असे समर्थकांचे म्हणणे आहे.

त्यामुळे debate chatbot interactionच्या एका categoryपुरता मर्यादित नाही. Digital serviceने unsafe environment निर्माण केला का, complaints कशा हाताळाव्यात आणि standard न पाळणाऱ्या companiesना regulator सार्वजनिकपणे ओळखू शकतो का, हे प्रश्न उपस्थित होतात.

Conversational AIसाठी policy test

Existing online-safety systemsनी generative AIला कसा प्रतिसाद द्यावा याचा विचार governments करत असताना Australiaचा proposal आला आहे. Chatbots publishing platforms किंवा recommendation feedsसारख्या जुन्या categoriesमध्ये सहज बसत नाहीत: ते real timeमध्ये उत्तर देतात, persona टिकवतात आणि conversationची दिशा बदलू शकतात.

Proposed provision एका narrow riskवर लक्ष केंद्रित करते: मुलांना dependenceकडे नेणारी simulated emotional intimacy. Platforms, users आणि regulatorsना समजेल इतक्या स्पष्टपणे standard लागू करता येईल का, ही अंतिम regulatory कसोटी असेल.

आत्ताचा development legislative आहे, operational नाही. Lower-house voteने AI chatbotsना Australiaच्या online-safety debateमध्ये थेट आणले आहे. Senateचा विचार हा proposal enforceable duty बनेल की नाही ते ठरवेल.

हा लेख The Guardianच्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.

Originally published on theguardian.com