Australia की federal government ऐसे AI chatbots पर नई सीमाएं लगाने की तैयारी कर रही है जो emotional intimacy का simulation करते हैं और बच्चे को उन पर निर्भर होने के लिए प्रोत्साहित या प्रेरित करते हैं। यह व्यापक प्रस्तावित digital duty-of-care framework का हिस्सा है।

यह proposal एक व्यापक online safety bill के साथ सामने आया है, जिसे House of Representatives ने 28 October को पारित किया और अब Senate में बहस होनी है। वहां इसका भविष्य अनिश्चित है, लेकिन यह बदलाव महत्वपूर्ण है: AI chatbot behaviour को अब उन platform-safety rules में शामिल किया जा रहा है जो पारंपरिक रूप से social media और अन्य online services पर केंद्रित थे।

Online harm की नई category

प्रस्तावित framework social media, games, apps और chatbots पर safety standards लागू करेगा। Government proposal के अनुसार इन services पर Australians के लिए safe online environment उपलब्ध कराने की overarching obligation होगी।

Communications Minister Anika Wells ने कहा है कि misogyny, terrorism, suicide, self-harm और eating disorders को बढ़ावा देने वाली material proposed duty-of-care laws के दायरे में होगी। Independent MP Kate Chaney के government-accepted amendment से कुछ AI chatbot activity भी listed harms में शामिल होगी।

Amendment platforms को ऐसी material या conduct पर ban लगाने को कहेगा जो emotional intimacy का simulation करे और बच्चे की AI chatbot पर dependence को बढ़ावा दे। Wording conduct और उसके प्रभाव पर केंद्रित है, न कि हर conversational AI interaction को अपने-आप unsafe मानने पर।

Prime minister Anthony Albanese speaks during question time in the House of Representatives at Parliament House in Canberra on 27 October
Prime minister Anthony Albanese speaks during question time in the House of Representatives at parliament House in Canberra on 27 October. Photograph: Lukas Coch/AAP

Proposal क्यों महत्वपूर्ण है

Chatbots को increasingly helpful companions, tutors और assistants के रूप में पेश किया जा रहा है। Conversation बनाए रखने, engaging tone में जवाब देने और किसी भी समय उपलब्ध रहने की क्षमता ने emotional reliance को लेकर चिंताएं बढ़ाई हैं—विशेषकर बच्चों के मामले में।

Australian proposal इस चिंता को concrete regulatory category बना देगा। General moderation policies या voluntary product safeguards पर निर्भर रहने के बजाय framework के तहत आने वाले platforms को specified harmful conduct रोकने की statutory responsibility मिल सकती है।

Bill existing online codes और standards को broader duty-of-care requirement में समेटेगा। इसमें social-media platforms के लिए algorithmic और suggested content का opt-out feature देने की proposed requirement भी है।

Parliamentary path अभी खुला है

Labor को उम्मीद है कि bill 2026 के अंत तक पारित हो जाएगा, लेकिन उसे Senate से गुजरना बाकी है। Greens इसका समर्थन करते हैं, जबकि Coalition ने कहा है कि वह vote नहीं करेगा। Government ने फिर भी amendments के लिए openness दिखाई है और व्यापक समर्थन मांग रही है।

इसलिए chatbot provisions का अंतिम रूप तय नहीं है। Bill lower house से पारित हुआ है, लेकिन अभी कानून नहीं है। इसके संभावित दायरे को उन obligations से अलग समझना होगा जिन्हें platforms फिलहाल पूरा करने के लिए बाध्य हैं।

OpenAI admits misstep in handling AI agent interactions with Australian government sites – video
OpenAI admits misstep in handling AI agent interactions with Australian government sites – video

Enforcement और accountability का दबाव

Government पर telecommunications ombudsman को social media और AI के watchdog की भूमिका देने का दबाव भी है। समर्थकों का कहना है कि बड़े technology platforms विफल होने पर Australians को external complaints route और public accountability mechanism चाहिए।

इसलिए debate chatbot interaction की एक category से आगे जाती है। सवाल यह है कि digital service ने unsafe environment बनाया या नहीं, complaints कैसे संभाली जाएं और क्या regulator standard पूरा न करने वाली companies की सार्वजनिक पहचान कर सकता है।

Conversational AI के लिए policy test

Australia का proposal ऐसे समय आया है जब governments विचार कर रही हैं कि existing online-safety systems generative AI पर कैसे लागू हों। Chatbots publishing platforms या recommendation feeds जैसी पुरानी categories में आसानी से नहीं आते: वे real time में जवाब दे सकते हैं, persona बनाए रख सकते हैं और conversation की दिशा बदल सकते हैं।

Proposed provision एक संकीर्ण risk पर ध्यान केंद्रित करके उत्तर देता है: simulated emotional intimacy जो बच्चों को dependence की ओर ले जाए। अंतिम regulatory test यह होगा कि standard को platforms, users और regulators के लिए पर्याप्त स्पष्टता से लागू किया जा सके या नहीं।

फिलहाल immediate development legislative है, operational नहीं। Lower-house vote ने AI chatbots को Australia की online-safety debate में सीधे ला दिया है। Senate का फैसला तय करेगा कि proposal enforceable duty बनता है या नहीं।

यह लेख The Guardian की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।

Originally published on theguardian.com