Apple ने अपने App Store नियमों को अपडेट करते हुए उन एप्लिकेशनों को अधिक स्पष्ट रूप से लक्षित किया है, जो कृत्रिम बुद्धिमत्ता का उपयोग करके बिना सहमति वाली अंतरंग तस्वीरें बनाते हैं। इन बदलावों के तहत ऐसी सामग्री को रोकने और हटाने की जिम्मेदारी डेवलपर्स पर अधिक स्पष्ट रूप से डाली गई है। नियमों में चेतावनी दी गई है कि यदि डेवलपर पर्याप्त सुरक्षा उपाय लागू नहीं करता या सूचना मिलने के बाद उल्लंघनों का समाधान करने में विफल रहता है, तो ऐप को स्टोर से हटाया जा सकता है।
यह नीति अपडेट उस श्रेणी को संबोधित करता है जिसे अक्सर “nudify” ऐप्स कहा जाता है: ऐसे सॉफ्टवेयर जिन्हें लोगों की सहमति के बिना उनकी यौनिक या अंतरंग दिखने वाली तस्वीरें बनाने के लिए डिजाइन किया गया है। Apple की संशोधित भाषा इस प्रतिबंध को ऐसे समय में अधिक सीधे तौर पर स्पष्ट करती है, जब जनरेटिव-AI टूल्स ने इमेज मैनिपुलेशन को उपभोक्ता सॉफ्टवेयर के जरिए वितरित करना आसान बना दिया है।
अधिक स्पष्ट मॉडरेशन दायित्व
अपडेट किए गए नियमों के तहत, डेवलपर्स को अपनी कंटेंट-मॉडरेशन जिम्मेदारियों के तहत बिना सहमति वाली यौन तस्वीरों को सक्रिय रूप से रोकना और हटाना होगा। यह शब्दावली महत्वपूर्ण है क्योंकि यह मुद्दे को किसी संकीर्ण रूप से परिभाषित फीचर पर लगे प्रतिबंध से आगे ले जाती है। यह अपेक्षा भी स्थापित करती है कि पात्र ऐप्स के संचालकों के पास प्रतिबंधित उपयोग का पता लगाने, उस पर प्रतिक्रिया देने और उसे रोकने के प्रभावी सिस्टम हों।
Apple का कहना है कि जो डेवलपर्स पर्याप्त सुरक्षा उपाय लागू नहीं करते, या सूचना मिलने के बाद उल्लंघनों का समाधान नहीं करते, उन्हें App Store से हटाया जा सकता है। इसलिए यह नीति उन डेवलपर्स के लिए अनुपालन जोखिम पैदा करती है, जिनके उत्पाद उपयोगकर्ताओं को इस प्रकार की तस्वीरें बनाने, होस्ट करने या प्रसारित करने में सक्षम बनाते हैं।
Apple ने “bait-and-switch” ऐप्स के खिलाफ अपने नियमों को भी स्पष्ट किया है। कंपनी का कहना है कि App Store की मंजूरी के बाद कोई ऐप अपनी कार्यक्षमता इस तरह नहीं जोड़ या बदल सकता, जिससे प्रतिबंधित क्षमताएं, जिनमें nudification भी शामिल है, पेश हों। यह स्पष्टीकरण एक व्यावहारिक प्रवर्तन समस्या को संबोधित करता है: किसी ऐप की समीक्षा स्थिति उसके बाद के व्यवहार का खराब संकेतक हो सकती है, यदि डेवलपर उपलब्ध होने के बाद फीचर्स बदल दे।
Deepfake विवाद के बाद बढ़ा दबाव
ये संशोधन Apple की उस आलोचना के बाद आए हैं, जब इस साल की शुरुआत में X के उपयोगकर्ताओं ने Grok का इस्तेमाल बिना सहमति वाली यौनिक deepfake तस्वीरें बनाने के लिए किया था, जिनमें नाबालिगों से जुड़ी तस्वीरें भी शामिल थीं। Apple ने X या Grok को App Store से नहीं हटाया, हालांकि उसने सीनेटरों को बताया कि उसने Grok को हटाने की धमकी दी थी।
जून में Apple के Worldwide Developers Conference में भी सार्वजनिक दबाव सामने आया, जहां प्रदर्शनकारियों ने Apple से Grok, X और nudify तकनीक को App Store से हटाने की मांग की। जुलाई में सैन फ्रांसिस्को के एक सिटी अटॉर्नी ने Apple को 13 nudify ऐप्स हटाने का आदेश दिया; Apple ने कहा कि उसने ऐसा किया।
नई शब्दावली इस घटनाक्रम से उठे हर सवाल का समाधान नहीं करती, जिसमें यह भी शामिल है कि Apple बड़े प्लेटफॉर्म और AI सेवाओं पर अपने नियम कितनी व्यापकता से लागू करेगा। लेकिन इससे कंपनी के घोषित मानक की पहचान आसान हो जाती है: ऐप्स को केवल समीक्षा के समय खुद को nudification टूल के रूप में पेश करने से बचना पर्याप्त नहीं है। उन्हें बिना सहमति वाली अंतरंग तस्वीरों के निर्माण और वितरण से भी सुरक्षा देनी होगी।
वितरण नियंत्रण भी नीति का हिस्सा
Apple का अपडेट यह भी अधिक स्पष्ट रूप से कहता है कि मानव तस्करी या बच्चों के शोषण को सुगम बनाने वाले ऐप्स को App Store से हटाया जाएगा और वैकल्पिक वितरण से भी ब्लॉक किया जाएगा। यह प्रावधान संशोधित मॉडरेशन भाषा को इस व्यापक नियंत्रण से जोड़ता है कि सॉफ्टवेयर उपयोगकर्ताओं तक कैसे पहुंचता है।
ऐप निर्माताओं के लिए यह बदलाव उत्पाद डिजाइन और निरंतर संचालन के महत्व को बढ़ाता है। इमेज-जनरेशन फीचर्स, सोशल शेयरिंग या उपयोगकर्ता द्वारा अपलोड की गई सामग्री देने वाले डेवलपर को यह विचार करना होगा कि वह प्रतिबंधित उपयोग को कैसे रोक सकता है, उल्लंघनकारी सामग्री को कैसे हटा सकता है और Apple या किसी अन्य पक्ष द्वारा समस्या की सूचना दिए जाने पर कैसे प्रतिक्रिया दे सकता है। नीति की भाषा में डेवलपर्स पर सक्रिय रूप से कार्रवाई करने की जिम्मेदारी स्पष्ट रूप से डाली गई है।
उपयोगकर्ताओं के लिए यह बदलाव संकेत देता है कि Apple AI-सक्षम बिना सहमति वाली अंतरंग तस्वीरों को App Store प्रवर्तन का अधिक स्पष्ट मुद्दा मान रहा है। कंपनी के नियम अब हानिकारक सामग्री और उस मार्ग दोनों की पहचान करते हैं, जिसके जरिए कोई ऐप अनुपालन से बाहर हो सकता है: अपर्याप्त सुरक्षा उपाय, अनसुलझे उल्लंघन या मंजूरी के बाद ऐसे फीचर्स में बदलाव, जो nudification शुरू करते हों।
यह स्पष्टीकरण क्यों महत्वपूर्ण है
App stores उपभोक्ता AI टूल्स के लिए प्रमुख प्रवेशद्वार हैं और उनके नियम यह तय कर सकते हैं कि कौन से उत्पाद व्यापक रूप से उपलब्ध रहें। Apple का अपडेट मूल तकनीक या उसके स्टोर के बाहर दुरुपयोग के जोखिम को समाप्त नहीं करता। हालांकि, यह App Store वितरण चाहने वाले डेवलपर्स के लिए उसकी अपेक्षाओं को अधिक ठोस बनाता है।
यह बदलाव यह भी दर्शाता है कि AI नीति अमूर्त सिद्धांतों से परिचालन संबंधी दायित्वों की ओर बढ़ रही है। Apple केवल यह नहीं कह रहा कि बिना सहमति वाली यौन तस्वीरें अस्वीकार्य हैं। वह इस मानक को मॉडरेशन आवश्यकताओं, सुधारात्मक कार्रवाई, स्टोर से हटाने और वैकल्पिक वितरण पर प्रतिबंधों से जोड़ रहा है।
इन नियमों को कितनी सख्ती से लागू किया जाता है, इससे उनका व्यावहारिक प्रभाव तय होगा। तत्काल नीति परिवर्तन स्पष्ट है: जिन डेवलपर्स के ऐप्स का इस्तेमाल बिना सहमति वाली अंतरंग तस्वीरें बनाने या वितरित करने के लिए किया जा सकता है, उन पर इसे रोकने की अधिक स्पष्ट जिम्मेदारी है, और Apple ने ऐसा न करने वालों के लिए अधिक कड़े परिणाम बताए हैं।
यह लेख The Verge की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।
Originally published on theverge.com