कृत्रिम बुद्धिमत्तेचा वापर करून संमतीशिवाय अंतरंग प्रतिमा तयार करणाऱ्या अॅप्लिकेशन्सना अधिक स्पष्टपणे लक्ष्य करण्यासाठी Apple ने आपल्या App Store नियमांमध्ये सुधारणा केली आहे. या बदलांमुळे अशी सामग्री रोखणे आणि हटवणे ही डेव्हलपर्सची जबाबदारी अधिक स्पष्ट झाली आहे. डेव्हलपरने पुरेसे सुरक्षा उपाय लागू केले नाहीत किंवा सूचना मिळाल्यानंतर उल्लंघनांचे निराकरण केले नाही, तर अॅप स्टोअरमधून हटवले जाऊ शकते, असा इशाराही देण्यात आला आहे.
या धोरणातील बदलांमध्ये “nudify” अॅप्स म्हणून ओळखल्या जाणाऱ्या श्रेणीचा समावेश आहे: व्यक्तीच्या संमतीशिवाय त्यांच्या लैंगिकीकृत किंवा अंतरंग दिसणाऱ्या प्रतिमा तयार करण्यासाठी डिझाइन केलेले सॉफ्टवेअर. जनरेटिव्ह-AI साधनांमुळे ग्राहकांच्या सॉफ्टवेअरद्वारे प्रतिमा बदलणे आणि वितरित करणे सोपे झाले असताना, Apple ची सुधारित भाषा हा निषेध अधिक थेटपणे मांडते.
अधिक स्पष्ट moderation जबाबदारी
सुधारित नियमांनुसार, डेव्हलपर्सनी त्यांच्या कंटेंट-moderation जबाबदाऱ्यांचा भाग म्हणून संमतीशिवाय तयार केलेल्या लैंगिक प्रतिमा सक्रियपणे रोखून हटवाव्यात. ही शब्दरचना महत्त्वाची आहे, कारण ती या मुद्द्याला केवळ एका मर्यादित फीचरवरील बंदी म्हणून पाहत नाही. पात्र अॅप्सच्या ऑपरेटर्सकडे प्रतिबंधित वापर ओळखण्यासाठी, त्याला प्रतिसाद देण्यासाठी आणि तो थांबवण्यासाठी प्रभावी प्रणाली असाव्यात, अशी अपेक्षाही यात व्यक्त केली आहे.
पुरेसे सुरक्षा उपाय न करणारे किंवा सूचना दिल्यानंतर उल्लंघनांचे निराकरण न करणारे डेव्हलपर्स App Store मधून हटवले जाऊ शकतात, असे Apple म्हणते. त्यामुळे वापरकर्त्यांना या प्रकारच्या प्रतिमा तयार, होस्ट किंवा प्रसारित करण्याची सुविधा देणाऱ्या उत्पादनांच्या डेव्हलपर्ससाठी हे धोरण compliance जोखीम निर्माण करते.
“bait-and-switch” अॅप्सविरोधातील नियमही Apple ने स्पष्ट केले आहेत. App Store ची मंजुरी मिळाल्यानंतर nudificationसह प्रतिबंधित क्षमता आणतील अशा पद्धतीने अॅपची कार्यक्षमता वाढवता किंवा बदलता येणार नाही, असे कंपनीचे म्हणणे आहे. हे स्पष्टीकरण एका व्यावहारिक अंमलबजावणीच्या समस्येकडे लक्ष वेधते: अॅप उपलब्ध झाल्यानंतर डेव्हलपरने फीचर्स बदलल्यास त्याची सुरुवातीची समीक्षा-स्थिती नंतरच्या वर्तनाचे अचूक द्योतक ठरू शकत नाही.
Deepfake वादानंतर दबाव
या सुधारणा Apple वरील टीकेनंतर करण्यात आल्या आहेत. या वर्षाच्या सुरुवातीला X च्या वापरकर्त्यांनी Grok चा वापर करून संमतीशिवाय लैंगिक deepfake तयार केले; त्यात अल्पवयीनांशी संबंधित प्रतिमांचाही समावेश होता. Apple ने X किंवा Grok ला App Store मधून हटवले नाही, मात्र Grok हटवण्याची धमकी दिल्याचे कंपनीने सिनेटर्सना सांगितले.
जूनमध्ये झालेल्या Apple Worldwide Developers Conference मध्येही सार्वजनिक दबाव दिसून आला. आंदोलकांनी Apple ला Grok, X आणि nudify तंत्रज्ञान App Store मधून हटवण्याचे आवाहन केले. जुलैमध्ये सॅन फ्रान्सिस्कोच्या सिटी अटॉर्नीने Apple ला 13 nudify अॅप्स हटवण्याचा आदेश दिला; Apple ने तसे केल्याचे सांगितले.
नवीन शब्दरचना त्या घटनेतून निर्माण झालेल्या प्रत्येक प्रश्नाचे उत्तर देत नाही. मोठ्या प्लॅटफॉर्म्स आणि AI सेवांवर Apple आपले नियम किती व्यापकपणे लागू करेल, हा प्रश्नही त्यात आहे. मात्र कंपनीने जाहीर केलेले मानक आता अधिक स्पष्टपणे ओळखता येते: समीक्षा करताना स्वतःला nudification टूल म्हणून सादर न करणे एवढेच अॅप्ससाठी पुरेसे नाही. त्यांनी संमतीशिवाय अंतरंग प्रतिमा तयार होण्यापासून आणि वितरित होण्यापासूनही संरक्षण करणे आवश्यक आहे.
वितरणावरील नियंत्रणेही धोरणाचा भाग
मानव तस्करी किंवा मुलांच्या शोषणाला मदत करणारी अॅप्स App Store मधून हटवली जातील आणि पर्यायी वितरणातूनही ब्लॉक केली जातील, असे Apple च्या अपडेटमध्ये अधिक स्पष्टपणे नमूद केले आहे. सॉफ्टवेअर वापरकर्त्यांपर्यंत कसे पोहोचते यावर Apple च्या व्यापक नियंत्रणाशी सुधारित moderation भाषा ही तरतूद जोडते.
अॅप निर्मात्यांसाठी, या बदलामुळे उत्पादन डिझाइन आणि सततच्या कार्यप्रणालीचे महत्त्व वाढते. प्रतिमा-निर्मिती फीचर्स, सोशल शेअरिंग किंवा वापरकर्त्यांनी अपलोड केलेली सामग्री देणाऱ्या डेव्हलपरने प्रतिबंधित वापर कसा रोखता येईल, उल्लंघन करणारी सामग्री कशी हटवता येईल आणि Apple किंवा अन्य पक्षाने समस्या निदर्शनास आणल्यास कसा प्रतिसाद देता येईल, याचा विचार करणे आवश्यक आहे. सक्रियपणे कारवाई करण्याची जबाबदारी डेव्हलपर्सवरच आहे, असे धोरणातील भाषेत स्पष्टपणे नमूद केले आहे.
वापरकर्त्यांसाठी, या बदलातून असे दिसते की AI-सक्षम संमतीशिवाय अंतरंग प्रतिमांना Apple App Store अंमलबजावणीचा अधिक स्पष्ट मुद्दा मानत आहे. कंपनीचे नियम आता हानिकारक सामग्री तसेच अॅप compliance बाहेर जाण्याचे मार्ग दोन्ही ओळखतात: अपुरे सुरक्षा उपाय, न सुटलेली उल्लंघने किंवा मंजुरीनंतर nudification आणणारे फीचर बदल.
हे स्पष्टीकरण महत्त्वाचे का आहे
App stores हे ग्राहकांच्या AI टूल्ससाठी प्रमुख प्रवेशद्वार आहेत आणि त्यांच्या नियमांमुळे कोणती उत्पादने व्यापकपणे उपलब्ध राहतील हे ठरू शकते. Apple चे अपडेट मूलभूत तंत्रज्ञान किंवा त्याच्या स्टोअरबाहेरील गैरवापराचा धोका दूर करत नाही. मात्र App Store वितरण मिळवू इच्छिणाऱ्या डेव्हलपर्ससाठी त्याच्या अपेक्षा अधिक ठोस करते.
AI धोरण अमूर्त तत्त्वांपासून कार्यान्वयीन जबाबदाऱ्यांकडे सरकत असल्याचेही हा बदल दर्शवतो. संमतीशिवाय लैंगिक प्रतिमा अस्वीकार्य आहेत, एवढेच Apple सांगत नाही. ते हे मानक moderation आवश्यकता, सुधारात्मक कारवाई, स्टोअरमधून हटवणे आणि पर्यायी वितरणावरील निर्बंधांशी जोडत आहे.
या नियमांची अंमलबजावणी किती कठोरपणे केली जाते, यावर त्यांचा प्रत्यक्ष परिणाम ठरेल. तात्काळ धोरणात्मक बदल स्पष्ट आहे: संमतीशिवाय अंतरंग प्रतिमा तयार करण्यासाठी किंवा वितरित करण्यासाठी वापरता येणारी अॅप्स असलेल्या डेव्हलपर्सवर हे थांबवण्याची अधिक स्पष्ट जबाबदारी आहे; आणि जे तसे करणार नाहीत त्यांच्यासाठी Apple ने अधिक कठोर परिणाम स्पष्ट केले आहेत.
हा लेख The Verge च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.
Originally published on theverge.com
