ॲपलची शांत ॲप स्टोअर चेतावणी ग्रोकच्या डीपफेक समस्येला प्रकाशझोतात आणते

ग्रोकच्या मॉडरेशनमधील अपयशांवर लक्ष गेले तेव्हा ॲपल पुढे आली

संमतीशिवाय तयार केलेल्या लैंगिक डीपफेक्सबाबतच्या तक्रारी आणि बातम्यांच्या कव्हरेजमुळे, X आणि ग्रोकमागील टीम्सना कंटेंट मॉडरेशन सुधारण्यासाठी योजना हवी, असा खासगी इशारा ॲपलने दिला. NBC News ने उद्धृत केलेल्या आणि The Verge ने संक्षेपित केलेल्या अहवालानुसार, कंपनीने अमेरिकन सिनेटर्सना सांगितले की तिने जानेवारीत दोन्ही डेव्हलपर्सशी संपर्क साधला होता आणि बदलांची मागणी केली होती. हा इशारा महत्त्वाचा होता कारण ग्रोक X च्या आतही उपलब्ध होता आणि स्वतंत्र अॅप म्हणूनही, ज्यामुळे बाजारातील सर्वाधिक दिसणाऱ्या एआय उत्पादनांपैकी एका वर ॲपलला थेट दबाव टाकता आला.

मूळ मुद्दा अस्पष्ट नव्हता. त्या वेळी, ग्रोकची संरक्षक यंत्रणा इतकी कमकुवत असल्याचे सांगितले गेले की वापरकर्ते तुलनेने सहजपणे प्रत्यक्ष व्यक्तींचे लैंगिकीकृत डीपफेक्स आणि तथाकथित कपडे काढलेली चित्रे तयार करून शेअर करू शकत होते. The Verge ने सांगितले की ही चित्रे असमानपणे महिलांना लक्ष्य करत होती, आणि काहींमध्ये अल्पवयीनही असल्याचे दिसत होते. या मिश्रणामुळे समस्या एआय दुरुपयोग, अॅप-स्टोअर नियम आणि बालसुरक्षा चिंतांच्या संगमावर आली.

ॲपलचा सहभाग मोबाइल इकोसिस्टममधील एक वारंवार दिसणारा विरोधाभासही दाखवतो. अॅप स्टोअर्स अनेकदा सुरक्षा आणि कंटेंट धोरणांवर कठोर राखणदार म्हणून स्वतःला सादर करतात, पण दुरुपयोगाचा संकटकाळ वाढत असताना कंपनीने सार्वजनिकपणे नव्हे तर शांतपणे कारवाई केली. The Verge ही प्रतिक्रिया उद्योगातील सर्वात शक्तिशाली मध्यस्थांपैकी एकाकडून सत्तेचे मूक प्रदर्शन म्हणून मांडते. अंतर्भूत वर्तन गंभीर असतानाही, आणि संबंधित अॅप्स व्यापक पोहोच असलेले मोठे प्लॅटफॉर्म असतानाही, ॲपलने त्या वेळी आपला हस्तक्षेप सार्वजनिकरीत्या सांगितला नाही.

X ने ॲपलला समाधान वाटेल इतकी सुधारणा केली, पण ग्रोकने नाही

The Verge ने वर्णन केलेल्या पत्रानुसार, ॲपलने X आणि ग्रोक दोन्हींसाठी सुचवलेल्या बदलांची समीक्षा केली. तिने निष्कर्ष काढला की X ने आपली उल्लंघने मोठ्या प्रमाणात दूर केली होती, तर ग्रोक अद्याप नियमपालनात नव्हता. त्यानंतर ॲपलने डेव्हलपरला सांगितले की अतिरिक्त बदल आवश्यक असतील, अन्यथा अॅप अॅप स्टोअरमधून काढले जाऊ शकते. हा फरक महत्त्वाचा आहे, कारण यावरून असे सूचित होते की ॲपलने मूळ प्लॅटफॉर्म आणि एआय उत्पादनाला एकसारखी मॉडरेशन प्रकरणे मानले नाही, जरी प्रत्यक्षात ती जवळून जोडलेली होती.

ही घटना दाखवते की एआय उत्पादने पारंपरिक सोशल वैशिष्ट्यांपेक्षा अधिक वेगाने प्लॅटफॉर्म प्रशासन नियमांशी टकराव करू शकतात. सिंथेटिक मीडिया तयार करू शकणारा चॅटबॉट तातडीचे, मोठ्या प्रमाणावर आणि अतिशय वैयक्तिक धोके निर्माण करतो. संरक्षक उपाय अपयशी ठरले तर, अॅप स्टोअर्ससारखी वितरण चॅनेल्स अंमलबजावणीची ठिकाणे बनतात. म्हणूनच काढून टाकण्याची धमकी ही केवळ नियमित डेव्हलपर अभिप्राय नव्हती. जनरेटिव्ह एआय साधने इतकी गंभीर हानी निर्माण करू शकतात की स्टोअर ऑपरेटरकडे उपलब्ध असलेल्या सर्वात कठोर शिक्षेपैकी एक, म्हणजे थेट काढून टाकणे, ती लागू करण्याची गरज भासू शकते, याची ती कबुली होती.

Google Play द्वारे या अॅप्सचे वितरण करून नफा कमावणाऱ्या Google ने या मुद्द्यावर सार्वजनिकरित्या टिप्पणी केली नसल्याचे सांगितले जाते. हे मौन उद्योगातील व्यापक पॅटर्नशी जुळते. कंपन्या वेगाने वाढणाऱ्या एआय उत्पादनांच्या प्रवेश, होस्टिंग किंवा दृश्यमानतेतून कमाई करतात, पण निर्णय अपरिहार्य होईपर्यंत अंमलबजावणीबद्दल बोलण्यास टाळाटाळ करतात. परिणामी, अधिकृत खुलाशांऐवजी बाह्य रिपोर्टिंगच जनतेसाठी या प्रणालींचे शासन कसे चालते याची मुख्य खिडकी बनते.

एआय वितरणासाठी मोठा धडा

ग्रोक प्रकरणातून हे स्पष्ट होते की मॉडरेशन आता केवळ सोशल मीडियाची समस्या राहिलेली नाही. आता ती एकाच वेळी वितरणाची समस्या, उत्पादन-डिझाइनची समस्या आणि प्लॅटफॉर्म-जवाबदारीची समस्या बनली आहे. एखादे अॅप प्रत्यक्ष व्यक्तींना लक्ष्य करणारी अपमानास्पद चित्रे तयार करू शकत असेल, तर प्रश्न फक्त मॉडेल पुरवठादाराकडे कागदोपत्री धोरणे आहेत का, एवढाच राहत नाही. प्रश्न हा असतो की ती धोरणे इतक्या चांगल्या प्रकारे अंमलात आणली जात आहेत का, की ऑपरेटिंग-सिस्टम स्टोअरफ्रंट नियंत्रित करणाऱ्या कंपन्या आणि डिजिटल हानीचा मागोवा घेणारे धोरणकर्ते त्यावर समाधानी होतील.

हे अशा एआय डेव्हलपर्सवरही दबाव वाढवते ज्यांनी सुरक्षा उपायांना वेग आणि सहभागाच्या तुलनेत दुय्यम मानले आहे. जनरेटिव्ह उत्पादने सवलत देऊन वेगाने वाढू शकतात, पण सार्वजनिक प्रतिक्रिया वाढल्यावर अॅप स्टोअरचे नियम बंधनकारक ठरू शकतात. बंद दरवाज्यांआड अंमलबजावणीसाठी ओळखली जाणारी कंपनीदेखील, तक्रारी, माध्यम कव्हरेज आणि राजकीय लक्ष एकत्र आले की हालचाल करेल, हे ॲपलच्या इशाऱ्यामुळे सूचित होते.

मोठ्या एआय क्षेत्रासाठी, या घटनेतून असा संकेत मिळतो की प्लॅटफॉर्म जबाबदारीचा पुढचा टप्पा थेट नियमनाऐवजी वितरणाच्या चोकपॉइंट्समधून येऊ शकतो. विधिमंडळ सदस्य आणि समर्थक गट दबाव टाकू शकतात, पत्रकार उघड करू शकतात, वापरकर्ते तक्रार करू शकतात, पण प्रत्यक्ष परिणाम अनेकदा तेव्हा येतो जेव्हा एखादा गेटकीपर शेकडो दशलक्ष उपकरणांवरील प्रवेश धोक्यात आणतो. ग्रोकने किमान आत्तापर्यंत पूर्ण बंदी टाळली आहे. उरते ते हेच पूर्वसुर: कृत्रिम लैंगिक शोषणाशी निगडित मॉडरेशन अपयश सुरू राहिले, तर अॅप-स्टोअर सहनशीलता हमीची नसते.

हा लेख The Verge च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.