ग्रोक की मॉडरेशन विफलताओं पर जांच बढ़ने के बाद एप्पल ने हस्तक्षेप किया
गैर-सहमति वाले यौन डीपफेक से जुड़ी शिकायतों और खबरों के बाद, एप्पल ने X और ग्रोक के पीछे की टीमों को निजी तौर पर चेतावनी दी कि उन्हें कंटेंट मॉडरेशन सुधारने की योजना बनानी होगी। NBC News द्वारा उद्धृत और The Verge द्वारा संक्षेपित रिपोर्टिंग के अनुसार, कंपनी ने अमेरिकी सीनेटरों को बताया कि उसने जनवरी में दोनों डेवलपर्स से संपर्क किया था और बदलावों की मांग की थी। यह चेतावनी महत्वपूर्ण थी क्योंकि ग्रोक X के अंदर भी उपलब्ध था और एक अलग ऐप के रूप में भी, जिससे एप्पल को बाजार के सबसे दिखाई देने वाले एआई उत्पादों में से एक पर सीधे दबाव बनाने की ताकत मिली।
मूल समस्या अस्पष्ट नहीं थी। उस समय, ग्रोक की सुरक्षा व्यवस्था को इतना कमजोर बताया गया था कि उपयोगकर्ता अपेक्षाकृत आसानी से वास्तविक लोगों के यौनीकृत डीपफेक और तथाकथित कपड़े हटाने वाली छवियां बना और साझा कर सकते थे। The Verge ने कहा कि ये छवियां असमान रूप से महिलाओं को निशाना बना रही थीं, और कुछ मामलों में नाबालिग भी शामिल प्रतीत हुए। इस संयोजन ने समस्या को एआई दुरुपयोग, ऐप-स्टोर नियमों और बाल-सुरक्षा चिंताओं के संगम पर ला खड़ा किया।
एप्पल की भागीदारी मोबाइल इकोसिस्टम में एक बार-बार दिखने वाले विरोधाभास को भी उजागर करती है। ऐप स्टोर अक्सर खुद को सुरक्षा और सामग्री नीति पर सख्त चौकीदार के रूप में प्रस्तुत करते हैं, फिर भी कंपनी ने दुरुपयोग संकट के सामने सार्वजनिक रूप से नहीं बल्कि चुपचाप कार्रवाई की। The Verge इस प्रतिक्रिया को उद्योग के सबसे शक्तिशाली मध्यस्थों में से एक द्वारा शक्ति के मद्धिम प्रदर्शन के रूप में प्रस्तुत करता है। एप्पल ने उस समय अपने हस्तक्षेप का सार्वजनिक रूप से वर्णन नहीं किया, जबकि मूल आचरण गंभीर था और शामिल ऐप्स व्यापक पहुंच वाले प्रमुख प्लेटफ़ॉर्म थे।
X ने एप्पल को संतुष्ट करने लायक सुधार किया, लेकिन ग्रोक नहीं
The Verge द्वारा वर्णित पत्र में, एप्पल ने कहा कि उसने X और ग्रोक दोनों में प्रस्तावित बदलावों की समीक्षा की। उसने निष्कर्ष निकाला कि X ने अपनी उल्लंघनकारी गतिविधियों को काफी हद तक ठीक कर लिया था, जबकि ग्रोक अभी भी अनुपालन में नहीं था। इसके बाद एप्पल ने डेवलपर को बताया कि अतिरिक्त बदलाव जरूरी होंगे, वरना ऐप को ऐप स्टोर से हटाया जा सकता है। यह अंतर महत्वपूर्ण है क्योंकि इससे लगता है कि एप्पल ने मूल प्लेटफ़ॉर्म और एआई उत्पाद को एक जैसी मॉडरेशन समस्या नहीं माना, भले ही व्यवहार में वे काफ़ी निकटता से जुड़े थे।
यह घटना दिखाती है कि एआई उत्पाद पारंपरिक सोशल फीचर्स की तुलना में प्लेटफ़ॉर्म शासन नियमों से तेज़ी से टकरा सकते हैं। एक चैटबॉट जो सिंथेटिक मीडिया बना सकता है, तत्काल, बड़े पैमाने पर और अत्यंत निजी जोखिम पैदा करता है। जब सुरक्षा उपाय विफल होते हैं, तो ऐप स्टोर जैसे वितरण चैनल प्रवर्तन बिंदु बन जाते हैं। इसलिए एप्पल की हटाने की धमकी सिर्फ़ सामान्य डेवलपर प्रतिक्रिया नहीं थी। यह इस बात की स्वीकारोक्ति थी कि जनरेटिव एआई टूल ऐसे नुकसान पैदा कर सकते हैं जो किसी स्टोर ऑपरेटर के पास उपलब्ध सबसे कड़े दंड, यानी सीधे हटाने, को ट्रिगर करने के लिए पर्याप्त गंभीर हैं।
Google, जो इन ऐप्स को Google Play के माध्यम से वितरित करके मुनाफा कमाता है, ने बताया जाता है कि इस मामले पर सार्वजनिक रूप से कोई टिप्पणी नहीं की। यह मौन व्यापक उद्योग पैटर्न को दर्शाता है। कंपनियां तेज़ी से बढ़ते एआई उत्पादों के लिए पहुंच, होस्टिंग या दृश्यता से कमाई करती हैं, लेकिन आम तौर पर प्रवर्तन पर चर्चा करने से बचती हैं, जब तक कि फैसला टालना असंभव न हो जाए। नतीजा यह होता है कि आधिकारिक खुलासे के बजाय बाहरी रिपोर्टिंग ही जनता के लिए इन प्रणालियों के शासन को समझने की मुख्य खिड़की बन जाती है।
