एक बड़ा फैसला ध्यान को भाषण से हटाकर उत्पाद डिज़ाइन की ओर मोड़ देता है
मेटा और यूट्यूब के खिलाफ़ आया जूरी का फैसला इस बात की जाँच को और गहरा करने की संभावना रखता है कि सोशल प्लेटफ़ॉर्म कैसे बनाए जाते हैं, न कि सिर्फ़ वे कंटेंट को कैसे नियंत्रित करते हैं। IEEE Spectrum के अनुसार, जिसे वह एक ऐतिहासिक मामला बताता है, जूरी ने पाया कि कंपनियों ने अपने प्लेटफ़ॉर्म को लापरवाही से डिज़ाइन किया और कैलey G.M. के रूप में पहचानी गई 20 वर्षीय महिला को नुकसान पहुँचाया।
इसकी कानूनी अहमियत इसके फ़्रेमिंग में है। वर्षों तक सोशल मीडिया पर सार्वजनिक बहस का बड़ा हिस्सा मॉडरेशन, दुष्प्रचार, और अभिव्यक्ति नियमों पर केंद्रित रहा है। यह मामला इसके बजाय सीधे डिज़ाइन की ओर इशारा करता है। IEEE Spectrum के अनुसार, जूरी ने वादी के इस तर्क से सहमति जताई कि कंपनियों ने लत लगाने की प्रवृत्ति को खामी नहीं, बल्कि एक फ़ीचर के रूप में लिया। यदि यह दावा एक अकेले फैसले से आगे भी असर डालता है, तो यह अदालतों, विधानसभाओं और बोर्डरूमों में उत्पाद-निर्णयों के मूल्यांकन के तरीके को बदल सकता है।
यह मामला सिर्फ़ सीधे पक्षकारों से आगे भी क्यों मायने रखता है
यह फैसला स्वतः प्लेटफ़ॉर्म-कानून को फिर से नहीं लिखता, और यहाँ दिया गया स्रोत एक राय-लेख है, पूर्ण न्यायालय अभिलेख नहीं। लेकिन इस चरण पर भी परिणाम उल्लेखनीय है, क्योंकि यह संकेत देता है कि एक जूरी ने एंगेजमेंट-केंद्रित डिज़ाइन को लापरवाही के नज़रिये से देखने को तैयार थी। यह ऐसे उद्योग में महत्वपूर्ण है जहाँ सिफ़ारिशी लूप, अंतहीन फ़ीड, नोटिफ़िकेशन और अन्य रिटेंशन टूल्स व्यापार मॉडल में गहराई से समाए हुए हैं।
यदि वादी अदालतों को यह समझाने में सफल होते हैं कि कुछ प्लेटफ़ॉर्म मैकेनिक्स पूर्वानुमेय रूप से हानिकारक हैं और ज्ञात जोखिमों के बावजूद लागू किए गए, तो तकनीकी कंपनियों के लिए जोखिम केवल प्रतिष्ठा-क्षति या नियामकीय जुर्मानों तक सीमित नहीं रहेगा। यह अधिक पारंपरिक उत्पाद-जिम्मेदारी वाले तर्क की ओर बढ़ सकता है: कि सिस्टम को इस तरह बनाया गया था कि उसने अनुमानित रूप से उपयोगकर्ताओं को नुकसान पहुँचाया।
यह एक महत्वपूर्ण बदलाव होगा। इसका अर्थ होगा कि सबसे संवेदनशील कानूनी प्रश्न अब केवल इस पर सीमित नहीं हैं कि उपयोगकर्ता कौन-सा कंटेंट देखते हैं, बल्कि इस पर भी हैं कि उत्पाद की संरचना उन्हें देखते रहने, स्क्रॉल करते रहने और वापस लौटते रहने के लिए कैसे प्रेरित करती है। व्यावहारिक रूप से, इससे उन डिज़ाइन निर्णयों पर अधिक सीधी चुनौती खुल सकती है जिन्हें कंपनियाँ लंबे समय से सामान्य विकास रणनीति के रूप में बचाती रही हैं।
लत अब डिज़ाइन गवर्नेंस का मुद्दा बनती जा रही है
IEEE Spectrum द्वारा रेखांकित यह वाक्य, कि कंपनियों ने लत को एक फ़ीचर माना न कि एक बग, उभरती नीतिगत समस्या को स्पष्ट करता है। उपभोक्ता तकनीक में उच्च एंगेजमेंट को पारंपरिक रूप से उत्पाद-सफलता का प्रमाण माना गया है। लेकिन यदि उच्च एंगेजमेंट ऐसे तरीकों से हासिल किया जाता है जो बाध्यकारी उपयोग को तीव्र करते हैं, विशेष रूप से संवेदनशील उपयोगकर्ताओं में, तो वही मेट्रिक्स जिन्हें निवेशक महत्व देते हैं, कानूनी साक्ष्य जैसे दिखने लग सकते हैं।
यह संभावना खास तौर पर महत्वपूर्ण है क्योंकि एंगेजमेंट सिस्टम शायद ही कभी संयोगवश बनते हैं। फ़ीड्स खास तरीकों से रिफ़्रेश होती हैं। नोटिफ़िकेशन का समय और स्वरूप तय किया जाता है। सिफ़ारिशी इंजन रिटेंशन के लिए अनुकूलित होते हैं। इंटरफ़ेस संबंधी निर्णय उन स्थितियों में भी बार-बार उपयोग को प्रोत्साहित कर सकते हैं जब उपयोगकर्ता सचेत रूप से ऐसा करने का इरादा न रखते हों। इनमें से कोई भी बात अपने-आप लापरवाही सिद्ध नहीं करती, लेकिन यह प्लेटफ़ॉर्म डिज़ाइन को तटस्थ पृष्ठभूमि अवसंरचना के बजाय जानबूझकर किए गए इंजीनियरिंग निर्णयों के क्षेत्र के रूप में अधिक स्पष्ट बनाती है।
इसका परिणाम यह है कि कंपनियों से यह अपेक्षा बढ़ रही है कि वे केवल यह न समझाएँ कि प्लेटफ़ॉर्म लोकप्रिय है या नहीं, बल्कि यह भी बताएँ कि यह लोकप्रियता कैसे पैदा की गई और रास्ते में कौन-से आंतरिक समझौते स्वीकार किए गए। ऐसे माहौल में “विकास” और “हानि में कमी” को पूरी तरह अलग बातचीत के रूप में नहीं देखा जा सकता।
पुनर्डिज़ाइन के लिए दबाव अब और बढ़ सकता है
IEEE Spectrum का तर्क है कि यह मुकदमा प्लेटफ़ॉर्म के पुनर्डिज़ाइन की ओर ले जाना चाहिए, और दिए गए पाठ से आगे जाए बिना भी यह निष्कर्ष समझना आसान है। ऐसे फैसले कंपनियों पर उन मैकेनिक्स की समीक्षा करने का दबाव बनाते हैं जो सबसे अधिक बाध्यकारी लूप जैसे लगते हैं। इसका मतलब यह नहीं कि निजीकरण या सिफ़ारिशी सिस्टम छोड़ दिए जाएँ, लेकिन इसका अर्थ यह हो सकता है कि कुछ फ़ीचर्स तब तक बचाव योग्य हैं या नहीं, यह फिर से सोचा जाए जब उनके नुकसान जूरी के सामने मानवीय शब्दों में रखे जाएँ।
कंपनियों के लिए चुनौती यह है कि जिन फ़ीचर्स पर आलोचना हो सकती है, वही अक्सर विज्ञापन प्रदर्शन, बिताए गए समय और उपयोगकर्ता वापसी दरों के लिए भी केंद्रीय होते हैं। ऐसे पुनर्डिज़ाइन जो इन लूप्स को कमज़ोर करें, सीधे व्यावसायिक लागत ला सकते हैं। लेकिन यदि कानून-व्यवस्था बाध्यकारी एंगेजमेंट को डिज़ाइन-दोष मानने लगे, तो उन लागतों के साथ कानूनी लागतें भी जुड़ेंगी, और अधिक वादियों के आने पर उन्हें नज़रअंदाज़ करना कठिन हो सकता है।
एक व्यापक राजनीतिक निहितार्थ भी है। नियामक और सांसद अक्सर धीमी गति से आगे बढ़ते हैं, खासकर तेज़ी से बदलते तकनीकी क्षेत्रों में। अदालत के मामले तथ्यों, डिज़ाइन विकल्पों और आंतरिक प्राथमिकताओं को सार्वजनिक जाँच के दायरे में लाकर बहस को तेज़ कर सकते हैं। एक अकेला फैसला भी भविष्य की नीति की भाषा को आकार दे सकता है, क्योंकि वह किसी पहले अमूर्त आलोचना को ठोस और कार्रवाई योग्य बना देता है।
टेक जवाबदेही में अगली बहस
सोशल मीडिया कंपनियाँ पहले से ही कंटेंट, गोपनीयता, युवाओं के मानसिक स्वास्थ्य और प्रतिस्पर्धी आचरण को लेकर आलोचना के विरुद्ध वर्षों से अपना बचाव करती रही हैं। यह मामला संकेत देता है कि अगली बड़ी जवाबदेही की लड़ाई शायद अधिक स्पष्ट रूप से खुद उत्पाद-यांत्रिकी पर केंद्रित होगी।
यदि ऐसा होता है, तो सबसे महत्वपूर्ण प्रश्न सीधा होगा: प्रेरक डिज़ाइन कब लापरवाह डिज़ाइन की सीमा पार करता है? तकनीकी कंपनियों ने लंबे समय से तर्क दिया है कि उनके उत्पाद केवल उपयोगकर्ता की पसंद पर प्रतिक्रिया देते हैं। आलोचक increasingly तर्क देते हैं कि ये उत्पाद उन पसंदों को प्रशिक्षित भी करते हैं, दिशा भी देते हैं, और उनका शोषण भी करते हैं। जूरी का इस दूसरे दृष्टिकोण के पक्ष में झुकना इस बात का सबसे महत्वपूर्ण संकेतों में से एक बन सकता है कि डिज़ाइन-प्रतिरक्षा का युग समाप्त हो रहा है।
चाहे यह फैसला एक अलग-थलग क्षण बने या व्यापक कानूनी प्रवृत्ति की शुरुआत, इसने मुद्दे को पहले ही और तीखा कर दिया है। आने वाले वर्षों में, सोशल प्लेटफ़ॉर्म का मूल्यांकन सिर्फ़ इस आधार पर नहीं होगा कि उपयोगकर्ता उन पर क्या पोस्ट करते हैं, बल्कि इस आधार पर भी होगा कि वे किन व्यवहारिक प्रणालियों को इनाम देने के लिए इंजीनियर किए गए थे।
यह लेख IEEE Spectrum की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.
