सोशल मीडिया व्यसनाच्या निकालामुळे केवळ कंटेंट मॉडरेशन नव्हे, तर प्लॅटफॉर्म डिझाइनही चौकशीच्या कचाट्यात आले आहे

एक महत्त्वाचा निकाल लक्ष भाषणापासून उत्पादन डिझाइनकडे वळवतो

मेटा आणि यूट्यूबविरुद्धचा ज्यूरी निकाल सोशल प्लॅटफॉर्म्स कसे तयार केले जातात यावरची छाननी अधिक खोल करू शकतो, केवळ ते कंटेंट कसे नियंत्रित करतात यावर नाही. IEEE Spectrum च्या अहवालानुसार, ज्याला तो एक मैलाचा दगड ठरलेला खटला असे वर्णन करतो, ज्यूरीने ठरवले की कंपन्यांनी आपल्या प्लॅटफॉर्मचे निष्काळजीपणे डिझाइन केले आणि Kaley G.M. म्हणून ओळखल्या गेलेल्या 20 वर्षीय महिलेला हानी पोहोचवली.

या प्रकरणाचे कायदेशीर महत्त्व त्याच्या मांडणीत आहे. अनेक वर्षे सोशल मीडियावरची सार्वजनिक लढाई मॉडरेशन, चुकीची माहिती आणि भाषणनियमांभोवती फिरत होती. हा खटला मात्र थेट डिझाइनकडे बोट दाखवतो. IEEE Spectrum नुसार, व्यसनाला बग नव्हे तर फीचर म्हणून वागवले गेले, या फिर्यादीच्या युक्तिवादाशी ज्यूरी सहमत झाली. हा दावा जर एका निकालापलीकडेही प्रभाव टाकू लागला, तर न्यायालये, विधिमंडळे आणि बोर्डरूममध्ये उत्पादननिर्णयांचे मूल्यमापन करण्याची पद्धत बदलू शकते.

तत्काळ पक्षांपलीकडेही हा खटला का महत्त्वाचा आहे

हा निकाल आपोआप प्लॅटफॉर्म कायदा बदलत नाही, आणि येथे दिलेला स्रोत हा पूर्ण न्यायालयीन नोंद नसून एक मतलेख आहे. तरीही या टप्प्यावर परिणाम लक्षणीय आहे, कारण ज्यूरीने engagement-केंद्रित डिझाइनकडे निष्काळजीपणाच्या दृष्टिकोनातून पाहण्याची तयारी दाखवली आहे. ज्यामध्ये recommendation loops, endless feeds, notifications आणि इतर retention tools व्यवसाय मॉडेलमध्ये खोलवर रुजलेले आहेत, अशा उद्योगात हे विशेष महत्त्वाचे ठरते.

जर फिर्यादी न्यायालयांना हे पटवू शकले की काही platform mechanics पूर्वानुमेयपणे हानिकारक होते आणि ज्ञात जोखमी असूनही वापरले गेले, तर टेक कंपन्यांवरील जोखीम प्रतिमेला धक्का किंवा नियामक दंड इतक्यावर मर्यादित राहणार नाही. ते पारंपरिक product-liability प्रकारच्या युक्तिवादाकडे जाऊ शकते: प्रणाली अशी बांधली गेली की तिने वापरकर्त्यांना अपेक्षित पद्धतीने इजा केली.

तो एक अर्थपूर्ण बदल असेल. याचा अर्थ असा की कायदेशीरदृष्ट्या सर्वात संवेदनशील प्रश्न आता केवळ वापरकर्त्यांना काय कंटेंट दिसतो इतक्यावर मर्यादित राहणार नाहीत, तर उत्पादनाची रचना त्यांना पाहत राहायला, स्क्रोल करत राहायला आणि परत येत राहायला कशी प्रवृत्त करते यावरही असतील. प्रत्यक्षात, यामुळे कंपन्यांनी अनेक वर्षे सामान्य growth strategy म्हणून बचाव केलेल्या डिझाइन निर्णयांना अधिक थेट आव्हाने मिळू शकतात.

व्यसन आता डिझाइन गव्हर्नन्सचा मुद्दा बनत आहे

IEEE Spectrum ने अधोरेखित केलेला “कंपन्यांनी व्यसनाला फीचर मानले, बग नाही” हा वाक्प्रचार उदयोन्मुख धोरणात्मक समस्येला अचूक पकडतो. ग्राहक तंत्रज्ञानात उच्च engagement पारंपरिकपणे उत्पादन यशाचा पुरावा म्हणून वाचला जातो. पण जर उच्च engagement अशा तंत्रांद्वारे मिळवला जात असेल जे compulsive use वाढवतात, विशेषतः असुरक्षित वापरकर्त्यांमध्ये, तर गुंतवणूकदारांना प्रिय असलेली तीच मोजमापे कायदेशीर पुराव्यासारखी दिसू लागतील.

ही शक्यता विशेषतः महत्त्वाची आहे, कारण engagement systems क्वचितच अपघाताने तयार होतात. Feeds विशिष्ट पद्धतीने refresh होतात. Notifications चे timing आणि tuning केले जाते. Recommendation engines retention साठी optimize करतात. Interface निर्णय वापरकर्त्यांनी जाणीवपूर्वक तसे ठरवले नसतानाही पुनरावृत्ती वापराला प्रोत्साहन देऊ शकतात. यापैकी कोणतीही गोष्ट स्वतंत्रपणे निष्काळजीपणा सिद्ध करत नाही, पण त्यामुळे platform design हे तटस्थ पायाभूत संरचना नसून जाणीवपूर्वक केलेल्या engineering choicesचे क्षेत्र आहे, हे अधिक स्पष्ट होते.

त्यामुळे आता कंपन्यांकडून केवळ प्लॅटफॉर्म लोकप्रिय आहे की नाही हेच नव्हे, तर ती लोकप्रियता कशी निर्माण झाली आणि त्या प्रक्रियेत कोणते अंतर्गत तडजोडी स्वीकारल्या गेल्या हेही स्पष्ट करण्याची अपेक्षा वाढत आहे. अशा वातावरणात “growth” आणि “harm reduction” यांना पूर्णपणे वेगळ्या चर्चा म्हणून पाहता येणार नाही.

पुन्हा डिझाइन करण्याचा दबाव वाढू शकतो

IEEE Spectrum असे म्हणते की या खटल्यातून प्लॅटफॉर्म redesigns करणे आवश्यक आहे, आणि दिलेल्या मजकुराच्या पलीकडे न जाता देखील तो निष्कर्ष समजण्यास सोपा आहे. अशा निकालामुळे कंपन्यांवर compulsive loops सारख्या स्पष्ट दिसणाऱ्या mechanicsचा आढावा घेण्याचा दबाव येतो. याचा अर्थ personalization किंवा recommendation systems पूर्णपणे सोडून द्यायचे असा नाही, पण काही फीचर्स ज्यूरीसमोर त्यांचे नुकसान मानवी भाषेत मांडले गेले तरी समर्थनीय ठरतात का, याचा पुन्हा विचार करावा लागू शकतो.

कंपन्यांसमोरील आव्हान असे की, ज्या फीचर्सवर टीका होऊ शकते त्या अनेकदा advertising performance, time spent आणि user return rates साठीही केंद्रस्थानी असतात. अशा loops कमजोर करणाऱ्या redesigns मुळे थेट व्यवसायिक खर्च येऊ शकतो. पण compulsive engagement ला design defect मानणारे कायदेशीर वातावरणही खर्चाचेच असते, आणि अधिक फिर्यादी पुढे आल्यास ते दुर्लक्षित करणे कठीण जाऊ शकते.

याचा व्यापक राजकीय अर्थही आहे. नियामक आणि कायदेकर्ते अनेकदा मंद गतीने हालचाल करतात, विशेषतः वेगाने बदलणाऱ्या तंत्रज्ञान क्षेत्रात. न्यायालयीन खटले तथ्ये, डिझाइन निवडी आणि अंतर्गत प्राधान्ये सार्वजनिक तपासणीखाली आणून चर्चा वेगवान करू शकतात. एकच निकालही भविष्यातील धोरणभाषेला आकार देऊ शकतो, कारण तो एकेकाळी अमूर्त असलेली टीका ठोस आणि कृतीयोग्य बनवतो.

टेक जबाबदारीतील पुढील चर्चा

सामाजिक मीडिया कंपन्यांनी आधीच कंटेंट, गोपनीयता, तरुणांचे मानसिक आरोग्य आणि स्पर्धात्मक वर्तन यावरील टीकेपासून वर्षानुवर्षे स्वतःचा बचाव केला आहे. हा खटला सूचित करतो की जबाबदारीची पुढची मोठी लढाई अधिक स्पष्टपणे उत्पादन यंत्रणांवरच केंद्रित होऊ शकते.

जर तसे झाले, तर सर्वात महत्त्वाचा प्रश्न सरळ असेल: persuasive design कधी निष्काळजी डिझाइनची सीमा ओलांडते? टेक कंपन्यांनी नेहमीच असा युक्तिवाद केला आहे की त्यांची उत्पादने फक्त वापरकर्त्यांच्या पसंतीला प्रतिसाद देतात. टीकाकार आता अधिकाधिक म्हणतात की ही उत्पादने त्या पसंतींना घडवतात, दिशा देतात आणि शोषणही करतात. ज्यूरीने त्या दुसऱ्या दृष्टीकोनाच्या बाजूने उभे राहण्याची तयारी दाखवली, तर design immunity चा काळ संपत असल्याचा हा आतापर्यंतचा सर्वात महत्त्वाचा संकेत ठरू शकतो.

हा निकाल एकटाच घडलेला क्षण ठरो किंवा व्यापक कायदेशीर प्रवृत्तीची सुरुवात ठरो, त्याने मुद्दा आधीच अधिक धारदार केला आहे. पुढील वर्षांत, सोशल प्लॅटफॉर्मचे मूल्यमापन केवळ वापरकर्ते त्यावर काय पोस्ट करतात यावरच नव्हे, तर कोणत्या behavioral systems ला reward देण्यासाठी त्यांची अभियांत्रिकी केली गेली आहे यावरही होऊ शकते.

हा लेख IEEE Spectrum च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.