सामाजिक प्लॅटफॉर्मसाठी AI वय तपासणी ही आता अग्रभागी धोरणात्मक समस्या बनत आहे

वय-निश्चिती प्लॅटफॉर्म धोरणाच्या केंद्रस्थानी सरकत आहे

सोशल मीडिया कंपन्या त्यांच्या प्लॅटफॉर्मवर मुलांना ओळखण्यासाठी कृत्रिम बुद्धिमत्ता आणि फेस-स्कॅन प्रणालींचा वाढता वापर करत आहेत, ज्यातून ऑनलाइन सुरक्षा नियम प्रत्यक्षात कसे अंमलात आणले जाऊ शकतात यामध्ये मोठा बदल दिसतो. Fast Company नुसार, आपल्या प्लॅटफॉर्मनी तरुण वापरकर्त्यांचे लक्ष वेधून घेण्यासाठी आणि धरून ठेवण्यासाठी तयार केलेल्या उत्पादनांमुळे मुलांच्या मानसिक आरोग्याला हानी पोहोचली, या आरोपांवर राज्य अॅटर्नी जनरल्ससोबत $18 अब्जचा सेटलमेंट स्वीकारल्यानंतर Meta प्रकरणाला नवी तातडी मिळाली आहे.

हा सेटलमेंट केवळ खटला मिटवत नाही. तो वय-निश्चितीला व्यापक नियामक आणि उद्योग पुनर्रचनेच्या केंद्रस्थानी आणत असल्याचे दिसते. Fast Company ने सांगितले की Meta करारातील बाल-सुरक्षा वचनबद्धतांमध्ये वापरकर्ते मुले आहेत की नाही हे ठरवण्याशी संबंधित तरतुदी सर्वात तपशीलवार आहेत. हा भर एक मूलभूत धोरणात्मक वास्तव अधोरेखित करतो: अल्पवयीनांसाठी संरक्षणे तेव्हाच प्रभावी असतात जेव्हा प्लॅटफॉर्मला प्रथमच कोणते वापरकर्ते अल्पवयीन आहेत हे कळू शकते.

म्हणूनच वय ओळखणे हे केवळ Meta साठीच नाही, तर Google, TikTok, आणि Roblox सारख्या कंपन्यांसाठीही मूलभूत मुद्दा बनले आहे. अमेरिकेत आणि परदेशात राजकीय तसेच सार्वजनिक तपासणी वाढत असताना, युवा सुरक्षा याबाबतच्या व्यापक आश्वासनांपलीकडे जाऊन ती आश्वासने मोठ्या प्रमाणावर प्रत्यक्षात आणता येतात हे कंपन्यांना दाखवावे लागत आहे.

AI अंदाज पसरत आहे, पण तो पडताळणी नाही

स्रोत वय पडताळणी आणि वय अंदाज यामधील महत्त्वाचा फरक स्पष्ट करतो. पारंपरिक पडताळणी ड्रायव्हिंग लायसन्स किंवा पासपोर्टसारख्या कठोर ओळखपत्रांवर अवलंबून असते. हा दृष्टिकोन ऑनलाइन चालू शकतो, पण तो दुसरीच अडचण निर्माण करतो: अनेक वापरकर्ते आपली संवेदनशील सरकारी ओळखपत्रे मोठ्या तंत्रज्ञान कंपन्यांना द्यायला इच्छुक नसतात.

Fast Company ने सांगितले की Meta वय तपासण्यासाठी ID स्वीकारते आणि ती 30 दिवसांत हटवते. पण लेख स्पष्ट करतो की उद्योगाला असे पर्याय शोधावे लागत आहेत जे वापरकर्त्यांना कमी हस्तक्षेप करणारे वाटतील, तरीही नियामक आणि बाल-सुरक्षा समर्थकांना समाधानी ठेवतील.

या शोधामुळे AI प्रणाली पुढे आल्या आहेत. जन्मतारीख थेट पडताळण्याऐवजी, या प्रणाली वापरकर्ता प्रौढ आहे की अल्पवयीन, याचा अंदाज लावतात. स्रोत सांगतो की Google ने YouTube साठी watch histories च्या आधारे प्रौढ आणि अल्पवयीन यांच्यात फरक करणारी AI-आधारित वय-निश्चिती प्रणाली वापरली आहे, आणि Meta देखील अशाच पद्धतीचा वापर करते. व्यापक अर्थाने, AI आणि face scans भोवतीची मथळ्यांची मांडणी दाखवते की बायोमेट्रिक-शैलीचे अंदाज हे कंपन्या विचारात घ्यायला तयार असलेल्या साधनसंचाचा भाग बनत आहेत.

तरीही, मर्यादा अत्यंत महत्त्वाची आहे. AI वयाचा अंदाज लावू शकते, अनेकदा उपयुक्त अचूकतेसह, पण ती स्वतंत्रपणे जन्मतारीख पडताळू शकत नाही. ही दरी महत्त्वाची आहे कारण नियामक शेवटी अधिक मजबूत संरक्षणांसोबतच, ती संरक्षणे योग्य खात्यांवर लागू होत आहेत याचा अधिक मजबूत पुरावा मागू शकतात.

Meta सेटलमेंट उद्योगाचा आराखडा बनू शकते

ही गोष्ट Meta पलीकडेही महत्त्वाची असण्याचे एक कारण म्हणजे हा सेटलमेंट आराखडा म्हणून काम करू शकतो. Fast Company ने म्हटले की कंपनीला तिचा दृष्टिकोन सुधारण्यासाठी एक वर्ष आहे आणि ही संरक्षणे उद्योग मानके बनू शकतात. असे झाल्यास, वय-निश्चितीबाबतची सध्याची चाचपणी मोठ्या प्लॅटफॉर्मसाठी प्रत्यक्ष पालनाचा नमुना बनू शकते.

या शक्यतेला सेटलमेंटची व्याप्ती अधोरेखित करते. या करारात 48 राज्ये, District of Columbia, आणि U.S. territories यांचा समावेश होता, त्यामुळे हा काही मोजक्या नियामकांसोबतचा मर्यादित वाद नसून व्यापक कृती होती. इतक्या मोठ्या प्रमाणावरील सेटलमेंटमुळे संपूर्ण क्षेत्रातील अपेक्षा आकार घेऊ शकतात, विशेषतः जेव्हा तो बालसुरक्षेसारख्या राजकीयदृष्ट्या संवेदनशील मुद्द्याला हाताळतो.

धोरणाच्या दृष्टीने याचा अर्थ सरळ आहे: कंपन्यांचे मूल्यमापन लवकरच ते किशोरांसाठी सुरक्षा वैशिष्ट्ये देतात का यावरच नव्हे, तर कोणत्या वापरकर्त्यांना ती संरक्षणे मिळायला हवीत हे त्या विश्वासार्हपणे ओळखू शकतात का यावरही होऊ शकते. त्यामुळे संवाद ऐच्छिक उत्पादन डिझाइनवरून मोजता येणाऱ्या पालन पायाभूत सुविधांकडे वळतो.

पुढचा संघर्षभूमी गोपनीयता बनत आहे

अधिक मजबूत वय-निश्चितीकडे ढकलणे स्वतःचे धोके घेऊन येते. Fast Company ने नमूद केले की पडताळणी तंत्रज्ञान सुधारण्यात कठोर आव्हाने आहेत, ज्यात केवळ मुलांसाठीच नव्हे तर आपण 18 वर्षांपेक्षा मोठे आहोत हे सिद्ध करावे लागू शकणाऱ्या प्रौढांसाठीही गोपनीयतेची चिंता समाविष्ट आहे. ही ताणतणावाची स्थितीच वादाच्या पुढील टप्प्याला आकार देईल.

एका बाजूला धोरणकर्ते आणि समर्थक आहेत, जे म्हणतात की प्लॅटफॉर्मनी खूप उशीर केला आहे आणि मुलांना प्रौढांसाठीच्या जागांमध्ये जाण्यापासून किंवा engagement साठी अनुकूलित केलेल्या प्रणालींना सामोरे जाण्यापासून रोखण्यासाठी अधिक काही करायला हवे. दुसऱ्या बाजूला अशी चिंता आहे की मोठ्या प्रमाणावरील वय तपासणी सामान्य डिजिटल सेवांमध्ये प्रवेशासाठी ओळखपत्रे किंवा बायोमेट्रिक संकेतांसह अधिक संवेदनशील वैयक्तिक डेटा संकलनाला सामान्य बनवू शकते.

म्हणूनच face scans आणि AI अंदाज इतके वादग्रस्त आहेत. ते दस्तऐवज अपलोडच्या तुलनेत सोय देतात, पण मूळ चिंता दूर करत नाहीत. उलट, त्या चुका, पक्षपात, जतन पद्धती, आणि अल्पवयीनांपासून प्रौढांना वेगळे करण्यासाठी प्रौढांची किती तपासणी करावी याच्या प्रश्नांकडे वाद वळवतात.

हा मुद्दा सोशल मीडियाच्या पलीकडे का पसरेल

लेख सूचित करतो की दबाव एका कंपनीपुरता किंवा एका उत्पादन वर्गापुरता मर्यादित नाही. तो अनेक मोठ्या प्लॅटफॉर्मनी आपले प्रयत्न वाढवत असल्याचे नमूद करतो, ज्यामुळे वय-निश्चिती ही आंतरउद्योग समस्या बनत आहे. असे झाल्यावर व्यापारी तर्क बदलतो. वय अंदाजाची साधने विशेष सुरक्षा-अ‍ॅड-ऑन राहात नाहीत; ती प्लॅटफॉर्म ऑपरेशन्सचा मुख्य थर बनू लागतात.

या संक्रमणाचे व्यापक परिणाम होऊ शकतात. उत्पादन डिझाइन निर्णय, onboarding flows, trust-and-safety staffing, आणि अगदी कायदेशीर जोखीम व्यवस्थापनही कंपनी वापरकर्त्यांचे वयानुसार पुरेशा खात्रीने वर्गीकरण करू शकते का यावर अधिकाधिक अवलंबून राहू शकतात, ज्यामुळे नियामक आणि जनतेला समाधान मिळेल. Meta सेटलमेंट जर संदर्भबिंदू बनला, तर प्लॅटफॉर्म अलीकडेच प्रयोगात्मक असलेली प्रणाली प्रमाणित करू शकतात.

मोठा बदल संकल्पनात्मक आहे. अनेक वर्षे टेक कंपन्या वयाला वापरकर्ता प्रोफाइलमधील self-reported field म्हणून पाहत होत्या. AI-आधारित वय तपासण्यांकडे सध्याचे वळण कायदेशीर आणि राजकीय दबावाखाली त्या कमी-घर्षण मॉडेलचा झालेला ऱ्हास दर्शवते. आपले वापरकर्ते कोण आहेत याबद्दल प्लॅटफॉर्मना अधिक सक्रिय निर्णय घेण्यास भाग पाडले जात आहे.

यामुळे मूळ वाद मिटत नाही. ते फक्त त्याला अधिक तांत्रिक आणि अधिक परिणामकारक क्षेत्रात हलवते. ऑनलाइन बालसुरक्षेचा पुढचा अध्याय नवीन moderation घोषणांपेक्षा, मशीनना एखादा वापरकर्ता मूल आहे का हे ठरवायला सांगितल्यावर प्लॅटफॉर्म enforcement, usability, आणि privacy यांचा समतोल कसा साधतात यावर अधिक अवलंबून असेल.

हा लेख Fast Company च्या वार्तांकनावर आधारित आहे. मूळ लेख वाचा.