Meta आपल्या प्लॅटफॉर्मवरील स्वयंचलित वय-नियमन वाढवत आहे
खोट्या मिशांसारख्या सोप्या युक्त्या वापरून मुलांनी आधीच्या तपासण्या चुकवल्याच्या वारंवार घटना झाल्यानंतर, Instagram आणि Facebook वरील वय-तपासणी आणि वय-अंदाज प्रणाली मजबूत करत आहे Meta. दिलेल्या स्रोत मजकुरानुसार, कंपनी पोस्ट, टिप्पण्या, बायो, वर्णने, प्रतिमा, आणि व्हिडिओंमध्ये वयाशी संबंधित संकेत पाहणारी AI साधने तैनात करत आहे, जेणेकरून 13 वर्षांखालील वापरकर्त्यांची ओळख पटवून त्यांची खाती हटवता येतील.
हा बदल एक व्यापक उद्योग-समस्या दाखवतो: स्व-जाहीर केलेले वय सहज बदलता येते, तर ऑनलाइन प्लॅटफॉर्मना हे सिद्ध करण्याचा दबाव वाढतो की अल्पवयीनांसाठीची सुरक्षा व्यवस्था कागदावरच नव्हे, तर प्रत्यक्षातही काम करते. Meta चे उत्तर म्हणजे अधिक विस्तृत संकेतांचा वापर, ज्यात लिखित सूचनांसोबत उंची आणि हाडांची रचना यांसारखे दृश्य संकेतही आहेत, असे कंपनी म्हणते.
ही प्रणाली कशी काम करते
नवीन साधने वापरकर्त्याचे वय उघड करू शकतील अशा संदर्भ-संकेतांचे विश्लेषण करतात, असे Meta चे म्हणणे आहे. यात शालेय वर्षांचे किंवा वाढदिवसाच्या सेलिब्रेशनचे उल्लेख असलेला मजकूर तसेच शेअर केलेल्या प्रतिमांचे स्वयंचलित विश्लेषण यांचा समावेश आहे. ही चेहरा-ओळख (face recognition) प्रणाली नाही आणि विशिष्ट व्यक्तीची ओळख पटवण्यासाठी बनवलेली नाही, असे कंपनी स्पष्टपणे सांगते. त्याऐवजी, एखादे खाते प्लॅटफॉर्मच्या नियमांनुसार परवानगी असलेल्या वयापेक्षा कमी वयाच्या व्यक्तीने वापरले जात आहे का, याचा अंदाज लावणे हे उद्दिष्ट आहे.
जर Meta ला संशय आला की एखादे खाते 13 वर्षांखालील मुलाकडून चालवले जात आहे, तर ते खाते निलंबित केले जाईल. त्यानंतर वापरकर्त्याने कंपनीच्या प्रक्रियेद्वारे आपले वय पुन्हा सत्यापित करून प्रवेश परत मिळवावा लागेल. तसे झाले नाही, तर प्रोफाइल कायमचे हटवले जाईल.
Meta ने दिशा का बदलली
याचे कारण सरळ आहे: पारंपरिक वय-गेट्स खूप सहज चुकवता येतात. एखादी प्रणाली मुख्यतः वापरकर्ता फॉर्ममध्ये काय लिहितो यावर अवलंबून असेल, तर ती फॉर्म भरणाऱ्या व्यक्तीच्या प्रामाणिकपणाइतकीच चांगली असते. प्रौढ-उन्मुख किंवा किशोर-उन्मुख सामाजिक जागांमध्ये सहभागी होण्यासाठी उत्सुक मुलांसाठी ही अडथळा अगदीच किरकोळ असू शकते. स्रोत मजकुरात म्हटले आहे की शेकडो मुलांनी निर्बंध चुकवले आहेत, ज्यामुळे विद्यमान पद्धतींची व्यावहारिक कमजोरी अधोरेखित होते.
Meta ची नवीन पद्धत AI-आधारित सुरक्षा धोरणाचा भाग आहे, असे लेखात म्हटले आहे. एक जाहीर जन्मतारीख न मानता, कंपनी वर्तन, सामग्री, आणि शारीरिक सादरीकरण यावरून वयाचा अंदाज बांधण्याचा प्रयत्न करत आहे. यामुळे शोध दर सुधारू शकतो, पण त्रुटी, गोपनीयता, आणि अपील प्रक्रियांबाबत अधिक गुंतागुंतीचे प्रश्नही निर्माण होतात.
किशोर खातीही योजनेचा भाग आहेत
हे धोरण फक्त 13 वर्षांखालील मुलांपुरते मर्यादित नाही. 13 ते 15 वर्षांच्या वापरकर्त्यांची ओळख पटवून त्यांना आपोआप teen accounts मध्ये ठेवणारी तंत्रज्ञान व्यवस्था देखील वाढवणार असल्याचे Meta म्हणते. या खात्यांमध्ये content restrictions आणि default वर चालू असलेले parental controls असतील, जे कंपनी लहान किशोरांसाठी अधिक सुरक्षित पाया म्हणून सादर करते.
हा एक महत्त्वाचा फरक आहे. कंपनी फक्त बंदी असलेले अल्पवयीन वापरकर्ते हटवण्याचा प्रयत्न करत नाही. ती वय-योग्य किशोरांना अधिक मर्यादित उत्पादन-पर्यावरणात विभागण्याचाही प्रयत्न करत आहे. प्रत्यक्षात, Meta स्वयंचलित वय-अंदाजाचा वापर वगळणे आणि उत्पादन-स्तर वाटप, दोन्हीसाठी करत आहे.
पुढील तडजोडी
स्पष्ट फायदा म्हणजे आधीपासून अस्तित्वात असलेल्या प्लॅटफॉर्म नियमांची अधिक मजबूत अंमलबजावणी. प्रणाली नीट चालली, तर 13 वर्षांखालील कमी मुले अशा सेवांवर राहतील ज्यांनी त्यांना होस्ट करू नये, आणि अधिक लहान किशोरांना कडक default संरक्षणे मिळतील.
पण मजबूत स्वयंचलित अंमलबजावणीची किंमत म्हणजे false positives चा धोका. मजकूर आणि प्रतिमांवरून वयाचा अंदाज लावणारी कोणतीही प्रणाली चुका करू शकते, विशेषतः संदिग्ध सामग्री किंवा मॉडेलच्या अपेक्षांशी न जुळणारे रूप असलेल्या लोकांच्या बाबतीत. निलंबित वापरकर्त्यांना वय पुन्हा सत्यापित करण्याची Meta ची अट एक backstop देते, पण त्यामुळे वैध वापरकर्त्यांवरही अतिरिक्त भार पडतो.
उद्योगासाठी मोठा संकेत
स्रोत मजकुरानुसार, 2024 मध्ये Meta ने अमेरिका, ऑस्ट्रेलिया, कॅनडा, आणि युनायटेड किंगडममध्ये Instagram वापरकर्त्यांसाठी वय-तपासणी तंत्रज्ञान वापरण्यास सुरुवात केली. ताज्या विस्तारातून दिसते की कंपनी signup किंवा on-demand verification वरून पुढे जाऊन account signals चे सतत निरीक्षण करून कालांतराने वयाचा अंदाज लावण्याकडे वळत आहे.
हा एक मोठा operational बदल आहे. याचा अर्थ प्रमुख प्लॅटफॉर्म content moderation बरोबरच ते तयार करणाऱ्या लोकांचे वर्गीकरण करण्यासाठीही AI वापरण्यास अधिक तयार आहेत. Meta चे प्रणाली प्रभावी ठरली, तर अशा पद्धती social media उद्योगभर पसरू शकतात. आणि ती चुका करणारी ठरली, तर identity, minors, आणि biometric-adjacent inference यांच्याशी प्लॅटफॉर्म कसे वागतात यावर नियामक scrutiny तीव्र होऊ शकते.
कोणत्याही परिस्थितीत, संदेश स्पष्ट आहे: self-report वर आधारित age gates आता अशा प्लॅटफॉर्मसाठी पुरेसे नाहीत जे मुलांना बाहेर ठेवण्यासाठी किंवा त्यांना अधिक मर्यादित अनुभवांत ठेवण्यासाठी कायदेशीर, राजकीय, आणि जनदबावाला सामोरे जात आहेत.
हा लेख Wired च्या रिपोर्टिंगवर आधारित आहे. मूळ लेख वाचा.
