बाईपास के बाद Meta ने AI आयु जाँचों का विस्तार किया

Meta अपने प्लेटफ़ॉर्म पर स्वचालित आयु प्रवर्तन का विस्तार कर रहा है

Meta, Instagram और Facebook पर आयु-सत्यापन और आयु-अनुमान प्रणालियों को मजबूत कर रहा है, क्योंकि बार-बार ऐसे मामले सामने आए हैं जिनमें बच्चों ने साधारण तरकीबों, जैसे नकली मूंछ के उपयोग, से मौजूदा जाँचों को दरकिनार कर दिया। प्रदान किए गए स्रोत पाठ के अनुसार, कंपनी AI टूल तैनात कर रही है जो पोस्ट, टिप्पणियों, जीवनी, विवरण, छवियों और वीडियो में आयु-संबंधी संकेतों को देखकर 13 वर्ष से कम उम्र के उपयोगकर्ताओं की पहचान करेंगे और उनके खाते हटाएँगे।

यह बदलाव एक व्यापक उद्योग समस्या को दर्शाता है: स्वयं-रिपोर्ट की गई आयु को हेरफेर करना आसान है, जबकि ऑनलाइन प्लेटफ़ॉर्म इस दबाव में हैं कि वे साबित करें कि नाबालिगों के लिए उनके सुरक्षा उपाय केवल कागज़ पर नहीं, बल्कि वास्तविक रूप में भी काम करते हैं। Meta का जवाब संकेतों के एक व्यापक सेट का उपयोग करना है, जिसमें पाठ्य संकेतों के साथ-साथ ऊँचाई और हड्डी-संरचना जैसे दृश्य संकेत शामिल हैं, जैसा कि वह कहता है।

सिस्टम कैसे काम करता है

Meta का कहना है कि नए टूल ऐसे संदर्भगत संकेतों का विश्लेषण करते हैं जो उपयोगकर्ता की आयु उजागर कर सकते हैं। इनमें पाठ में स्कूल-वर्ष या जन्मदिन समारोह के संदर्भ, तथा साझा की गई छवियों का स्वचालित विश्लेषण शामिल है। कंपनी सावधानी से कहती है कि यह प्रणाली चेहरे की पहचान नहीं है और किसी विशिष्ट व्यक्ति की पहचान करने के लिए नहीं बनाई गई है। इसके बजाय, इसका उद्देश्य यह अनुमान लगाना है कि क्या कोई खाता ऐसे व्यक्ति द्वारा उपयोग किया जा रहा है जो प्लेटफ़ॉर्म नियमों के अनुसार बहुत छोटा है।

यदि Meta को संदेह होता है कि कोई खाता 13 वर्ष से कम उम्र के बच्चे द्वारा चलाया जा रहा है, तो खाते को निलंबित कर दिया जाएगा। फिर उपयोगकर्ता को पहुँच पुनः प्राप्त करने के लिए कंपनी की प्रक्रियाओं के माध्यम से अपनी आयु फिर से सत्यापित करनी होगी। यदि ऐसा नहीं होता, तो प्रोफ़ाइल स्थायी रूप से हटा दी जाएगी।

Meta ने दिशा क्यों बदली

बताया गया कारण सीधा है: पारंपरिक आयु-गेट बहुत आसानी से पार किए जा सकते हैं। जब कोई प्रणाली मुख्यतः इस पर निर्भर करती है कि उपयोगकर्ता फ़ॉर्म में क्या टाइप करता है, तो वह उतनी ही अच्छी होती है जितनी उस व्यक्ति की ईमानदारी जो उसे भर रहा है। वयस्क-उन्मुख या किशोर-उन्मुख सामाजिक स्थानों में शामिल होने के लिए प्रेरित बच्चों के लिए यह बाधा बहुत छोटी हो सकती है। स्रोत पाठ के अनुसार, सैकड़ों बच्चों ने प्रतिबंधों को दरकिनार करने में सफलता पाई है, जो मौजूदा तरीकों की व्यावहारिक कमज़ोरी को रेखांकित करता है।

Meta का नया दृष्टिकोण उस AI-आधारित सुरक्षा रणनीति का हिस्सा है, जिसका लेख में वर्णन किया गया है। एक घोषित जन्मतिथि पर भरोसा करने के बजाय, कंपनी व्यवहार, सामग्री और भौतिक प्रस्तुति से आयु का अनुमान लगाने की कोशिश कर रही है। इससे पहचान दर बेहतर हो सकती है, लेकिन इससे त्रुटि, गोपनीयता और अपील प्रक्रियाओं के बारे में अधिक जटिल सवाल भी उठते हैं।

किशोर खाते भी योजना का हिस्सा हैं

यह नीति केवल 13 वर्ष से कम उम्र के बच्चों तक सीमित नहीं है। Meta यह भी कहता है कि वह 13 से 15 वर्ष के उपयोगकर्ताओं की पहचान करने वाली तकनीक का विस्तार करेगा और उन्हें स्वतः teen accounts में रखेगा। इन खातों में सामग्री प्रतिबंध और डिफ़ॉल्ट रूप से सक्षम अभिभावकीय नियंत्रण होंगे, जिन्हें कंपनी छोटे किशोरों के लिए एक सुरक्षित आधार रेखा के रूप में प्रस्तुत करती है।

यह एक महत्वपूर्ण अंतर है। कंपनी केवल निषिद्ध नाबालिग उपयोगकर्ताओं को हटाने की कोशिश नहीं कर रही। वह आयु-योग्य किशोरों को अधिक प्रतिबंधित उत्पाद वातावरण में छाँटने की भी कोशिश कर रही है। व्यवहार में, Meta स्वचालित आयु-अनुमान का उपयोग बहिष्करण और उत्पाद-स्तर आवंटन, दोनों के लिए कर रहा है।

आगे के समझौते

स्पष्ट लाभ उन प्लेटफ़ॉर्म नियमों के लिए मजबूत प्रवर्तन है जो पहले से मौजूद हैं। यदि प्रणाली अच्छी तरह काम करती है, तो 13 वर्ष से कम उम्र के कम बच्चे ऐसे सेवाओं पर बने रहेंगे जिन्हें उन्हें होस्ट नहीं करना चाहिए, और अधिक छोटे किशोर सख्त डिफ़ॉल्ट सुरक्षा के साथ समाप्त होंगे।

लेकिन मजबूत स्वचालित प्रवर्तन की लागत गलत-सकारात्मक की संभावना है। पाठ और छवियों से आयु का अनुमान लगाने वाली किसी भी प्रणाली से गलती हो सकती है, खासकर अस्पष्ट सामग्री या उन लोगों के मामले में जिनकी उपस्थिति मॉडल की अपेक्षाओं से मेल नहीं खाती। निलंबित उपयोगकर्ताओं से आयु पुनः सत्यापित करने की Meta की आवश्यकता एक backstop देती है, लेकिन इससे वैध उपयोगकर्ताओं पर बोझ भी पड़ता है, जिन्हें अचानक अपनी पहचान साबित करनी पड़ सकती है।

उद्योग के लिए एक व्यापक संकेत

स्रोत पाठ के अनुसार, Meta ने 2024 में संयुक्त राज्य, ऑस्ट्रेलिया, कनाडा और यूनाइटेड किंगडम में Instagram उपयोगकर्ताओं के लिए आयु-सत्यापन तकनीक का उपयोग शुरू किया। नवीनतम विस्तार दिखाता है कि कंपनी साइनअप या मांग पर सत्यापन से आगे बढ़कर समय के साथ आयु का अनुमान लगाने के लिए account signals की सतत निगरानी की ओर जा रही है।

यह एक महत्वपूर्ण परिचालन परिवर्तन है। यह बताता है कि प्रमुख प्लेटफ़ॉर्म content moderation ही नहीं, बल्कि उसे उत्पन्न करने वाले लोगों के वर्गीकरण के लिए भी AI का उपयोग करने को अधिक तैयार हैं। यदि Meta की प्रणाली प्रभावी साबित होती है, तो ऐसे तरीके पूरे social media उद्योग में फैल सकते हैं। यदि यह त्रुटिपूर्ण साबित होती है, तो यह identity, minors, और biometric-adjacent inference को लेकर प्लेटफ़ॉर्म के व्यवहार पर नियामकीय scrutiny को तेज कर सकती है।

किसी भी तरह, संदेश स्पष्ट है: self-report पर आधारित age gates अब उन प्लेटफ़ॉर्मों के लिए पर्याप्त नहीं हैं जो बच्चों को बाहर रखने या उन्हें अधिक सीमित अनुभवों में रखने के लिए कानूनी, राजनीतिक और सार्वजनिक दबाव का सामना कर रहे हैं।

यह लेख Wired की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें.