मेटा ने आंतरिक चेतावनियों के बावजूद एआई मॉडरेशन को बढ़ावा दिया

मेटा ने आंतरिक चिंताओं के बीच एआई मॉडरेशन में तेजी लाई

मेटा सामग्री मॉडरेशन के एक बड़े हिस्से को बड़े भाषा मॉडल को सौंपने की दिशा में तेजी से आगे बढ़ रहा है, और इसे एक गुणवत्ता सुधार के रूप में पेश कर रहा है जो वैश्विक स्तर पर अपने प्लेटफार्मों की निगरानी की अर्थव्यवस्था को भी नया आकार दे सकता है। रिपोर्ट किए गए विवरणों के अनुसार, कंपनी ने 2025 में पहले ही लगभग आधे मानव मॉडरेशन अनुरोधों को भाषा मॉडल में स्थानांतरित कर दिया था और 2026 के अंत तक सामग्री की कुछ श्रेणियों के लिए इस आंकड़े को 90 प्रतिशत से ऊपर ले जाने का लक्ष्य रखा है।

यह दुनिया की सबसे बड़ी सोशल मीडिया कंपनियों में से एक के लिए एक महत्वपूर्ण परिचालन परिवर्तन है। मॉडरेशन सिस्टम इस बात के केंद्र में हैं कि प्लेटफॉर्म भाषण को कैसे नियंत्रित करते हैं, हानिकारक सामग्री को हटाते हैं, और तय करते हैं कि क्या दिखाई देता है या चुपचाप डिप्रायरिटाइज़ किया जाता है। मानव-भारी समीक्षा से मॉडल-नेतृत्व वाले निर्णय लेने की ओर बढ़ना केवल स्टाफिंग नहीं बदलता है। यह प्रवर्तन के पीछे के तर्क, गति और जवाबदेही संरचना को ही बदल देता है।

मेटा का कहना है कि संक्रमण का मामला केवल दक्षता नहीं है। कंपनी मार्च के बाद से परीक्षण की ओर इशारा करती है जो दर्शाता है कि उसके भाषा मॉडल मनुष्यों की तुलना में 13 प्रतिशत कम त्रुटियां करते हैं, जबकि 10 प्रतिशत अधिक वास्तविक नीति उल्लंघनों की पहचान करते हैं। यदि ये आंकड़े उत्पादन प्रणालियों में बने रहते हैं, तो मेटा यह तर्क दे सकता है कि एआई मॉडरेशन एक समझौता नहीं बल्कि एक उन्नयन है, विशेष रूप से सूक्ष्म भाषा, बहुभाषी सामग्री, या संदर्भ से जुड़े निर्णयों के लिए जो पुराने क्लासिफायर अक्सर चूक जाते हैं।

कंपनी की स्थिति एक व्यापक उद्योग बदलाव को भी दर्शाती है। पारंपरिक मॉडरेशन सिस्टम अक्सर संकीर्ण मशीन-लर्निंग क्लासिफायर के आसपास बनाए गए थे जो स्पैम या ज्ञात छवि पैटर्न जैसी दोहराई जाने वाली श्रेणियों पर उचित रूप से प्रदर्शन करते थे, लेकिन व्यंग्य, अस्पष्टता, कठबोली और तेजी से बदलते सांस्कृतिक संदर्भों से जूझते थे। बड़े भाषा मॉडल बेहतर प्रासंगिक तर्क का वादा करते हैं, और कई भाषाओं और क्षेत्रों में काम करने वाले प्लेटफॉर्म के लिए, यह वादा रणनीतिक रूप से महत्वपूर्ण है।

कर्मचारी तेज और जोखिम भरे संक्रमण का वर्णन करते हैं

रिपोर्टिंग में उद्धृत आंतरिक खाते एक कम स्थिर तस्वीर पेश करते हैं। एक कर्मचारी ने कहा कि मॉडल अभी भी हानिरहित सामग्री को हटाते या शैडो-बैन करते हैं, जबकि निगरानी तैनाती की गति के साथ नहीं रह पाई है। यह चिंता मायने रखती है क्योंकि मॉडरेशन त्रुटियां सभी समान नहीं होती हैं। कुछ गलतियां हानिकारक सामग्री को ऑनलाइन छोड़ देती हैं; अन्य वैध भाषण को दबाती हैं, रचनाकारों को निराश करती हैं, और उपयोगकर्ताओं के बीच विश्वास को कम करती हैं जो यह नहीं जानते कि उनकी पहुंच या दृश्यता क्यों बदल गई।

चिंता, तब, केवल यह नहीं है कि क्या कोई मॉडल बेंचमार्क-शैली परीक्षण पर औसत मानव समीक्षकों को हरा सकता है। यह है कि क्या कंपनी ने मॉडलों को डिफ़ॉल्ट प्रवर्तन परत में बदलने से पहले उनके आसपास पर्याप्त समीक्षा, एस्केलेशन और ऑडिटिंग तंत्र बनाए हैं। सामग्री मॉडरेशन किनारे के मामलों, राजनीतिक संदर्भ और नीति व्याख्या के प्रति अत्यधिक संवेदनशील है। अरबों पोस्ट और इंटरैक्शन पर लागू होने पर छोटी त्रुटि दरें बड़ी शासन समस्याएं बन सकती हैं।

रिपोर्ट किया गया रोलआउट पहले से ही श्रम को प्रभावित कर रहा है। संक्रमण से छंटनी हो रही है, विशेष रूप से बाहरी ठेकेदारों के बीच जिन्होंने लंबे समय से प्रमुख प्लेटफार्मों के लिए किए जाने वाले कठिन और मनोवैज्ञानिक रूप से कर लेने वाले मॉडरेशन कार्य का अधिकांश हिस्सा संभाला है। वर्षों से, तकनीकी उद्योग परेशान करने वाली या अस्पष्ट सामग्री की समीक्षा करने के लिए ठेकेदारों की सेनाओं पर निर्भर था जिसे स्वचालित सिस्टम विश्वसनीय रूप से वर्गीकृत नहीं कर सकते थे। यदि मेटा उस काम को और अधिक स्वचालित करने में सफल होता है, तो सामाजिक और श्रम परिणाम एक कंपनी की बैलेंस शीट से कहीं आगे तक फैलेंगे।

लागत का मुद्दा विवादित बना हुआ है। रिपोर्टिंग कहती है कि इस बदलाव से मेटा को सालाना अरबों डॉलर बचाने की उम्मीद है, जबकि मेटा इस बात का खंडन करता है कि लागत में कमी मुख्य प्रेरणा है और गुणवत्ता पर जोर देता है। ये दो स्पष्टीकरण परस्पर अनन्य नहीं हैं। मेटा के पैमाने पर, मानव समीक्षा की मात्रा में एक मामूली कमी भी बड़ी बचत पैदा कर सकती है, और कंपनी के पास यह तर्क देने का स्पष्ट प्रोत्साहन है कि एक सस्ती प्रणाली भी बेहतर है।

मेटा के मॉडरेशन स्टैक के अंदर एक रणनीतिक मॉडल स्वैप

एक और उल्लेखनीय विवरण मॉडरेशन कार्यक्रम के तहत होने वाला मॉडल संक्रमण है। मेटा कथित तौर पर मॉडरेशन और सहायता कार्यों के लिए Google के Gemini का उपयोग कर रहा था, लेकिन कर्मचारियों को अब म्यूज़ स्पार्क नामक मेटा फाउंडेशन मॉडल पर जाने के लिए कहा गया है। यह बदलाव बताता है कि मेटा एक ऐसी प्रणाली पर कड़ा नियंत्रण चाहता है जो एक सहायक उपकरण के बजाय मुख्य बुनियादी ढांचा बन रही है।

मॉडल स्टैक का मालिक होना कई कारणों से मायने रखता है। यह बाहरी प्रदाताओं पर निर्भरता कम कर सकता है, मेटा के नीति ढांचे में करीबी ट्यूनिंग की अनुमति दे सकता है, और संवेदनशील प्रवर्तन डेटा को कंपनी के अपने प्रशिक्षण और मूल्यांकन लूप के अंदर रख सकता है। मॉडरेशन सिस्टम पिछले निर्णयों, अपीलों और नीति व्याख्याओं पर बनाए गए हैं, इसलिए जो कंपनी डेटा और मॉडल दोनों का मालिक है, वह तीसरे पक्ष के एआई पर निर्भर रहने वाली कंपनी की तुलना में तेजी से पुनरावृति कर सकती है।

लेकिन यह एक शासन चुनौती को भी गहरा करता है। यदि मॉडलों को ऐतिहासिक मानव निर्णयों पर प्रशिक्षित किया जाता है, तो वे न केवल संस्थागत ज्ञान बल्कि विरासत पूर्वाग्रह, असंगति, या अति-प्रवर्तन पैटर्न भी प्राप्त कर सकते हैं। एआई के माध्यम से मॉडरेशन को स्केल करना इसलिए पहले के निर्णयों को सही करने के बजाय बढ़ा सकता है। मजबूत ऑडिटिंग के बिना, कंपनियां संचित नीति विचित्रताओं को स्वचालित डिफ़ॉल्ट व्यवहार में बदलने का जोखिम उठाती हैं।

दांव विशेष रूप से उच्च हैं क्योंकि मॉडरेशन से अब स्पष्ट रूप से निषिद्ध सामग्री को हटाने से अधिक करने की उम्मीद की जाती है। प्लेटफॉर्म अब कई अधिकार क्षेत्रों में गलत सूचना, हेरफेर किए गए मीडिया, उत्पीड़न, आत्म-हानि सामग्री और राजनीतिक रूप से आरोपित भाषण का प्रबंधन करते हैं। ये ऐसे क्षेत्र हैं जहां बारीकियां मायने रखती हैं और जहां अपारदर्शी एल्गोरिथम निर्णयों के लिए सार्वजनिक सहनशीलता कम है।

मॉडल प्रदर्शन में मेटा का रिपोर्ट किया गया विश्वास दर्शाता है कि जनरेटिव एआई प्रयोगात्मक सहायक से फ्रंटलाइन निर्णय-निर्माता तक कितनी दूर आ गया है। आंतरिक आपत्तियां उस संक्रमण के दूसरे पक्ष को दिखाती हैं: तैनाती का दबाव संस्थागत सावधानी से आगे निकल सकता है। यदि कंपनी 2026 के अंत तक कुछ सामग्री वर्गों के लिए मॉडल-नेतृत्व वाले मॉडरेशन को 90 प्रतिशत से ऊपर ले जाने के अपने लक्ष्य तक पहुंचती है, तो बहस इस बात से स्थानांतरित हो जाएगी कि क्या एआई समीक्षकों की सहायता कर सकता है, क्या मानव समीक्षा अपवाद बन रही है।

यह मेटा को एआई-नेटिव प्लेटफॉर्म गवर्नेंस के लिए सबसे स्पष्ट परीक्षण मामलों में से एक बना देगा। यदि सिस्टम अधिक सटीक और अधिक स्केलेबल साबित होता है, तो प्रतिद्वंद्वियों पर अनुसरण करने का दबाव होगा। यदि यह दृश्य मॉडरेशन विफलताओं या अस्पष्टीकृत दमन पर प्रतिक्रिया उत्पन्न करता है, तो यह एक केस स्टडी बन सकता है कि सामाजिक रूप से संवेदनशील डोमेन में तेजी से स्वचालन को सही ठहराने के लिए बेंचमार्क लाभ पर्याप्त क्यों नहीं हैं। किसी भी तरह, कंपनी अब एआई मॉडरेशन को एक पायलट के रूप में नहीं मान रही है। वह इसे ऑपरेटिंग मॉडल के रूप में मान रही है।

यह लेख द डिकोडर की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।