मेटा आंतरिक चेतावणी असतानाही AI मॉडरेशनला गती देत आहे

मेटा AI मॉडरेशनला गती देत आहे, आंतरिक चिंता वाढत आहेत

मेटा वेगाने सामग्री मॉडरेशनचे मोठे काम मोठ्या भाषा मॉडेल्सकडे हलवत आहे, हे बदल गुणवत्ता सुधारणा म्हणून सादर करत आहे जे जागतिक स्तरावर त्याच्या प्लॅटफॉर्मचे नियमन करण्याच्या अर्थशास्त्राला आकार देऊ शकते. अहवालानुसार, कंपनीने 2025 मध्ये आधीच अंदाजे अर्ध्या मानवी मॉडरेशन विनंत्या भाषा मॉडेल्सकडे हलवल्या आहेत आणि 2026 च्या अखेरीस विशिष्ट श्रेणीतील सामग्रीसाठी हा आकडा 90 टक्क्यांपेक्षा जास्त करण्याचे उद्दिष्ट ठेवले आहे.

जगातील सर्वात मोठ्या सोशल मीडिया कंपन्यांपैकी एकासाठी हा एक महत्त्वपूर्ण ऑपरेशनल बदल आहे. मॉडरेशन सिस्टीम प्लॅटफॉर्म कसे भाषण नियंत्रित करतात, हानिकारक सामग्री काढून टाकतात आणि काय दृश्यमान राहते किंवा शांतपणे कमी प्राधान्य दिले जाते याच्या केंद्रस्थानी असतात. मानवी-जड पुनरावलोकनापासून मॉडेल-नेतृत्वाखालील निर्णयाकडे जाणे केवळ स्टाफिंग बदलत नाही. ते अंमलबजावणीचे तर्क, गती आणि जबाबदारीची रचना बदलते.

मेटा म्हणते की या संक्रमणाचे कारण केवळ कार्यक्षमता नाही. कंपनी मार्चपासूनच्या चाचणीकडे निर्देश करते की तिची भाषा मॉडेल्स मानवांपेक्षा 13 टक्के कमी चुका करतात तर 10 टक्के अधिक वास्तविक धोरण उल्लंघन ओळखतात. जर हे आकडे उत्पादन प्रणालींमध्ये टिकून राहिले तर, मेटा असा युक्तिवाद करू शकते की AI मॉडरेशन ही तडजोड नसून एक सुधारणा आहे, विशेषतः सूक्ष्म भाषा, बहुभाषिक सामग्री किंवा संदर्भ यांचा समावेश असलेल्या निर्णयांसाठी जे जुने वर्गीकरणकर्ते अनेकदा चुकवतात.

कंपनीची भूमिका व्यापक उद्योग बदल देखील प्रतिबिंबित करते. पारंपारिक मॉडरेशन प्रणाली अनेकदा अरुंद मशीन लर्निंग वर्गीकरणकर्त्यांभोवती बांधल्या गेल्या होत्या ज्या स्पॅम किंवा ज्ञात प्रतिमा नमुने यासारख्या पुनरावृत्ती श्रेणींवर चांगले काम करत होत्या परंतु व्यंग, अस्पष्टता, स्लॅंग आणि वेगाने बदलणारे सांस्कृतिक संदर्भ यांच्याशी संघर्ष करत होत्या. मोठ्या भाषा मॉडेल्स चांगले संदर्भित तर्क देण्याचे वचन देतात, आणि अनेक भाषा आणि प्रदेशांमध्ये कार्यरत प्लॅटफॉर्मसाठी, हे वचन धोरणात्मकदृष्ट्या महत्त्वाचे आहे.

कर्मचारी वेगवान आणि धोकादायक संक्रमणाचे वर्णन करतात

अहवालात उद्धृत केलेली अंतर्गत खाती कमी स्थिर चित्र रंगवतात. एका कर्मचाऱ्याने सांगितले की मॉडेल्स अजूनही निरुपद्रवी सामग्री काढून टाकतात किंवा शॅडो-बॅन करतात, तर देखरेखीचा वेग तैनातीच्या वेगाशी जुळलेला नाही. ही चिंता महत्त्वाची आहे कारण मॉडरेशन चुका सर्व समान नसतात. काही चुका हानिकारक सामग्री ऑनलाइन ठेवतात; इतर कायदेशीर भाषण दडपतात, निर्मात्यांना निराश करतात आणि वापरकर्त्यांमध्ये विश्वास कमी करतात ज्यांना कदाचित त्यांची पोहोच किंवा दृश्यता का बदलली हे माहित नसते.

मग चिंता फक्त हे नाही की मॉडेल बेंचमार्क-शैली चाचणीवर सरासरी मानवी पुनरावलोकनकर्त्यांना हरवू शकते का. तर हे आहे की कंपनीने मॉडेल्सभोवती पुरेसे पुनरावलोकन, एस्कलेशन आणि ऑडिटिंग यंत्रणा बांधली आहे का त्यांना डीफॉल्ट अंमलबजावणी स्तर बनवण्यापूर्वी. सामग्री मॉडरेशन एज केसेस, राजकीय संदर्भ आणि धोरण व्याख्येसाठी अत्यंत संवेदनशील आहे. लहान त्रुटी दर अब्जावधी पोस्ट आणि परस्परसंवादांवर लागू केल्यास मोठ्या प्रशासन समस्या बनू शकतात.

अहवालित रोलआउट आधीच श्रमावर परिणाम करत आहे. हे संक्रमण कामगार कपातीकडे नेत आहे, विशेषतः बाह्य कंत्राटदारांमध्ये ज्यांनी बराच काळ मोठ्या प्लॅटफॉर्मसाठी केलेले कठीण आणि मानसिकदृष्ट्या त्रासदायक मॉडरेशन काम हाताळले आहे. वर्षानुवर्षे, तंत्रज्ञान उद्योगाने कंत्राटदारांच्या सैन्यावर अवलंबून राहून त्रासदायक किंवा अस्पष्ट सामग्रीचे पुनरावलोकन केले जे स्वयंचलित प्रणाली विश्वसनीयपणे वर्गीकृत करू शकत नव्हत्या. जर मेटा त्या कामाचे अधिक ऑटोमेशन करण्यात यशस्वी झाला तर, सामाजिक आणि श्रम परिणाम एका कंपनीच्या ताळेबंदाच्या पलीकडे जातील.

खर्चाचा मुद्दा वादग्रस्त राहिला आहे. अहवाल म्हणतो की या बदलामुळे मेटाला दरवर्षी अब्जावधी डॉलर्सची बचत होण्याची अपेक्षा आहे, तर मेटा खर्च कपात ही मुख्य प्रेरणा नसल्याचे नाकारतो आणि गुणवत्तेवर भर देतो. हे दोन स्पष्टीकरण परस्पर अनन्य नाहीत. मेटाच्या स्केलवर, मानवी पुनरावलोकनाच्या प्रमाणात अगदी माफक कपात देखील मोठी बचत निर्माण करू शकते, आणि कंपनीकडे स्वस्त प्रणाली देखील चांगली आहे असा युक्तिवाद करण्याचा स्पष्ट हेतू आहे.

मेटाच्या मॉडरेशन स्टॅकमध्ये धोरणात्मक मॉडेल बदल

आणखी एक उल्लेखनीय तपशील म्हणजे मॉडरेशन कार्यक्रमाखाली होत असलेला मॉडेल संक्रमण. मेटा कथितपणे मॉडरेशन आणि समर्थन कार्यांसाठी Google चे Gemini वापरत होता, परंतु कर्मचाऱ्यांना आता मेटाच्या Muse Spark नावाच्या फाउंडेशन मॉडेलकडे जाण्यास सांगितले गेले आहे. हा बदल सूचित करतो की मेटा एका प्रणालीवर अधिक नियंत्रण हवे आहे जी सहायक साधनाऐवजी मुख्य पायाभूत सुविधा बनत आहे.

मॉडेल स्टॅकची मालकी अनेक कारणांसाठी महत्त्वाची आहे. यामुळे बाह्य प्रदात्यांवरील अवलंबित्व कमी होऊ शकते, मेटाच्या धोरण फ्रेमवर्कशी जवळून ट्यूनिंग करण्याची परवानगी मिळते आणि संवेदनशील अंमलबजावणी डेटा कंपनीच्या स्वतःच्या प्रशिक्षण आणि मूल्यांकन लूपमध्ये ठेवता येतो. मॉडरेशन प्रणाली भूतकाळातील निर्णय, अपील आणि धोरण व्याख्येवर बांधल्या जातात, म्हणून डेटा आणि मॉडेल दोन्हीची मालकी असलेली कंपनी तृतीय-पक्ष AI वर अवलंबून असलेल्यापेक्षा वेगाने पुनरावृत्ती करू शकते.

परंतु हे प्रशासन आव्हान देखील वाढवते. जर मॉडेल्स ऐतिहासिक मानवी निर्णयांवर प्रशिक्षित केली गेली तर, त्यांना केवळ संस्थात्मक ज्ञानच नव्हे तर वारसा पूर्वाग्रह, विसंगती किंवा अतिअंमलबजावणी नमुने देखील वारशाने मिळू शकतात. AI द्वारे मॉडरेशन स्केलिंग म्हणून पूर्वीच्या निर्णय कॉल्स सुधारण्याऐवजी वाढवू शकते. मजबूत ऑडिटिंगशिवाय, कंपन्या जमा झालेल्या धोरण विचित्रता स्वयंचलित डीफॉल्ट वर्तनात बदलण्याचा धोका पत्करतात.

मॉडरेशनकडून स्पष्टपणे प्रतिबंधित सामग्री काढून टाकण्यापेक्षा अधिक करण्याची अपेक्षा वाढत असल्याने हे विशेषतः महत्त्वाचे आहे. प्लॅटफॉर्म आता चुकीची माहिती, हाताळलेले मीडिया, छळ, स्व-हानी सामग्री आणि राजकीयदृष्ट्या आरोपित भाषण अनेक न्यायक्षेत्रांमध्ये व्यवस्थापित करतात. ही अशी क्षेत्रे आहेत जिथे सूक्ष्मता महत्त्वाची आहे आणि जिथे अस्पष्ट अल्गोरिदमिक निर्णयांसाठी सार्वजनिक सहनशीलता कमी आहे.

मॉडेल कामगिरीबद्दल मेटाचा अहवालित आत्मविश्वास दर्शवितो की जनरेटिव AI प्रायोगिक सहाय्यकापासून फ्रंटलाइन निर्णयकर्त्यापर्यंत किती पुढे गेले आहे. अंतर्गत आक्षेप या संक्रमणाची दुसरी बाजू दर्शवितात: तैनातीचा दबाव संस्थात्मक सावधगिरीपेक्षा पुढे जाऊ शकतो. जर कंपनी 2026 च्या अखेरीस काही सामग्री वर्गांसाठी मॉडेल-नेतृत्वाखालील मॉडरेशन 90 टक्क्यांपेक्षा जास्त करण्याचे उद्दिष्ट गाठले तर, वादविवाद AI पुनरावलोकनकर्त्यांना मदत करू शकते का यापासून मानवी पुनरावलोकन अपवाद बनत आहे का याकडे सरकेल.

यामुळे मेटा AI-मूळ प्लॅटफॉर्म प्रशासनासाठी सर्वात स्पष्ट चाचणी प्रकरणांपैकी एक बनेल. जर प्रणाली अधिक अचूक आणि अधिक स्केलेबल सिद्ध झाली तर, प्रतिस्पर्ध्यांवर अनुसरण करण्याचा दबाव येईल. जर त्यामुळे दृश्यमान मॉडरेशन अपयश किंवा अस्पष्ट दडपशाहीवर प्रतिक्रिया निर्माण झाली तर, ते बेंचमार्क नफा सामाजिकदृष्ट्या संवेदनशील डोमेनमध्ये जलद ऑटोमेशनचे समर्थन करण्यासाठी पुरेसे का नाही याचा केस स्टडी बनू शकते. कोणत्याही परिस्थितीत, कंपनी यापुढे AI मॉडरेशनला पायलट म्हणून वागवत नाही. ते ऑपरेटिंग मॉडेल म्हणून वागवत आहे.

हा लेख The Decoder च्या अहवालावर आधारित आहे. मूळ लेख वाचा.