అంతర్గత హెచ్చరికల మధ్య మెటా AI మోడరేషన్ను వేగవంతం చేస్తోంది

మెటా అంతర్గత ఆందోళనల మధ్య AI మోడరేషన్ను వేగవంతం చేస్తోంది

మెటా కంటెంట్ మోడరేషన్ పనిలో పెద్ద భాగాన్ని పెద్ద భాషా నమూనాలకు అప్పగించడానికి వేగంగా కదులుతోంది, దీనిని నాణ్యత మెరుగుదలగా మరియు ప్రపంచ స్థాయిలో దాని ప్లాట్ఫారమ్లను పోలీసు చేసే ఆర్థిక శాస్త్రాన్ని పునర్నిర్మించగలదని భావిస్తోంది. నివేదించిన వివరాల ప్రకారం, కంపెనీ 2025లో ఇప్పటికే సగం మానవ మోడరేషన్ అభ్యర్థనలను భాషా నమూనాలకు మార్చింది మరియు 2026 చివరి నాటికి కొన్ని వర్గాల కంటెంట్ కోసం ఆ సంఖ్యను 90 శాతం కంటే ఎక్కువకు నెట్టాలని లక్ష్యంగా పెట్టుకుంది.

ప్రపంచంలోని అతిపెద్ద సోషల్ మీడియా కంపెనీలలో ఇది ఒక ముఖ్యమైన కార్యాచరణ మార్పు. మోడరేషన్ వ్యవస్థలు ప్లాట్ఫారమ్లు ప్రసంగాన్ని ఎలా నియంత్రిస్తాయి, హానికరమైన విషయాలను ఎలా తొలగిస్తాయి మరియు ఏది కనిపించేలా ఉంటుందో లేదా నిశ్శబ్దంగా తక్కువ ప్రాధాన్యత ఇవ్వబడుతుందో నిర్ణయించే కేంద్రంలో ఉంటాయి. మానవ-భారీ సమీక్ష నుండి మోడల్-నేతృత్వంలోని నిర్ణయం తీసుకోవడానికి మారడం కేవలం సిబ్బందిని మార్చదు. ఇది అమలు వెనుక ఉన్న తర్కం, వేగం మరియు జవాబుదారీతనం నిర్మాణాన్ని మారుస్తుంది.

మెటా పరివర్తనకు కారణం సామర్థ్యం మాత్రమే కాదని చెప్పింది. మార్చి నుండి పరీక్షలు దాని భాషా నమూనాలు మానవుల కంటే 13 శాతం తక్కువ లోపాలు చేస్తాయని మరియు 10 శాతం ఎక్కువ నిజమైన విధాన ఉల్లంఘనలను గుర్తిస్తాయని సూచిస్తున్నాయి. ఆ సంఖ్యలు ఉత్పత్తి వ్యవస్థలలో కొనసాగితే, AI మోడరేషన్ రాజీ కాదు, మెరుగుదల అని మెటా వాదించవచ్చు, ముఖ్యంగా సూక్ష్మ భాష, బహుభాషా కంటెంట్ లేదా పాత క్లాసిఫైయర్లు తరచుగా కోల్పోయే సందర్భాన్ని కలిగి ఉన్న నిర్ణయాలకు.

కంపెనీ స్థానం విస్తృత పరిశ్రమ మార్పును కూడా ప్రతిబింబిస్తుంది. సాంప్రదాయ మోడరేషన్ వ్యవస్థలు తరచుగా స్పామ్ లేదా తెలిసిన ఇమేజ్ నమూనాలు వంటి పునరావృత వర్గాలపై సహేతుకంగా బాగా పనిచేసే ఇరుకైన మెషిన్-లెర్నింగ్ క్లాసిఫైయర్ల చుట్టూ నిర్మించబడ్డాయి, కానీ వ్యంగ్యం, అస్పష్టత, స్లాంగ్ మరియు వేగంగా మారుతున్న సాంస్కృతిక సూచనలతో ఇబ్బంది పడ్డాయి. పెద్ద భాషా నమూనాలు మెరుగైన సందర్భోచిత తార్కికతను వాగ్దానం చేస్తాయి మరియు అనేక భాషలు మరియు ప్రాంతాలలో పనిచేసే ప్లాట్ఫారమ్కు, ఆ వాగ్దానం వ్యూహాత్మకంగా ముఖ్యమైనది.

ఉద్యోగులు వేగవంతమైన మరియు ప్రమాదకరమైన పరివర్తనను వివరిస్తున్నారు

నివేదికలో ఉదహరించిన అంతర్గత ఖాతాలు తక్కువ స్థిరపడిన చిత్రాన్ని చిత్రించాయి. ఒక ఉద్యోగి ప్రకారం, నమూనాలు ఇప్పటికీ హానిచేయని కంటెంట్ను తొలగిస్తాయి లేదా షాడో-బ్యాన్ చేస్తాయి, అయితే పర్యవేక్షణ విస్తరణ వేగంతో సమానంగా లేదు. మోడరేషన్ లోపాలు అన్నీ సమానంగా లేవు కాబట్టి ఆ ఆందోళన ముఖ్యమైనది. కొన్ని తప్పులు హానికరమైన విషయాలను ఆన్లైన్లో వదిలివేస్తాయి; మరికొన్ని చట్టబద్ధమైన ప్రసంగాన్ని అణచివేస్తాయి, సృష్టికర్తలను నిరాశపరుస్తాయి మరియు వారి రీచ్ లేదా దృశ్యమానత ఎందుకు మారిందో తెలియని వినియోగదారులలో నమ్మకాన్ని దెబ్బతీస్తాయి.

అప్పుడు ఆందోళన ఏమిటంటే, ఒక మోడల్ బెంచ్మార్క్-శైలి పరీక్షలో సగటు మానవ సమీక్షకులను ఓడించగలదా అనేది మాత్రమే కాదు. వాటిని డిఫాల్ట్ అమలు పొరగా మార్చడానికి ముందు కంపెనీ నమూనాల చుట్టూ తగినంత సమీక్ష, ఎస్కలేషన్ మరియు ఆడిటింగ్ మెకానిజమ్లను నిర్మించిందా అనేది. కంటెంట్ మోడరేషన్ ఎడ్జ్ కేసులు, రాజకీయ సందర్భం మరియు విధాన వివరణకు చాలా సున్నితంగా ఉంటుంది. బిలియన్ల కొద్దీ పోస్ట్లు మరియు పరస్పర చర్యలకు వర్తింపజేసినప్పుడు చిన్న లోపం రేట్లు పెద్ద పాలన సమస్యలుగా మారవచ్చు.

నివేదించబడిన రోల్అవుట్ ఇప్పటికే శ్రమను ప్రభావితం చేస్తోంది. ఈ పరివర్తన తొలగింపులకు దారితీస్తోంది, ముఖ్యంగా ప్రధాన ప్లాట్ఫారమ్ల కోసం చేసే కష్టమైన మరియు మానసికంగా ఒత్తిడితో కూడిన మోడరేషన్ పనిని చాలా సంవత్సరాలుగా నిర్వహించిన బాహ్య కాంట్రాక్టర్లలో. సంవత్సరాలుగా, టెక్ పరిశ్రమ ఆటోమేటెడ్ సిస్టమ్లు విశ్వసనీయంగా వర్గీకరించలేని బాధాకరమైన లేదా అస్పష్టమైన విషయాలను సమీక్షించడానికి కాంట్రాక్టర్ల సైన్యాలపై ఆధారపడింది. మెటా ఆ పనిలో ఎక్కువ భాగాన్ని ఆటోమేట్ చేయడంలో విజయవంతమైతే, సామాజిక మరియు శ్రమ పరిణామాలు ఒక కంపెనీ బ్యాలెన్స్ షీట్కు మించి విస్తరిస్తాయి.

ఖర్చు సమస్య వివాదాస్పదంగా ఉంది. ఈ మార్పు మెటాకు సంవత్సరానికి బిలియన్ల డాలర్లు ఆదా చేస్తుందని నివేదిక చెబుతోంది, అయితే మెటా ఖర్చు తగ్గింపు ప్రధాన ప్రేరణ అని వివాదం చేస్తూ నాణ్యతను నొక్కి చెబుతోంది. ఆ రెండు వివరణలు పరస్పరం ప్రత్యేకమైనవి కావు. మెటా స్థాయిలో, మానవ సమీక్ష వాల్యూమ్లో స్వల్ప తగ్గింపు కూడా ప్రధాన పొదుపులను ఉత్పత్తి చేస్తుంది మరియు చౌకైన వ్యవస్థ కూడా మెరుగైనది అని వాదించడానికి కంపెనీకి స్పష్టమైన ప్రోత్సాహకం ఉంది.

మెటా మోడరేషన్ స్టాక్ లోపల వ్యూహాత్మక మోడల్ మార్పు

మోడరేషన్ ప్రోగ్రామ్ కింద జరుగుతున్న మోడల్ పరివర్తన మరొక గమనించదగిన వివరం. మెటా మోడరేషన్ మరియు సపోర్ట్ టాస్క్ల కోసం గూగుల్ జెమినిని ఉపయోగిస్తున్నట్లు నివేదించబడింది, అయితే సిబ్బందికి ఇప్పుడు మెటా ఫౌండేషన్ మోడల్ అయిన మ్యూస్ స్పార్క్కు మారాలని చెప్పబడింది. ఈ మార్పు మెటా సహాయక సాధనం కాకుండా ప్రధాన మౌలిక సదుపాయాలుగా మారుతున్న వ్యవస్థపై కఠినమైన నియంత్రణను కోరుకుంటుందని సూచిస్తుంది.

మోడల్ స్టాక్ను స్వంతం చేసుకోవడం అనేక కారణాల వల్ల ముఖ్యమైనది. ఇది బయటి ప్రొవైడర్లపై ఆధారపడటాన్ని తగ్గిస్తుంది, మెటా విధాన ఫ్రేమ్వర్క్కు దగ్గరగా ట్యూనింగ్ చేయడానికి అనుమతిస్తుంది మరియు సున్నితమైన అమలు డేటాను కంపెనీ స్వంత శిక్షణ మరియు మూల్యాంకన లూప్లలో ఉంచుతుంది. మోడరేషన్ వ్యవస్థలు గత నిర్ణయాలు, అప్పీళ్లు మరియు విధాన వివరణలపై నిర్మించబడ్డాయి, కాబట్టి డేటా మరియు మోడల్ రెండింటినీ కలిగి ఉన్న కంపెనీ మూడవ పక్షం AIపై ఆధారపడిన దానికంటే వేగంగా పునరావృతం చేయగలదు.

కానీ అది పాలన సవాలును మరింత లోతుగా చేస్తుంది. నమూనాలు చారిత్రక మానవ నిర్ణయాలపై శిక్షణ పొందినట్లయితే, అవి సంస్థాగత జ్ఞానాన్ని మాత్రమే కాకుండా వారసత్వ పక్షపాతం, అస్థిరత లేదా అతిగా అమలు నమూనాలను కూడా వారసత్వంగా పొందవచ్చు. AI ద్వారా మోడరేషన్ను స్కేలింగ్ చేయడం వలన వాటిని సరిచేయడానికి బదులుగా మునుపటి తీర్పు కాల్లను విస్తరించవచ్చు. బలమైన ఆడిటింగ్ లేకుండా, కంపెనీలు సేకరించిన విధాన విచిత్రాలను స్వయంచాలక డిఫాల్ట్ ప్రవర్తనగా మార్చే ప్రమాదం ఉంది.

మోడరేషన్ స్పష్టంగా నిషేధించబడిన విషయాలను తొలగించడం కంటే ఎక్కువ చేయాలని ఎక్కువగా భావించడం వల్ల వాటాలు ముఖ్యంగా ఎక్కువగా ఉన్నాయి. ప్లాట్ఫారమ్లు ఇప్పుడు అనేక అధికార పరిధిలో తప్పుడు సమాచారం, మానిప్యులేటెడ్ మీడియా, వేధింపులు, స్వీయ-హాని కంటెంట్ మరియు రాజకీయంగా ఛార్జ్ చేయబడిన ప్రసంగాన్ని నిర్వహిస్తాయి. ఇవి సూక్ష్మభేదం ముఖ్యమైన ప్రాంతాలు మరియు అపారదర్శక అల్గారిథమిక్ నిర్ణయాల పట్ల ప్రజల సహనం తక్కువగా ఉంటుంది.

మోడల్ పనితీరుపై మెటా నివేదించిన విశ్వాసం జనరేటివ్ AI ప్రయోగాత్మక సహాయకుడి నుండి ముందంజలో నిర్ణయం తీసుకునే వ్యక్తికి ఎంత దూరం వచ్చిందో చూపిస్తుంది. అంతర్గత అభ్యంతరాలు ఆ పరివర్తన యొక్క మరొక వైపు చూపిస్తాయి: విస్తరణ ఒత్తిడి సంస్థాగత జాగ్రత్తను అధిగమించగలదు. 2026 చివరి నాటికి కొన్ని కంటెంట్ తరగతులకు మోడల్-నేతృత్వంలోని మోడరేషన్ను 90 శాతం కంటే ఎక్కువకు నెట్టాలనే లక్ష్యాన్ని కంపెనీ చేరుకుంటే, చర్చ AI సమీక్షకులకు సహాయం చేయగలదా నుండి మానవ సమీక్ష మినహాయింపుగా మారుతుందా అనే దానికి మారుతుంది.

ఇది మెటాను AI-స్థానిక ప్లాట్ఫారమ్ పాలనకు అత్యంత స్పష్టమైన పరీక్షా కేసులలో ఒకటిగా చేస్తుంది. వ్యవస్థ మరింత ఖచ్చితమైనది మరియు మరింత స్కేలబుల్ అని నిరూపించబడితే, ప్రత్యర్థులు అనుసరించడానికి ఒత్తిడిని ఎదుర్కొంటారు. ఇది కనిపించే మోడరేషన్ వైఫల్యాలు లేదా వివరించలేని అణచివేతపై ప్రతిఘటనను ఉత్పత్తి చేస్తే, సామాజికంగా సున్నితమైన డొమైన్లో వేగవంతమైన ఆటోమేషన్ను సమర్థించడానికి బెంచ్మార్క్ లాభాలు ఎందుకు సరిపోవు అనే కేస్ స్టడీగా మారవచ్చు. ఏమైనప్పటికీ, కంపెనీ ఇకపై AI మోడరేషన్ను పైలట్గా పరిగణించడం లేదు. ఇది దానిని ఆపరేటింగ్ మోడల్గా పరిగణిస్తోంది.

ఈ కథనం ది డీకోడర్ నివేదికపై ఆధారపడింది. అసలు కథనాన్ని చదవండి.