মেটা অভ্যন্তরীণ সতর্কতা সত্ত্বেও এআই মডারেশন চালিয়ে যাচ্ছে

অভ্যন্তরীণ উদ্বেগ বাড়ার সাথে সাথে মেটা এআই মডারেশন ত্বরান্বিত করছে

মেটা দ্রুত কন্টেন্ট মডারেশনের একটি বড় অংশ বড় ভাষার মডেলের হাতে তুলে দিচ্ছে, এই পরিবর্তনকে একটি গুণগত উন্নতি হিসেবে চিহ্নিত করে যা তার প্ল্যাটফর্মগুলিকে বিশ্বব্যাপী নিয়ন্ত্রণ করার অর্থনীতিকেও পুনর্নির্মাণ করতে পারে। রিপোর্ট করা বিবরণ অনুসারে, কোম্পানিটি ইতিমধ্যে ২০২৫ সালে প্রায় অর্ধেক মানব মডারেশন অনুরোধ ভাষার মডেলে স্থানান্তরিত করেছে এবং ২০২৬ সালের শেষ নাগাদ নির্দিষ্ট কিছু বিষয়শ্রেণীর কন্টেন্টের জন্য এই সংখ্যা ৯০ শতাংশের উপরে নেওয়ার লক্ষ্য রাখে।

এটি বিশ্বের বৃহত্তম সোশ্যাল মিডিয়া কোম্পানিগুলির জন্য একটি উল্লেখযোগ্য অপারেশনাল পরিবর্তন। মডারেশন সিস্টেমগুলি প্ল্যাটফর্মগুলি কীভাবে বক্তৃতা নিয়ন্ত্রণ করে, ক্ষতিকারক উপাদান সরিয়ে দেয় এবং কী দৃশ্যমান থাকে বা নীরবে অগ্রাধিকারহীন হয় তা নির্ধারণের কেন্দ্রে বসে। মানব-ভারী পর্যালোচনা থেকে মডেল-নেতৃত্বাধীন সিদ্ধান্ত গ্রহণে স্থানান্তর কেবল কর্মী পরিবর্তন করে না। এটি প্রয়োগের পিছনে যুক্তি, গতি এবং জবাবদিহিতার কাঠামো নিজেই পরিবর্তন করে।

মেটা বলে যে এই পরিবর্তনের পক্ষে যুক্তি কেবল দক্ষতা নয়। কোম্পানিটি মার্চ থেকে পরীক্ষার দিকে ইঙ্গিত করে যা ইঙ্গিত করে যে তার ভাষার মডেলগুলি মানুষের চেয়ে ১৩ শতাংশ কম ত্রুটি করে যখন ১০ শতাংশ বেশি প্রকৃত নীতি লঙ্ঘন সনাক্ত করে। যদি এই পরিসংখ্যানগুলি উৎপাদন সিস্টেম জুড়ে ধরে থাকে, তাহলে মেটা যুক্তি দিতে পারে যে এআই মডারেশন একটি আপস নয় বরং একটি আপগ্রেড, বিশেষ করে সূক্ষ্ম ভাষা, বহুভাষিক কন্টেন্ট বা প্রসঙ্গ জড়িত সিদ্ধান্তগুলির জন্য যা পুরানো ক্লাসিফায়ারগুলি প্রায়শই মিস করে।

কোম্পানির অবস্থান একটি বিস্তৃত শিল্প পরিবর্তনকেও প্রতিফলিত করে। ঐতিহ্যবাহী মডারেশন সিস্টেমগুলি প্রায়শই সংকীর্ণ মেশিন-লার্নিং ক্লাসিফায়ারের চারপাশে নির্মিত হয়েছিল যা পুনরাবৃত্তিযোগ্য বিভাগ যেমন স্প্যাম বা পরিচিত ইমেজ প্যাটার্নগুলিতে মোটামুটি ভাল পারফর্ম করত কিন্তু ব্যঙ্গ, অস্পষ্টতা, স্ল্যাং এবং দ্রুত পরিবর্তনশীল সাংস্কৃতিক রেফারেন্সের সাথে লড়াই করত। বড় ভাষার মডেলগুলি আরও ভাল প্রাসঙ্গিক যুক্তির প্রতিশ্রুতি দেয় এবং অনেক ভাষা এবং অঞ্চল জুড়ে পরিচালিত একটি প্ল্যাটফর্মের জন্য, সেই প্রতিশ্রুতি কৌশলগতভাবে গুরুত্বপূর্ণ।

কর্মীরা একটি দ্রুত এবং ঝুঁকিপূর্ণ পরিবর্তন বর্ণনা করেন

প্রতিবেদনে উদ্ধৃত অভ্যন্তরীণ বিবরণ একটি কম স্থির চিত্র আঁকে। একজন কর্মী বলেছেন যে মডেলগুলি এখনও নিরীহ কন্টেন্ট সরিয়ে দেয় বা ছায়া-নিষিদ্ধ করে, যখন তদারকি স্থাপনের গতির সাথে তাল মেলাতে পারেনি। এই উদ্বেগ গুরুত্বপূর্ণ কারণ মডারেশন ত্রুটিগুলি সব সমান নয়। কিছু ভুল ক্ষতিকারক উপাদান অনলাইনে রেখে দেয়; অন্যরা বৈধ বক্তৃতা দমন করে, স্রষ্টাদের হতাশ করে এবং ব্যবহারকারীদের মধ্যে আস্থা নষ্ট করে যারা জানেন না কেন তাদের নাগাল বা দৃশ্যমানতা পরিবর্তিত হয়েছে।

তাহলে উদ্বেগটি কেবল এই নয় যে একটি মডেল বেঞ্চমার্ক-স্টাইলের পরীক্ষায় গড় মানব পর্যালোচককে হারাতে পারে কিনা। এটি হল কোম্পানিটি মডেলগুলিকে ডিফল্ট প্রয়োগ স্তরে পরিণত করার আগে তাদের চারপাশে যথেষ্ট পর্যালোচনা, এসকেলেশন এবং অডিটিং মেকানিজম তৈরি করেছে কিনা। কন্টেন্ট মডারেশন প্রান্তিক কেস, রাজনৈতিক প্রসঙ্গ এবং নীতি ব্যাখ্যার জন্য অত্যন্ত সংবেদনশীল। ছোট ত্রুটির হার কোটি কোটি পোস্ট এবং মিথস্ক্রিয়া জুড়ে প্রয়োগ করা হলে বড় শাসন সমস্যা হয়ে উঠতে পারে।

রিপোর্ট করা রোলআউট ইতিমধ্যেই শ্রমকে প্রভাবিত করছে। এই পরিবর্তনের ফলে ছাঁটাই হচ্ছে বলে জানা গেছে, বিশেষ করে বাহ্যিক ঠিকাদারদের মধ্যে যারা দীর্ঘদিন ধরে বড় প্ল্যাটফর্মগুলির জন্য করা কঠিন এবং মানসিকভাবে ক্লান্তিকর মডারেশন কাজের বেশিরভাগ অংশ সামলাচ্ছে। বছরের পর বছর ধরে, টেক ইন্ডাস্ট্রি ঠিকাদারদের সেনাবাহিনীর উপর নির্ভর করত বিরক্তিকর বা অস্পষ্ট উপাদান পর্যালোচনা করতে যা স্বয়ংক্রিয় সিস্টেম নির্ভরযোগ্যভাবে শ্রেণীবদ্ধ করতে পারেনি। যদি মেটা সেই কাজের আরও বেশি স্বয়ংক্রিয় করতে সফল হয়, তাহলে সামাজিক এবং শ্রমের পরিণতি একটি কোম্পানির ব্যালেন্স শীটের বাইরেও প্রসারিত হবে।

খরচের বিষয়টি বিতর্কিত রয়ে গেছে। প্রতিবেদনে বলা হয়েছে যে এই পরিবর্তনের ফলে মেটা বার্ষিক বিলিয়ন ডলার সাশ্রয় করবে বলে আশা করা হচ্ছে, যখন মেটা বিতর্ক করে যে খরচ কমানোই মূল প্রেরণা এবং গুণমানের উপর জোর দেয়। এই দুটি ব্যাখ্যা পারস্পরিক একচেটিয়া নয়। মেটার স্কেলে, মানব পর্যালোচনার পরিমাণে সামান্য হ্রাসও বড় সঞ্চয় করতে পারে এবং কোম্পানির কাছে যুক্তি দেওয়ার একটি স্পষ্ট প্রণোদনা রয়েছে যে একটি সস্তা সিস্টেম একটি ভালও।

মেটার মডারেশন স্ট্যাকের ভিতরে একটি কৌশলগত মডেল পরিবর্তন

আরেকটি উল্লেখযোগ্য বিবরণ হল মডারেশন প্রোগ্রামের নীচে ঘটছে মডেল পরিবর্তন। মেটা অনুমিতভাবে মডারেশন এবং সমর্থন কাজের জন্য গুগলের জেমিনি ব্যবহার করছিল, কিন্তু কর্মীদের এখন মিউজ স্পার্ক নামে একটি মেটা ফাউন্ডেশন মডেলে যেতে বলা হয়েছে। এই পরিবর্তনটি পরামর্শ দেয় যে মেটা একটি সিস্টেমের উপর আরও শক্ত নিয়ন্ত্রণ চায় যা একটি সহায়ক সরঞ্জামের পরিবর্তে মূল পরিকাঠামো হয়ে উঠছে।

মডেল স্ট্যাকের মালিকানা বিভিন্ন কারণে গুরুত্বপূর্ণ। এটি বাইরের সরবরাহকারীদের উপর নির্ভরতা কমাতে পারে, মেটার নীতি কাঠামোর সাথে আরও ঘনিষ্ঠ টিউনিংয়ের অনুমতি দিতে পারে এবং সংবেদনশীল প্রয়োগের ডেটা কোম্পানির নিজস্ব প্রশিক্ষণ এবং মূল্যায়ন লুপের ভিতরে রাখতে পারে। মডারেশন সিস্টেমগুলি অতীতের সিদ্ধান্ত, আপিল এবং নীতি ব্যাখ্যার উপর নির্মিত, তাই যে কোম্পানির কাছে ডেটা এবং মডেল উভয়ই রয়েছে তারা তৃতীয় পক্ষের এআই-এর উপর নির্ভরশীল একজনের চেয়ে দ্রুত পুনরাবৃত্তি করতে পারে।

কিন্তু এটি একটি শাসন চ্যালেঞ্জকেও গভীর করে। যদি মডেলগুলি ঐতিহাসিক মানব সিদ্ধান্তের উপর প্রশিক্ষিত হয়, তবে তারা কেবল প্রাতিষ্ঠানিক জ্ঞানই নয়, উত্তরাধিকার পক্ষপাত, অসঙ্গতি বা অতিরিক্ত প্রয়োগের ধরণও উত্তরাধিকার সূত্রে পেতে পারে। এআই-এর মাধ্যমে মডারেশন স্কেল করা তাই পূর্ববর্তী রায়গুলিকে সংশোধন করার পরিবর্তে প্রসারিত করতে পারে। শক্তিশালী অডিটিং ছাড়া, কোম্পানিগুলি সঞ্চিত নীতি quirks স্বয়ংক্রিয় ডিফল্ট আচরণে পরিণত হওয়ার ঝুঁকি নেয়।

স্টেকগুলি বিশেষভাবে উচ্চ কারণ মডারেশন থেকে ক্রমবর্ধমানভাবে স্পষ্টভাবে নিষিদ্ধ উপাদান অপসারণের চেয়ে বেশি কিছু করার আশা করা হচ্ছে। প্ল্যাটফর্মগুলি এখন অনেক এখতিয়ার জুড়ে ভুল তথ্য, ম্যানিপুলেটেড মিডিয়া, হয়রানি, আত্ম-ক্ষতি কন্টেন্ট এবং রাজনৈতিকভাবে চার্জযুক্ত বক্তৃতা পরিচালনা করে। এগুলি এমন ক্ষেত্র যেখানে সূক্ষ্মতা গুরুত্বপূর্ণ এবং যেখানে অস্বচ্ছ অ্যালগরিদমিক সিদ্ধান্তের জন্য জনসাধারণের সহনশীলতা কম।

মডেল পারফরম্যান্সে মেটার রিপোর্ট করা আস্থা দেখায় যে জেনারেটিভ এআই পরীক্ষামূলক সহায়ক থেকে ফ্রন্টলাইন সিদ্ধান্ত গ্রহণকারীতে কতদূর এসেছে। অভ্যন্তরীণ আপত্তিগুলি সেই পরিবর্তনের অন্য দিকটি দেখায়: স্থাপনার চাপ প্রাতিষ্ঠানিক সতর্কতাকে ছাড়িয়ে যেতে পারে। যদি কোম্পানি ২০২৬ সালের শেষ নাগাদ কিছু কন্টেন্ট ক্লাসের জন্য মডেল-নেতৃত্বাধীন মডারেশন ৯০ শতাংশের উপরে নেওয়ার লক্ষ্যে পৌঁছায়, তাহলে বিতর্কটি এআই পর্যালোচকদের সহায়তা করতে পারে কিনা থেকে মানব পর্যালোচনা ব্যতিক্রম হয়ে উঠছে কিনা সেদিকে সরে যাবে।

এটি মেটাকে এআই-নেটিভ প্ল্যাটফর্ম গভর্নেন্সের জন্য সবচেয়ে স্পষ্ট পরীক্ষার ক্ষেত্রগুলির একটি করে তুলবে। যদি সিস্টেমটি আরও নির্ভুল এবং আরও স্কেলযোগ্য প্রমাণিত হয়, তবে প্রতিদ্বন্দ্বীরা অনুসরণ করার চাপের মুখোমুখি হবে। যদি এটি দৃশ্যমান মডারেশন ব্যর্থতা বা অব্যক্ত দমনের উপর প্রতিক্রিয়া তৈরি করে, তবে এটি একটি কেস স্টাডি হয়ে উঠতে পারে কেন বেঞ্চমার্ক লাভগুলি সামাজিকভাবে সংবেদনশীল ডোমেনে দ্রুত অটোমেশনকে ন্যায্যতা দেওয়ার জন্য যথেষ্ট নয়। যেভাবেই হোক, কোম্পানিটি আর এআই মডারেশনকে একটি পাইলট হিসাবে বিবেচনা করছে না। এটি এটিকে অপারেটিং মডেল হিসাবে বিবেচনা করছে।

এই নিবন্ধটি দ্য ডিকোডারের রিপোর্টিংয়ের উপর ভিত্তি করে তৈরি। মূল নিবন্ধটি পড়ুন।