Anthropic-এর Fable 5 অতিরিক্ত নির্মিত AI সেফটি ফিল্টারের খরচ দেখাচ্ছে

একটি শক্তিশালী মডেল তাৎক্ষণিক ব্যবহারযোগ্যতার সমস্যা নিয়ে এল

Anthropic-এর সদ্য চালু হওয়া Claude Fable 5-কে কোম্পানির সবচেয়ে সক্ষম public model হিসেবে উপস্থাপন করা হয়েছিল, কিন্তু কয়েক দিনের মধ্যেই ডেভেলপাররা একটি ভিন্ন সংজ্ঞায়িত বৈশিষ্ট্যের কথা জানাতে শুরু করেন: এটি apparently benign prompts প্রত্যাখ্যান করছে বা তাদের মান কমিয়ে দিচ্ছে। অভিযোগগুলো frontier-model-এর এক পুনরাবৃত্ত সমস্যার দিকে ইঙ্গিত করে। সক্ষমতা বাড়ার সঙ্গে সঙ্গে, উচ্চ-ঝুঁকির ব্যবহার নিয়ন্ত্রণের জন্য তৈরি safeguards এতটাই intrusive হয়ে উঠতে পারে যে তা সাধারণ কাজেও বাধা দেয়।

সোর্স অনুযায়ী, Fable 5 হলো Anthropic-এর Mythos family থেকে উদ্ভূত প্রথম public model। এই lineage গুরুত্বপূর্ণ, কারণ Mythos প্রশিক্ষণের সময় software bugs খুঁজে বের করা এবং সেগুলো কাজে লাগিয়ে systems-কে ব্যাহত বা দখল করার ক্ষেত্রে অস্বাভাবিক দক্ষতা দেখিয়েছিল বলে রিপোর্ট আছে। তাই Anthropic cybersecurity-কে biology এবং chemistry-এর সঙ্গে উচ্চ-ঝুঁকির domain হিসেবে ধরে, Mythos-derived public model কী করতে পারবে তার সীমা নির্ধারণ করেছে।

Fable 5-এর ক্ষেত্রে Anthropic-এর সমাধান ছিল ওইসব ক্ষেত্রে sensitive হিসেবে flag হওয়া prompts-কে Claude Opus 4.8-এ route করা, যা তুলনামূলকভাবে কম সক্ষম এবং নিজস্ব guardrails-সহ একটি model। কোম্পানি বলছে, এই fallback প্রায় 0.05% queries-কে প্রভাবিত করে এবং তা হলে ব্যবহারকারীদের জানানো হয়। কাগজে-কলমে তা সীমিত মনে হয়। বাস্তবে, user complaints ইঙ্গিত দেয় যে system-এর প্রান্তগুলো Anthropic যা ভেবেছিল তার চেয়ে বেশি বিস্তৃত হতে পারে।

False positives-ই কেন খবর হয়ে উঠল

প্রাথমিক backlash এসেছে প্রকাশ্য ক্ষতিকর ব্যবহার থেকে নয়, বরং legitimate tasks ব্লক হওয়ার অভিযোগ থেকে। সোর্সে sheep-এর RNA sequencing data থেকে শুরু করে resume editing এবং shopping lists পর্যন্ত উদাহরণ দেওয়া হয়েছে। এক quoted user অভিযোগ করেন, “cancer” শব্দটিও biosecurity risk হিসেবে flag করা হয়েছে। প্রতিটি anecdote পুরোপুরি representative failure mode কিনা তা না-ই হোক, pattern স্পষ্ট: ব্যবহারকারীরা মনে করেছেন safety system সাধারণ পেশাগত বা consumer queries-এ হস্তক্ষেপ করছে।

Anthropic-এর চ্যালেঞ্জ সহজে বলা যায়, কিন্তু সমাধান করা কঠিন। কোম্পানি চেয়েছিল visible safeguards, সম্পূর্ণ গোপন নয়, কিন্তু একই সঙ্গে সেগুলো এমন শক্তিশালী হোক যাতে ব্যবহারকারীরা সহজে workaround করতে না পারেন। একটি visible classifier-কে সাধারণত wider net ফেলতে হয়, কারণ adversaries সেটি probe করতে পারে। সেই wider net আবার আরও false positives তৈরি করে। Anthropic কার্যত caution-কে প্রথমে বেছে নিয়েছে, আর ডেভেলপাররা তা সঙ্গে সঙ্গে বুঝে ফেলেছেন।

সোর্স বলছে, classifiers ডিজাইন করার সময় কোম্পানি “সতর্কতার পক্ষে ঝুঁকেছে।” এই বাক্যটি গুরুত্বপূর্ণ, কারণ এটি সমস্যাকে অপ্রত্যাশিত bug নয়, বরং tradeoff হিসেবে উপস্থাপন করে। Anthropic সম্ভবত জানত, আরও কঠোর screening কিছু legitimate user-কে অসুবিধায় ফেলবে। আলোচনা হচ্ছে, একটি অত্যন্ত সক্ষম এবং ব্যাপকভাবে উপযোগী model-এর জন্য সেই ভারসাম্য গ্রহণযোগ্য ছিল কি না।

সেফগার্ডের গঠন গুরুত্বপূর্ণ

একটি সাধারণ refusal system-এর বিপরীতে, Fable 5-এর guardrail architecture-এ model switching আছে। sensitive হিসেবে বিবেচিত prompts Fable 5 নিজে না সামলিয়ে Opus 4.8-এ route করা হয়। এটি একটি তাৎপর্যপূর্ণ design choice। এর মানে, Anthropic শুধু request filter করছে না, সক্রিয়ভাবে ঠিক করছে কোন model সেগুলো handle করবে। প্রযুক্তিগত, বৈজ্ঞানিক বা security-related domain-এর কিনারায় কাজ করা ব্যবহারকারীদের জন্য, এটি legitimate request হলেও capability-তে একটি silent downgrade-এর মতো হতে পারে।

fallback হলে ব্যবহারকারীদের জানানো হয় বলে কোম্পানি বলছে, যা invisible substitution-এর চেয়ে ভালো। কিন্তু system যদি এখনও সাধারণ কাজ আটকে দেয়, transparency frustration দূর করে না। Developers সাধারণত safety boundaries আরও সহজে মেনে নেন যখন সেগুলো স্পষ্ট, সীমিত এবং পূর্বানুমেয়। harmless tasks যখন ভিন্ন risk profile-এর rules-এর সঙ্গে জড়িয়ে যায়, তখন তারা তা মেনে নিতে চান না।

এখানে Anthropic কেন বিশেষভাবে সতর্ক

সোর্স যে মৌলিক কারণটি দেয় তা হলো: Mythos-derived systems cybersecurity-তে এতটাই শক্তিশালী বলে ধরা হয়েছিল যে internal concern তৈরি হয়। ফলে release policy-র দৃষ্টিতে cyber risk-কে biology এবং chemistry-এর সঙ্গে একই bracket-এ রাখা হয়। কোনো lab এমন সিদ্ধান্ত নিলে, public deployment তখন engineering problem-এর পাশাপাশি governance problem-ও হয়ে যায়।

Anthropic-এর দৃষ্টিকোণ থেকে, সেইসব domain-এ শক্তিশালী constraints ছাড়া অত্যন্ত সক্ষম model মুক্তি দেওয়া দায়িত্বজ্ঞানহীন হতে পারে। ব্যবহারকারীদের দৃষ্টিতে, একটি model যা বারবার benign কাজকে dangerous activity ভেবে বসে, সেটিকে production-এ বিশ্বাস করা কঠিন। এই দুই অবস্থান পরস্পরবিরোধী নয়। তারা advanced AI products-কে গড়ে তুলছে যে কেন্দ্রীয় tension, সেটিকেই তুলে ধরে: model যত ভালো হয়, ততই তাকে restrict করার চাপ বাড়ে, আর সেই restrictions-ই আবার model-টিকে প্রথমে মূল্যবান করে তুলেছিল যে user experience, সেটিকে হুমকির মুখে ফেলে।

কোম্পানির ব্যাখ্যা বড় শিল্প-সমস্যার দিকে ইঙ্গিত করে

সোর্সে উদ্ধৃত এক বিবৃতিতে Anthropic বলেছে, hidden safeguard-কে probe করা এবং তার আশপাশে কাজ করা কঠিন, তাই সেটিকে আরও narrowly target করা যায়; কিন্তু visible safeguard-কে robust থাকতে wider net ফেলতেই হয়। এই ব্যাখ্যা একটি launch decision-এর সাফাইয়ের চেয়ে শিল্প-ব্যাপী dilemma-এর বর্ণনা বেশি। User trust এবং accountability-এর জন্য transparency সাধারণত ভালো। কিন্তু transparency defensive systems-কে adversarial testing-এর জন্য আরও সহজ করে তোলে। ফলাফল হলো এক অস্বস্তিকর সমঝোতা: visible controls, যা overblock করে।

frontier models যখন sensitive workflows-এ deploy হচ্ছে, তখন এই tradeoff আরও সাধারণ হয়ে উঠবে। Developers এমন highly capable assistants চান, যারা বাস্তব technical complexity সামলাতে পারে। Labs চায় এমন tools না দিতে, যা cyber, bio বা সংশ্লিষ্ট ক্ষেত্রে ঝুঁকি উল্লেখযোগ্যভাবে বাড়ায়। Models expert performance-এর যত কাছে যায়, safety failure-এর জন্য গ্রহণযোগ্য margin ততই সংকুচিত হয়।

Fable 5 AI products-এর পরবর্তী ধাপ সম্পর্কে কী জানায়

Fable 5-এর launch দেখায়, পরবর্তী competitive frontier শুধু raw capability নয়। এটি constraints-এর মধ্যে capability। একটি model benchmark-adjacent অর্থে চমকপ্রদ হতে পারে, তবুও users-কে frustrate করতে পারে যদি তার guardrails খুব ঘন ঘন বা খুব অস্পষ্টভাবে trigger হয়। সেই পরিবেশে product quality নির্ভর করে model কী করতে পারে তার ওপরই নয়, vendor কতটা নিখুঁতভাবে risky intent আর ordinary use-এর মধ্যে পার্থক্য করতে পারে তার ওপরও।

Fable 5 নিয়ে প্রাথমিক প্রতিক্রিয়া ইঙ্গিত দেয়, Anthropic এখনও সেই precision খুঁজে পায়নি। কোম্পানি বলছে fallback queries-এর খুব ছোট অংশকে প্রভাবিত করে, কিন্তু user reports দেখায়, blocked prompts স্পষ্টত harmless মনে হলে reputational impact কতটা বড় হতে পারে। Developers consistency-এর ওপর নির্ভর করেন বলেই এতে বিশেষভাবে সংবেদনশীল। একটি system যা অনির্দেশ্যভাবে work reroute করে বা context-critical terms refuse করে, তা দ্রুত serious workflows-এ integrate করা কঠিন হয়ে পড়ে।

কঠিন অংশ এখনও বাকি

Anthropic বলছে, তারা সমস্যাটি নিয়ে কাজ করছে। সেটাই একমাত্র বাস্তবসম্মত পথ। Mythos-derived model-এর জন্য safeguards ছেড়ে দেওয়ার বিকল্প কোম্পানির নেই, আর users-ও স্থায়ীভাবে অতিরিক্ত বিস্তৃত screening regime মেনে নেবেন না। তাই technical এবং policy চ্যালেঞ্জ হলো classifier-কে এমনভাবে narrow করা যাতে false positives কমে, কিন্তু evasion সহজ না হয়।

এটি নিছক patching exercise নয়। এটি পরীক্ষা করে, frontier AI কোম্পানিগুলি safety principles-কে এমন product behavior-এ রূপ দিতে পারে কি না যা scale-এও usable থাকে। Fable 5 এখনও উপলব্ধ সবচেয়ে শক্তিশালী public models-এর একটি প্রমাণিত হতে পারে। কিন্তু এর launch এটাও দেখায় যে model safety আর side issue নয়। এটি product-এর অংশ, আর যদি তা খুব blunt হয়, তাহলে ব্যবহারকারীরা এটিকে product failure হিসেবেই দেখবে।

এই নিবন্ধটি Fast Company-এর প্রতিবেদনের ভিত্তিতে। মূল নিবন্ধ পড়ুন.