Anthropic US আদেশের পর Fable 5 ও Mythos 5 স্থগিত করল

সরকারি আদেশের পর Anthropic দুটি নতুন AI মডেল অফলাইনে সরিয়ে নিল

Engadget উদ্ধৃত কোম্পানির প্রকাশ্য ব্যাখ্যা অনুযায়ী, শুক্রবার, ১২ জুন একটি মার্কিন সরকারি আদেশ পাওয়ার পর Anthropic তার সদ্য চালু হওয়া Fable 5 এবং Mythos 5 মডেলে গ্রাহক অ্যাক্সেস স্থগিত করেছে। এই পদক্ষেপ ওই দুই মডেলের সব গ্রাহককে প্রভাবিত করছে, যদিও Anthropic-এর বাকি মডেল লাইনআপ এবং তার Claude chatbot এখনও উপলব্ধ রয়েছে।

কোম্পানিটি বলেছে, নির্দেশে বিদেশি নাগরিকদের জন্য অ্যাক্সেস বন্ধ করতে বলা হয়েছিল, তারা যুক্তরাষ্ট্রের ভেতরে থাকুক বা বাইরে, এমনকি তারা Anthropic-এ কাজ করলেও। Anthropic এই হস্তক্ষেপকে জাতীয় নিরাপত্তা উদ্বেগের সঙ্গে যুক্ত করেছে, যদিও এটিও বলেছে যে সরকার সেগুলো বিস্তারিতভাবে ব্যাখ্যা করেনি।

এতে দ্রুতগামী AI বাজারে একটি অস্বাভাবিক এবং গুরুত্বপূর্ণ ঘটনা তৈরি হয়েছে: একটি বড় বাণিজ্যিক মডেল লঞ্চ কয়েক দিনের মধ্যে জাতীয় নিরাপত্তা আদেশে থেমে যাওয়া, আর কোম্পানি তা মান্য করার পাশাপাশি রিকলের ভিত্তির সঙ্গে দ্বিমতও জানাচ্ছে।

কী কারণে পদক্ষেপ নেওয়া হয়েছে বলে Anthropic জানাল

Anthropic বলেছে, তারা মনে করে সরকার Fable 5 jailbreak করার একটি পদ্ধতি সম্পর্কে শুনে পদক্ষেপ নিয়েছে। কোম্পানির ভাষ্য অনুযায়ী, কর্মকর্তারা একটি অজ্ঞাত সত্তার সঙ্গে ভাগ করা এক সম্ভাব্য সংকীর্ণ, non-universal jailbreak সম্পর্কে মৌখিক প্রমাণ দিয়েছেন। Anthropic বলেছে, তারা ২৪ ঘণ্টার মধ্যে আরও বিস্তারিত দেবে।

এই পার্থক্যটি গুরুত্বপূর্ণ। Anthropic যুক্তি দিয়েছে, কোনো model provider-ই jailbreak প্রচেষ্টার বিরুদ্ধে নিখুঁত প্রতিরোধের নিশ্চয়তা দিতে পারে না, এবং সব model-ই তাদের জন্য বিশেষভাবে তৈরি আক্রমণের প্রতি দুর্বল। Fable 5-এর জন্য তাদের কৌশল ছিল jailbreak-কে হয় সংকীর্ণ রাখা, নয়তো সেগুলো তৈরি করা ব্যয়বহুল করা, আর সফল প্রচেষ্টা শনাক্ত ও বন্ধ করতে monitoring-এর ওপর নির্ভর করা।

এই framing ইঙ্গিত দেয়, কোম্পানি বিষয়টিকে বিশেষভাবে বিপজ্জনক ব্যর্থতার প্রমাণের চেয়ে বেশি একটি পরিচিত security problem হিসেবে দেখছে, যা layered defenses দিয়ে সামলাতে হবে। তা সত্ত্বেও, তাৎক্ষণিক বাস্তব ফল ছিল আক্রান্ত মডেলগুলিতে সম্পূর্ণ অ্যাক্সেস স্থগিত।

Fable 5 এবং Mythos 5 কেন গুরুত্বপূর্ণ

এই আদেশ এমন এক সংবেদনশীল সময়ে এসেছে, কারণ Anthropic মাত্র ৯ জুন Fable চালু করেছিল। কোম্পানি Fable-কে Mythos-এর অনেক ক্ষমতা আরও বিস্তৃত সাধারণ দর্শকের কাছে পৌঁছে দেওয়ার উপায় হিসেবে তুলে ধরেছিল। অন্যদিকে, Mythos-কে Project Glasswing অংশীদারদের জন্য সংরক্ষিত রাখা হয়েছিল এবং Anthropic-এর state-of-the-art cybersecurity model হিসেবে বর্ণনা করা হয়েছিল।

Anthropic আরও বলেছিল, Fable-এর ক্ষমতা তাদের প্রকাশিত আগের যেকোনো model-এর চেয়ে বেশি। Engadget-এ উদ্ধৃত কোম্পানির পরীক্ষায়, Fable Pokemon FireRed-কে হারিয়েছে, যেখানে Claude আগে Pokemon Red-কে হারাতে পারেনি। উপরিভাগে তুলনাটি হালকা মনে হলেও, এটি Fable-কে ক্ষমতার একটি উল্লেখযোগ্য অগ্রগতি হিসেবে উপস্থাপন করতে ব্যবহৃত হয়েছে।

অন্য কথায়, এটি কোনো ক্ষুদ্র product update ছিল না। এটি Anthropic-এর সবচেয়ে উন্নত কাজের সঙ্গে যুক্ত একটি নতুন flagship-শ্রেণির release ছিল। লঞ্চের এত অল্প সময় পর এটিকে সরিয়ে নেওয়া কেবল security review নয়, frontier systems নতুন ঝুঁকি তৈরি করছে বলে বিবেচিত হলে সরকার কীভাবে হস্তক্ষেপ করতে পারে, সে প্রশ্নও তোলে।

AI governance-এর একটি test case

Anthropic এমন কয়েকটি বড় AI কোম্পানির একটি, যারা শক্তিশালী oversight-এর প্রয়োজনীয়তা নিয়ে সবচেয়ে সরব। আদেশের প্রতি তাদের প্রতিক্রিয়া সেই অবস্থানই প্রতিফলিত করে, তবে একটি গুরুত্বপূর্ণ শর্তসহ। কোম্পানিটি বলেছে, unsafe deployment বন্ধ করার ক্ষমতা সরকারের থাকা উচিত, তবে তা কেবল একটি statutory process-এর মাধ্যমে, যা transparent, fair, clear এবং technical facts-এর ভিত্তিতে হওয়া দরকার।

এটি একটি উল্লেখযোগ্য public stance, কারণ Anthropic একসঙ্গে আদেশ মানছে এবং এটি যেভাবে কার্যকর করা হয়েছে তা চ্যালেঞ্জও করছে। source text-এর ভিত্তিতে, কোম্পানির আপত্তি oversight-এর ধারণার বিরুদ্ধে নয়। আপত্তি হলো একটি recall process নিয়ে, যা সম্ভাব্য jailbreak সম্পর্কে মৌখিক প্রমাণের ভিত্তিতে শুরু হয়েছে, অথচ Anthropic বলছে এমন সিদ্ধান্ত নিয়ন্ত্রণে একটি স্পষ্ট procedural framework থাকা উচিত।

অতএব, এই ঘটনা একটি কোম্পানি এবং একটি model family-এর সীমা ছাড়িয়ে যায়। এটি advanced AI systems-এর জন্য এখনো অমীমাংসিত policy প্রশ্নকে সামনে আনে: কখন একটি reported exploit জরুরি হস্তক্ষেপকে ন্যায্য করে, এবং সরকার shutdown বাধ্য করার আগে কী মানের evidence থাকা দরকার?

এরপর কী

এখন আপাতত Anthropic-এর গ্রাহকদের জন্য একটি সীমিত কিন্তু গুরুত্বপূর্ণ disruption রয়েছে। Fable 5 এবং Mythos 5 অনুপলব্ধ, কিন্তু অন্য model এবং Claude প্রভাবিত হয়নি। এতে operational blast radius সীমিত থাকে, কিন্তু প্রতীকী গুরুত্ব বড়। একটি সরকারি আদেশ সরাসরি সদ্য চালু হওয়া frontier model-এর deployment-এ পৌঁছে গেছে, এবং একটি শীর্ষ AI developer-কে প্রায় সঙ্গে সঙ্গেই access ফিরিয়ে নিতে হয়েছে।

উপলব্ধ প্রতিবেদনের ভিত্তিতে বেশ কিছু অজানা বিষয় রয়ে গেছে:

• কোন নির্দিষ্ট জাতীয় নিরাপত্তা উদ্বেগ কর্মকর্তারা চিহ্নিত করেছিলেন।
• কথিত jailbreak বাস্তবে কতটা ব্যাপকভাবে কাজ করেছিল।
• স্থগিতাদেশটি সাময়িক কি না, নাকি দীর্ঘ rollback-এ পরিণত হতে পারে।
• Exploit এবং তার safeguards সম্পর্কে Anthropic ভবিষ্যতে কী প্রকাশ করবে।

এই বিবরণগুলো ঠিক করবে এটি কি একটি সতর্কতামূলক বিরতি হিসেবে স্মরণ করা হবে, নাকি বাণিজ্যিক AI release-এ সরাসরি রাষ্ট্রীয় হস্তক্ষেপের প্রাথমিক নকশা হিসেবে। যেভাবেই হোক, শিল্পের জন্য বার্তাটি এখনই স্পষ্ট: frontier model launch আর শুধু প্রযুক্তিগত প্রস্তুতি এবং বাজার-সময়ের উপর নির্ভর করছে না। জাতীয় নিরাপত্তা কর্তৃপক্ষও বাস্তব সময়ে সেগুলো থামাতে পারে।

এতে AI deployment-এর কেন্দ্রবিন্দু বদলে যায়। providers এখনও performance এবং safety-তে প্রতিযোগিতা করতে পারে, কিন্তু এখন তারা এমন পরিবেশে কাজ করছে যেখানে একটি reported vulnerability কেবল internal mitigation নয়, external enforcement-ও ট্রিগার করতে পারে। Fable 5 এবং Mythos 5 স্থগিত করার Anthropic-এর পদক্ষেপ AI প্রতিযোগিতার পরবর্তী পর্যায়ে model capability-র পাশাপাশি governance mechanisms-ও সমানভাবে প্রভাব ফেলবে, তারই একটি প্রাথমিক ইঙ্গিত।

এই নিবন্ধটি Engadget-এর প্রতিবেদনের ওপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন.