সীমাবদ্ধ AI মডেলে কথিত প্রবেশ নিয়ে Anthropic পর্যালোচনা করছে

Anthropic নিশ্চিত করেছে যে তারা Claude Mythos Preview-এ অননুমোদিত প্রবেশের একটি প্রতিবেদন তদন্ত করছে, যাকে কোম্পানি জনসাধারণের জন্য প্রকাশের তুলনায় অত্যন্ত বিপজ্জনক বলে বর্ণনা করেছে। বলা হয়েছে, এই প্রবেশটি একটি তৃতীয় পক্ষের বিক্রেতা পরিবেশের মাধ্যমে ঘটেছে।

Bloomberg যে বিবৃতি প্রতিবেদন করেছে এবং Gizmodo যে তা তুলে ধরেছে, তাতে বলা হয়েছে Anthropic এমন একটি প্রতিবেদন পেয়েছে যেখানে দাবি করা হয়েছে যে তাদের একটি তৃতীয় পক্ষের বিক্রেতা পরিবেশের মাধ্যমে Claude Mythos Preview-এ অননুমোদিত প্রবেশ করা হয়েছে। Bloomberg নাকি সংশ্লিষ্ট গোষ্ঠীর এক সদস্যের কাছ থেকে একটি লাইভ ডেমো ও স্ক্রিনশট দেখেছে।

সর্বজনীনভাবে উপলব্ধ তথ্য সীমিত, এবং প্রতিবেদনে সংশ্লিষ্ট ব্যক্তি ও পদ্ধতি চিহ্নিত করার ক্ষেত্রে সতর্কতা অবলম্বন করা হয়েছে। তবু এই ঘটনা সীমান্তবর্তী AI ল্যাবগুলোর জন্য একটি গুরুতর শাসনসংক্রান্ত প্রশ্ন তোলে: একটি মডেলকে জনসমক্ষে প্রকাশ না করলেও, বিক্রেতা প্রবেশাধিকার ও অভ্যন্তরীণ টুলিং এমন পথ তৈরি করতে পারে যা মডেলটির চেয়েও সুরক্ষিত করা কঠিন।

কথিত প্রবেশ কীভাবে ঘটেছে

প্রবন্ধে সংক্ষিপ্তভাবে উপস্থাপিত সূত্রের বিবরণ অনুযায়ী, গোষ্ঠীটি কয়েকটি তথ্য একত্র করেছিল। বলা হয়, একটি Discord গোষ্ঠী প্রকাশ না হওয়া AI মডেল সম্পর্কে তথ্য খুঁজতে bots ব্যবহার করেছিল। ওই বিবরণে AI প্রশিক্ষণ স্টার্টআপ Mercor-এ একটি ডেটা ভাঙনের কথাও উল্লেখ আছে। এরপর গোষ্ঠীটি কথিতভাবে সেই তথ্যকে Anthropic-এর এক ঠিকাদারের কাছে কর্মরত একজন ব্যক্তির প্রবেশাধিকারের সঙ্গে মিলিয়ে দেখে।

সেই ঘটনাপ্রবাহ নাকি গোষ্ঠীটিকে Claude Mythos-এর অনলাইন অবস্থান অনুমান করতে সাহায্য করেছিল। বলা হয়, Anthropic Project Glasswing ঘোষণা করার একই দিন, অর্থাৎ 7 এপ্রিল থেকে গোষ্ঠীটি মডেলটিতে প্রবেশ পেয়েছিল।

প্রতিবেদনে উদ্ধৃত সূত্রটি দাবি করেছে যে গোষ্ঠীটি ক্ষতি করার চেয়ে নতুন মডেল নিয়ে পরীক্ষা-নিরীক্ষায় বেশি আগ্রহী ছিল। তবে ওই দাবি প্রবেশসংক্রান্ত সমস্যার গুরুত্ব কমায় না। যদি কোনো সীমাবদ্ধ মডেল অননুমোদিত কারও জন্য উন্মুক্ত থাকে, তবে ঝুঁকি শুধু প্রথমে প্রতিবেদনে উল্লেখিত গোষ্ঠীটির উদ্দেশ্যের ওপর নির্ভর করে না।