সীমাবদ্ধ AI মডেলে কথিত প্রবেশ নিয়ে Anthropic পর্যালোচনা করছে
Anthropic নিশ্চিত করেছে যে তারা Claude Mythos Preview-এ অননুমোদিত প্রবেশের একটি প্রতিবেদন তদন্ত করছে, যাকে কোম্পানি জনসাধারণের জন্য প্রকাশের তুলনায় অত্যন্ত বিপজ্জনক বলে বর্ণনা করেছে। বলা হয়েছে, এই প্রবেশটি একটি তৃতীয় পক্ষের বিক্রেতা পরিবেশের মাধ্যমে ঘটেছে।
Bloomberg যে বিবৃতি প্রতিবেদন করেছে এবং Gizmodo যে তা তুলে ধরেছে, তাতে বলা হয়েছে Anthropic এমন একটি প্রতিবেদন পেয়েছে যেখানে দাবি করা হয়েছে যে তাদের একটি তৃতীয় পক্ষের বিক্রেতা পরিবেশের মাধ্যমে Claude Mythos Preview-এ অননুমোদিত প্রবেশ করা হয়েছে। Bloomberg নাকি সংশ্লিষ্ট গোষ্ঠীর এক সদস্যের কাছ থেকে একটি লাইভ ডেমো ও স্ক্রিনশট দেখেছে।
সর্বজনীনভাবে উপলব্ধ তথ্য সীমিত, এবং প্রতিবেদনে সংশ্লিষ্ট ব্যক্তি ও পদ্ধতি চিহ্নিত করার ক্ষেত্রে সতর্কতা অবলম্বন করা হয়েছে। তবু এই ঘটনা সীমান্তবর্তী AI ল্যাবগুলোর জন্য একটি গুরুতর শাসনসংক্রান্ত প্রশ্ন তোলে: একটি মডেলকে জনসমক্ষে প্রকাশ না করলেও, বিক্রেতা প্রবেশাধিকার ও অভ্যন্তরীণ টুলিং এমন পথ তৈরি করতে পারে যা মডেলটির চেয়েও সুরক্ষিত করা কঠিন।
কথিত প্রবেশ কীভাবে ঘটেছে
প্রবন্ধে সংক্ষিপ্তভাবে উপস্থাপিত সূত্রের বিবরণ অনুযায়ী, গোষ্ঠীটি কয়েকটি তথ্য একত্র করেছিল। বলা হয়, একটি Discord গোষ্ঠী প্রকাশ না হওয়া AI মডেল সম্পর্কে তথ্য খুঁজতে bots ব্যবহার করেছিল। ওই বিবরণে AI প্রশিক্ষণ স্টার্টআপ Mercor-এ একটি ডেটা ভাঙনের কথাও উল্লেখ আছে। এরপর গোষ্ঠীটি কথিতভাবে সেই তথ্যকে Anthropic-এর এক ঠিকাদারের কাছে কর্মরত একজন ব্যক্তির প্রবেশাধিকারের সঙ্গে মিলিয়ে দেখে।
সেই ঘটনাপ্রবাহ নাকি গোষ্ঠীটিকে Claude Mythos-এর অনলাইন অবস্থান অনুমান করতে সাহায্য করেছিল। বলা হয়, Anthropic Project Glasswing ঘোষণা করার একই দিন, অর্থাৎ 7 এপ্রিল থেকে গোষ্ঠীটি মডেলটিতে প্রবেশ পেয়েছিল।
প্রতিবেদনে উদ্ধৃত সূত্রটি দাবি করেছে যে গোষ্ঠীটি ক্ষতি করার চেয়ে নতুন মডেল নিয়ে পরীক্ষা-নিরীক্ষায় বেশি আগ্রহী ছিল। তবে ওই দাবি প্রবেশসংক্রান্ত সমস্যার গুরুত্ব কমায় না। যদি কোনো সীমাবদ্ধ মডেল অননুমোদিত কারও জন্য উন্মুক্ত থাকে, তবে ঝুঁকি শুধু প্রথমে প্রতিবেদনে উল্লেখিত গোষ্ঠীটির উদ্দেশ্যের ওপর নির্ভর করে না।
বিক্রেতা-ঝুঁকির সমস্যা
এই ঘটনাটি উচ্চ-নিরাপত্তাসম্পন্ন প্রযুক্তি পরিচালনার একটি সাধারণ দুর্বলতা তুলে ধরে: মূল কোম্পানি নিজের সিস্টেম লক করে রাখতে পারে, কিন্তু ঠিকাদার, বিক্রেতা ও অংশীদার পরিবেশে যথেষ্ট প্রবেশাধিকার থেকে যায় এবং সেগুলো আকর্ষণীয় লক্ষ্য হয়ে ওঠে।
AI কোম্পানিগুলোর জন্য ঝুঁকিটি বিশেষভাবে বড়। একটি সীমান্তবর্তী মডেল শুধু একটি ফাইল বা সেবা নয়। এতে এমন ক্ষমতা থাকতে পারে যা ডেভেলপার ইচ্ছাকৃতভাবে জনসমক্ষে প্রকাশ থেকে আটকে রেখেছে। যদি প্রিভিউ মডেল, মূল্যায়ন ব্যবস্থা বা ঠিকাদার পরিবেশ ঘিরে প্রবেশ নিয়ন্ত্রণ দুর্বল হয়, তাহলে মডেল চালুর আগেই কোম্পানির প্রকাশনীতি ক্ষতিগ্রস্ত হতে পারে।
প্রতিবেদনটি প্রবেশাধিকারটির পূর্ণ পরিসর, মডেল ওয়েটস উন্মুক্ত হয়েছিল কি না, বা প্রবেশ কেবল একটি ইন্টারফেসে সীমাবদ্ধ ছিল কি না, তা নির্ধারণ করে না। এ পার্থক্যগুলো গুরুত্বপূর্ণ। ইন্টারফেসে প্রবেশও ঝুঁকিপূর্ণ হতে পারে, কিন্তু তা মডেল ওয়েটস বা প্রশিক্ষণ সম্পদের চুরির থেকে আলাদা। Anthropic-এর তদন্তকে নির্দিষ্ট করতে হবে ঠিক কীতে পৌঁছানো গিয়েছিল, কতক্ষণ, এবং কোন কোন ব্যবস্থার মাধ্যমে।
Anthropic-এর বাইরেও কেন এটি গুরুত্বপূর্ণ
AI ল্যাবগুলো ক্রমেই মূল্যায়ন, ডেটা কাজ, red teaming, লেবেলিং এবং পরিচালনার জন্য বাইরের ঠিকাদারদের ওপর নির্ভর করছে। এসব কর্মপ্রবাহ বিস্তৃত প্রবেশপথ তৈরি করতে পারে, যা নজরদারি করা কঠিন, বিশেষ করে যখন দলগুলো অনপ্রকাশিত সিস্টেম বানানো ও পরীক্ষা করার জন্য দ্রুত এগোচ্ছে।
সেই কারণে Claude Mythos প্রতিবেদনটি সীমান্তবর্তী মডেল নিরাপত্তা নিয়ে একটি বৃহত্তর শিল্প-আলোচনার কেন্দ্রে এসে পড়েছে। যদি কোম্পানিগুলো বলে যে কিছু মডেল প্রকাশের জন্য অতিশয় শক্তিশালী, তবে তাদের দেখাতে হবে যে সীমাবদ্ধ প্রবেশ কর্মসূচি, বিক্রেতা ব্যবস্থা এবং অভ্যন্তরীণ প্রিভিউ পরিবেশ একই গুরুত্বে পরিচালিত হচ্ছে।
এটি আস্থার প্রশ্নও বটে। সরকার, এন্টারপ্রাইজ গ্রাহক এবং জনসাধারণকে বলা হচ্ছে যে AI নির্মাতারা ক্রমবর্ধমান সক্ষম সিস্টেম নিরাপদে পরিচালনা করতে পারে। বিক্রেতা পরিবেশের মাধ্যমে কথিত অননুমোদিত প্রবেশ সেই দাবিরই পরীক্ষা।
পরবর্তী পর্যবেক্ষণ
এখন মূল প্রশ্নগুলো পরিষ্কার। Anthropic-কে নির্ধারণ করতে হবে সত্যিই ওই প্রবেশ ঘটেছিল কি না, কোনো সংবেদনশীল তথ্য বা মডেল সক্ষমতা উন্মুক্ত হয়েছিল কি না, প্রবেশ বন্ধ করা হয়েছে কি না, এবং তৃতীয় পক্ষের বিক্রেতা নিয়ন্ত্রণে পরিবর্তন দরকার কি না।
বৃহত্তর AI খাত নজর রাখবে ল্যাবগুলো কি ঠিকাদার প্রবেশাধিকার কঠোর করছে, প্রিভিউ সিস্টেম ঘিরে পর্যবেক্ষণ উন্নত করছে, এবং অনপ্রকাশিত মডেল সম্পর্কে খুঁজে পাওয়া যায় এমন তথ্য সীমিত করছে কি না। সবচেয়ে গুরুত্বপূর্ণ শিক্ষা হতে পারে, মডেল নিরাপত্তা শুধু গবেষণার সমস্যা নয়। এটি অবকাঠামো, প্রবেশ নিয়ন্ত্রণ এবং বিক্রেতা ব্যবস্থাপনার সমস্যাও বটে।
এই নিবন্ধটি Gizmodo-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধটি পড়ুন.
Originally published on gizmodo.com
