অননুমোদিত প্রবেশের দাবি Anthropic-এর সাইবারসিকিউরিটি AI রোলআউটকে প্রশ্নের মুখে ফেলেছে

Mythos-এ রিপোর্ট করা প্রবেশ নিয়ে Anthropic তদন্ত করছে

Anthropic একটি প্রতিবেদন তদন্ত করছে, যেখানে বলা হয়েছে অননুমোদিত ব্যবহারকারীদের একটি দল Claude Mythos Preview-এ প্রবেশ করেছে, যা কোম্পানির একটি AI টুল এবং সাইবারসিকিউরিটির ওপর কেন্দ্রীভূত, এবং যা কেবলমাত্র নির্বাচিত বিক্রেতাদের জন্য উন্মুক্ত ছিল। কোম্পানি TechCrunch-কে জানিয়েছে যে তারা তদন্ত করছে কীভাবে তৃতীয় পক্ষের বিক্রেতা পরিবেশের মাধ্যমে এই প্রবেশ ঘটেছে বলে দাবি করা হচ্ছে, এবং তারা বলেছে যে Anthropic-এর নিজস্ব সিস্টেম প্রভাবিত হয়েছে এমন কোনো প্রমাণ তারা পায়নি।

এই প্রতিবেদন গুরুত্বপূর্ণ, কারণ Mythos কোনো সাধারণ ভোক্তামুখী চ্যাটবট নয়। Anthropic এই পণ্যটিকে একটি এন্টারপ্রাইজ সিকিউরিটি টুল হিসেবে বর্ণনা করেছে, যার যথেষ্ট ক্ষমতা আছে যে ভুল হাতে পড়লে সেটি আক্রমণাত্মক হ্যাকিংয়ের জন্য পুনর্ব্যবহৃত হতে পারে। এই দ্বৈত-ব্যবহার প্রোফাইলই ব্যাখ্যা করে কেন টুলটির সীমিত মুক্তি গুরুত্বপূর্ণ: অ্যাক্সেস নিয়ন্ত্রণ শুধু বাণিজ্যিক প্যাকেজিং সিদ্ধান্ত নয়, নিরাপত্তা মডেলের অংশও।

কীভাবে প্রবেশ নাকি পাওয়া হয়েছে বলে জানা গেছে

সোর্স ম্যাটেরিয়াল অনুযায়ী, Bloomberg রিপোর্ট করেছে যে একটি ব্যক্তিগত অনলাইন ফোরামের সদস্যরা তৃতীয় পক্ষের বিক্রেতার মাধ্যমে Mythos-এ প্রবেশ পেয়েছিল। সংশ্লিষ্ট ব্যক্তিদের প্রকাশ্যে শনাক্ত করা হয়নি। প্রতিবেদনে উদ্ধৃত একজন ব্যক্তির সম্পর্কে বলা হয় যে তিনি Anthropic-সংশ্লিষ্ট একটি তৃতীয় পক্ষের ঠিকাদারের জন্য কাজ করতেন, এবং গোষ্ঠীটি তাদের প্রচেষ্টার অংশ হিসেবে ওই ব্যক্তির প্রবেশাধিকার ব্যবহার করেছিল বলে রিপোর্ট করা হয়েছে।

গোষ্ঠীটি Anthropic-এর আগের নামকরণ বা লোকেশন প্যাটার্নের ভিত্তিতে মডেলটির অনলাইন অবস্থান সম্পর্কে একটি শিক্ষিত অনুমানও করেছিল বলে অভিযোগ। Bloomberg-কে নাকি টুলটির স্ক্রিনশট এবং একটি লাইভ ডেমো দেখানো হয়েছিল। বলা হয়, পাবলিক ঘোষণার দিনই গোষ্ঠীটি Mythos-এ প্রবেশ করেছিল এবং এরপর নিয়মিতভাবে তা ব্যবহার করেছিল।

ঘটনাটি কেন গুরুত্বপূর্ণ

AI কোম্পানিগুলোর জন্য, এই ঘটনা একটি পরিচিত সমস্যাকে আরও তীক্ষ্ণভাবে তুলে ধরে: একটি মডেলকে তার মূল অংশে সুরক্ষিত রাখা যায়, কিন্তু তার চারপাশের বিস্তৃত ইকোসিস্টেমের মাধ্যমে তা এখনও উন্মুক্ত হয়ে যেতে পারে। বিক্রেতা পরিবেশ, ঠিকাদার, প্রিভিউ প্রোগ্রাম এবং প্রাথমিক অংশীদার মোতায়েন সবই এমন জায়গার সংখ্যা বাড়িয়ে দেয় যেখানে অ্যাক্সেস ক্রেডেনশিয়াল এবং রাউটিং বিবরণ ফাঁস হতে পারে বা অপব্যবহৃত হতে পারে।

Anthropic-এর বর্তমান অবস্থান প্রতিবেদনের দাবির তুলনায় আরও সীমিত। কোম্পানি বলছে না যে তাদের সিস্টেমে অনুপ্রবেশ ঘটেছে। তারা বলছে, তৃতীয় পক্ষের বিক্রেতা পরিবেশ-সংক্রান্ত একটি প্রতিবেদন তারা তদন্ত করছে এবং Anthropic সিস্টেমগুলো প্রভাবিত হয়েছে এমন কোনো প্রমাণ তারা দেখেনি। এই পার্থক্যটি গুরুত্বপূর্ণ, কিন্তু এটি কার্যগত ঝুঁকি দূর করে না। সীমাবদ্ধ AI সিস্টেমের ক্ষেত্রে, কোনো অংশীদারের মাধ্যমে অননুমোদিত ব্যবহার এখনও নিয়ন্ত্রিত রোলআউটের উদ্দেশ্যকে দুর্বল করতে পারে।

প্রতিবেদন অনুযায়ী, Mythos-কে Apple-সহ নির্বাচিত একদল বিক্রেতার কাছে Project Glasswing নামে একটি উদ্যোগের অংশ হিসেবে মুক্তি দেওয়া হয়েছিল। এই সীমিত রিলিজের উদ্দেশ্য ছিল খারাপ উদ্দেশ্যসম্পন্ন ব্যক্তিরা টুলটি ব্যবহার করার সম্ভাবনা কমানো। যদি একটি ব্যক্তিগত গোষ্ঠী ঘোষণার পরপরই কোনো বিক্রেতা চ্যানেলের মাধ্যমে প্রবেশ পেয়ে থাকে, তাহলে প্রিভিউ মোতায়েন কীভাবে পর্যবেক্ষণ করা হয়, অ্যাক্সেস কীভাবে সীমিত করা হয়, এবং সন্দেহজনক ব্যবহার কত দ্রুত শনাক্ত করা যায়, সে প্রশ্ন ওঠে।

বৃহত্তর AI নিরাপত্তা চ্যালেঞ্জ

প্রতিবেদনটি প্রকাশ না হওয়া AI সিস্টেমকে ঘিরে থাকা সংস্কৃতিগত একটি সমস্যার দিকেও ইঙ্গিত করে। সোর্স ম্যাটেরিয়ালে একটি Discord চ্যানেলের কথা বলা হয়েছে, যার সদস্যরা প্রকাশ না হওয়া AI মডেল সম্পর্কে তথ্য খোঁজেন। প্রতিবেদনে উদ্ধৃত ব্যক্তিটি গোষ্ঠীটিকে ক্ষতি করার বদলে নতুন মডেল নিয়ে পরীক্ষা-নিরীক্ষায় আগ্রহী বলে বর্ণনা করেছিলেন। এমনকি এই বর্ণনা সঠিক হলেও, একটি সাইবারসিকিউরিটি টুলে অননুমোদিত পরীক্ষা-নিরীক্ষা সাধারণ চ্যাটবট-সংক্রান্ত কৌতূহলের তুলনায় অনেক বেশি ঝুঁকির পরিস্থিতি তৈরি করে।

এন্টারপ্রাইজ AI নিরাপত্তা পণ্যকে যথেষ্ট কার্যকর হতে হবে, যাতে তা হুমকি বিশ্লেষণ, তদন্ত স্বয়ংক্রিয়করণ এবং প্রতিরক্ষাকারীদের সহায়তা করতে পারে। কিন্তু একই ক্ষমতা যদি রিকনেসান্স বা এক্সপ্লয়টেশনের দিকে ঘুরে যায়, তাহলে তা বিপজ্জনক হয়ে উঠতে পারে। এই টানাপোড়েনই প্রকাশ-শৃঙ্খলাকে পণ্য নিরাপত্তার কেন্দ্রে নিয়ে আসে। এটাও বোঝায় যে প্রিভিউতে অংশ নেওয়া বিক্রেতারা নিরাপত্তা সীমানার অংশ হয়ে যায়।

Anthropic-এর তাত্ক্ষণিক কাজ হলো কী ঘটেছে, কোনো অ্যাক্সেস পথ এখনও খোলা আছে কি না, এবং তৃতীয় পক্ষের পরিবেশ সংক্রান্ত নিয়ন্ত্রণ যথেষ্ট ছিল কি না তা নির্ধারণ করা। বৃহত্তর শিল্পের জন্য, এই ঘটনা একটি সতর্কবার্তা যে frontier AI governance নির্ভর করে দৈনন্দিন কার্যকরী বিবরণগুলোর ওপর: ক্রেডেনশিয়াল, ঠিকাদার, বিক্রেতা অনুমতি, লগিং, এবং অভ্যন্তরীণ নামকরণের নিয়ম।

ঘটনাটিকে এখনো Anthropic-এর নিজস্ব সিস্টেমে কোনো breach হিসেবে বর্ণনা করা হয়নি। তবু Mythos-এ রিপোর্ট করা প্রবেশ দেখায়, সীমাবদ্ধ AI টুলের অস্তিত্ব জানা গেলেই সেগুলো কত দ্রুত লক্ষ্যবস্তুতে পরিণত হতে পারে।

এই নিবন্ধটি TechCrunch-এর প্রতিবেদনের ওপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন.