Anthropic AI পরীক্ষায় নাকি শ্রেণিবদ্ধ সিস্টেমের ত্রুটি ধরা পড়েছে

Anthropic-এর পরীক্ষার প্রতিবেদন AI নিরাপত্তা বিতর্কে নতুন জরুরি ভাব যোগ করেছে

Fast Company-এর একটি নতুন প্রতিবেদনে, যেখানে একজন অজ্ঞাত মার্কিন কর্মকর্তা এবং সিনেট শুনানিতে করা মন্তব্যের উল্লেখ রয়েছে, বলা হয়েছে যে Anthropic-এর একটি উন্নত AI মডেল পরীক্ষামূলক অনুশীলনের সময় অত্যন্ত সংবেদনশীল মার্কিন সরকারি কম্পিউটার সিস্টেমের দুর্বলতা শনাক্ত করেছিল। যদি এটি সঠিক হয়, তবে ঘটনাটি জাতীয় নিরাপত্তা ক্ষেত্রে frontier AI সিস্টেমগুলো কীভাবে মূল্যায়ন, নিয়ন্ত্রণ এবং মোতায়েন করা উচিত, সেই বিতর্কে একটি গুরুত্বপূর্ণ মুহূর্ত চিহ্নিত করবে।

প্রতিবেদন অনুযায়ী, Anthropic যুক্তরাষ্ট্রের গোয়েন্দা সংস্থাগুলোর সঙ্গে তার Mythos মডেলকে নিয়ে একটি পরীক্ষায় কাজ করেছিল। ওই কর্মকর্তা বলেন, মডেলটি কয়েক ঘণ্টার মধ্যে কিছু দুর্বলতা খুঁজে পায়। একই সূত্র আরও বলেছে, দুর্বলতা দ্রুত খুঁজে পাওয়া মানেই এই নয় যে মডেলটি তখনই সেগুলো কাজে লাগিয়েছিল। এই পার্থক্য গুরুত্বপূর্ণ: একটি সিস্টেমে প্রবেশের সম্ভাব্য পথ শনাক্ত করা আর বাস্তবে অনুপ্রবেশ করা এক জিনিস নয়। তবুও, দাবিটি উল্লেখযোগ্য, কারণ এটি ইঙ্গিত দেয় যে উন্নত AI সিস্টেম ইতিমধ্যে সরকারের সবচেয়ে সংবেদনশীল ডিজিটাল পরিবেশগুলোর বিরুদ্ধে দ্রুত দুর্বলতা অনুসন্ধানে কার্যকর হতে পারে।

প্রতিবেদনটি এই অনুশীলনকে Anthropic-এর একটি উদ্যোগ Project Glasswing-এর সঙ্গে যুক্ত করেছে, যেটিকে জননিরাপত্তা, জাতীয় নিরাপত্তা এবং অর্থনীতির জন্য গুরুতর ঝুঁকি থেকে গুরুত্বপূর্ণ সফটওয়্যারকে সুরক্ষিত করতে বড় কোম্পানি ও অন্যান্য সংস্থাগুলোকে একত্র করার প্রচেষ্টা হিসেবে বর্ণনা করা হয়েছে। এই কাঠামো পরীক্ষাটিকে বৃহত্তর প্রেক্ষাপটে স্থাপন করে। AI প্রতিষ্ঠান ও সরকারগুলো আর সাইবার নিরাপত্তা ঝুঁকিকে কল্পিত ভবিষ্যতের সমস্যা হিসেবে দেখছে না। তারা এমন সম্ভাবনাকে ঘিরে প্রক্রিয়া তৈরি করছে, যেখানে অত্যন্ত সক্ষম মডেল দুর্বলতা খুঁজে পেতে সময় কমিয়ে দিতে পারে, সিস্টেমের দুর্বলতা মানচিত্রায়িত করতে পারে, এবং আক্রমণাত্মক সাইবার কাজের কিছু অংশের জন্য প্রয়োজনীয় দক্ষতা কমিয়ে দিতে পারে।

কী নিশ্চিত, আর কী নয়

এই গল্পের সবচেয়ে বড় সতর্কতা হলো উৎস। মূল দাবিগুলো এসেছে শ্রেণিবদ্ধ বা অত্যন্ত সংবেদনশীল বিষয়ে কথা বলা একজন অজ্ঞাত কর্মকর্তার কাছ থেকে। Fast Company আরও জানায়, ১১ জুন Senate Committee on Banking, Housing, and Urban Affairs-এর শুনানিতে ডেমোক্র্যাটিক সিনেটর মার্ক ওয়ার্নার এই অনুশীলনের উল্লেখ করেন, বলেন যে টুলটি “সপ্তাহে নয়, ঘণ্টায়” প্রায় সব শ্রেণিবদ্ধ সিস্টেমে ঢুকে পড়েছিল, এবং এই বর্ণনাকে National Security Agency এবং U.S. Cyber Command-এর প্রধান জেনারেল Joshua Rudd-এর সঙ্গে যুক্ত করেন।

কিন্তু NSA বা Anthropic কেউই প্রতিবেদনের বিবরণ প্রকাশ্যে নিশ্চিত করেনি। নিবন্ধ অনুযায়ী, NSA ইমেইলে মন্তব্য করতে অস্বীকার করেছে, এবং Anthropic-এর একজন মুখপাত্রও মন্তব্য করতে অস্বীকার করেছেন। ফলে জনসাধারণের রেকর্ড এক অস্বাভাবিক অবস্থায় রয়েছে: উদ্বেগের বিস্তৃত অস্তিত্ব একটি প্রকাশ্য শুনানির উল্লেখে সমর্থিত মনে হলেও, নির্দিষ্ট বিবরণ এখনও আংশিকভাবে অনাবিষ্কৃত। শ্রেণিবদ্ধ নেটওয়ার্কের ভেতরে আসলে কী ঘটেছিল, তার সম্পূর্ণ প্রতিষ্ঠিত বিবরণ হিসেবে এই প্রতিবেদনের ফলাফলকে ধরা তাড়াহুড়ো হবে।

তবুও, অসম্পূর্ণ সূত্রভিত্তিক প্রতিবেদন হলেও গল্পটি গুরুত্বপূর্ণ, কারণ এটি চলমান বৃহত্তর নীতিগত পরিবর্তনের সঙ্গে মিলে যায়। সরকারগুলো ক্রমশ উন্নততম AI মডেলগুলোকে দ্বৈত-ব্যবহারের সিস্টেম হিসেবে দেখছে। এগুলো গবেষণা, কোডিং, ও বিশ্লেষণে সহায়তা করতে পারে, কিন্তু যদি সেগুলো খুব বেশি সহজলভ্য হয় বা খুব সামান্য পরীক্ষা করা হয়, তবে সাইবার আক্রমণ, জীব-নিরাপত্তা ঝুঁকি, বিভ্রান্তিমূলক তথ্য অভিযান, এবং কৌশলগত অস্থিতিশীলতাও বাড়াতে পারে।

সময়টা কেন গুরুত্বপূর্ণ

প্রতিবেদনে উল্লেখিত অনুশীলনটি Anthropic এবং Trump administration-এর মধ্যে দৃশ্যমান উত্তেজনার সময়ে এসেছে। Fast Company বলছে, Anthropic তাদের AI সিস্টেম কীভাবে মার্কিন সামরিক বাহিনী ব্যবহার করবে তা নিয়ে উদ্বেগ প্রকাশ করেছে, আর প্রশাসন Anthropic-এর কিছু মডেলের ব্যবহার সীমিত করেছে। জুনের শুরুতে, প্রশাসন একটি নির্দেশ জারি করে Anthropic-কে তাদের সর্বশেষ মডেল Fable 5 এবং Mythos 5 বিদেশি নাগরিকদের ব্যবহার করতে না দিতে বলে। এরপর Anthropic সব গ্রাহকের জন্য মডেলগুলো নিষ্ক্রিয় করে, এবং বলে যে সরকার যে নিরাপত্তা সমস্যার কথা বলেছিল, তার ভিত্তিতে এসব পদক্ষেপ প্রয়োজনীয় ছিল বলে তারা মনে করে না।

এই ধারাবাহিকতা বর্তমান AI মুহূর্তের অন্যতম সংজ্ঞায়িত বিরোধিতা তুলে ধরে। সরকারগুলো চায় frontier labs তাদের প্রতিরক্ষা পরীক্ষা করতে, দুর্বলতা সামনে আনতে, এবং গুরুত্বপূর্ণ অবকাঠামো শক্তিশালী করতে সাহায্য করুক। একই সময়ে, সেই সরকারগুলো প্রতিদ্বন্দ্বীদের দ্বারা অপব্যবহার বা বিপজ্জনক সক্ষমতা ছড়িয়ে পড়ার আশঙ্কায় একই মডেলগুলোর অ্যাক্সেস সীমিত করতেও আরও ইচ্ছুক। এর ফল হলো এক টানাপোড়েনের সম্পর্ক, যেখানে AI কোম্পানিগুলো একই সঙ্গে কৌশলগত অংশীদার ও নিয়ন্ত্রিত ঝুঁকির খেলোয়াড়।

প্রতিবেদনটিতে উদ্ধৃত White House পদক্ষেপ আরেকটি স্তর যোগ করে। Anthropic-কে দেওয়া নির্দেশের দশ দিন আগে, President Donald Trump একটি executive order-এ স্বাক্ষর করেন, যা সর্বাধুনিক AI সিস্টেম থেকে আসা জাতীয় নিরাপত্তা ঝুঁকি ফেডারেল সরকারকে জনসমক্ষে ছাড়ার আগে এক মাস পর্যন্ত যাচাই করার কাঠামো তৈরি করে, এবং ডেভেলপারদের অংশগ্রহণকে স্বেচ্ছাসেবী হিসেবে বর্ণনা করা হয়। এতে বোঝা যায়, ওয়াশিংটন মডেল লঞ্চের পর প্রতিক্রিয়া জানানো নয়, বরং আগে থেকেই একটি স্ক্রিনিং ব্যবস্থা গড়ে তুলতে চাইছে।

সাইবার নিরাপত্তা frontier মডেলগুলোর জন্য একটি স্ট্রেস টেস্ট হয়ে উঠছে

প্রতিবেদনের গভীর তাৎপর্য একটি কোম্পানি বা একটি কথিত পরীক্ষার ফলাফলের মধ্যে সীমাবদ্ধ নয়। এটি সাইবার নিরাপত্তাকে frontier model সক্ষমতার সবচেয়ে স্পষ্ট বাস্তব-জগতের মানদণ্ডগুলোর একটি হিসেবে তুলে ধরে। এমন একটি মডেল, যা দ্রুত কনফিগারেশন বিশ্লেষণ করতে, সম্ভাব্য দুর্বল স্থান শনাক্ত করতে, এবং আক্রমণ-শৃঙ্খল নিয়ে যুক্তি করতে পারে, শক্তিশালী একটি প্রতিরক্ষা সহকারী হতে পারে। একই ক্ষমতা অপব্যবহৃত হলে আক্রমণাত্মক কাজকেও আরও তীক্ষ্ণ করতে পারে।

এই কারণেই এমন দাবিগুলো রপ্তানি নিয়ন্ত্রণ, অ্যাক্সেস সীমাবদ্ধতা, এবং মূল্যায়ন মানদণ্ডকে প্রভাবিত করতে পারে। নীতিনির্ধারকেরা যদি মনে করেন কোনো মডেল সাইবার অনুপ্রবেশ কাজের গতি বা পরিধি উল্লেখযোগ্যভাবে বাড়াতে পারে, তাহলে তারা আরও কঠোর প্রকাশ নিয়ন্ত্রণ এবং আরও কড়া প্রাক-নিয়োগ পরীক্ষা চাইবেন। আর কোম্পানিগুলো যদি মনে করে সরকারগুলো প্রাথমিক ফলাফলের ওপর অতিরিক্ত প্রতিক্রিয়া দেখাতে পারে, তবে তারা বৈধ ব্যবহার এবং বৈশ্বিক প্রতিযোগিতাকে সীমিত করে এমন বিস্তৃত বিধিনিষেধের বিরোধিতা করবে।

Fast Company আরও জানিয়েছে, সাইবার নিরাপত্তা নির্বাহীদের একটি দল প্রশাসনের কাছে ওই নির্দেশ প্রত্যাহারের অনুরোধ জানিয়েছিল, তাদের যুক্তি ছিল এটি যুক্তরাষ্ট্রের প্রতিপক্ষদের সাহায্য করতে পারে। এই যুক্তি AI শাসনব্যবস্থার আরেকটি ফাটল দেখায়: অ্যাক্সেস সীমিত করলে কিছু ঝুঁকি কমতে পারে, কিন্তু তা বিশ্বস্ত গবেষক, কোম্পানি এবং মিত্র প্রতিষ্ঠানগুলোর মধ্যে প্রতিরক্ষামূলক সক্ষমতার বিস্তারও ধীর করতে পারে। সাইবার নীতিতে, সরঞ্জাম সীমিত করা কখনওই বিনামূল্যে নয়।

এখন কী দেখার মতো

পরবর্তী গুরুত্বপূর্ণ অগ্রগতি হবে, প্রতিবেদন করা পরীক্ষার রেকর্ডের কোনো অংশ কি প্রকাশ্যে প্রমাণিত হয় কিনা। যদি সংস্থা, আইনপ্রণেতা, বা Anthropic আরও বিস্তারিত প্রকাশ করে, তাহলে আলোচনা দ্রুত অনুমান থেকে নজিরে রূপ নিতে পারে। এর প্রভাব শুধু Anthropic-এর ওপর নয়, অন্য মডেল ডেভেলপাররা কীভাবে red-team অনুশীলন ডিজাইন করে, বিপজ্জনক সক্ষমতাকে কীভাবে শ্রেণিবদ্ধ করে, এবং বড় রিলিজের আগে সরকারের সঙ্গে কীভাবে আলোচনা করে, তাতেও পড়বে।

এখনের জন্য, এই প্রতিবেদন একটি পূর্ণাঙ্গ জনসাধারণের কেস ফাইলের বদলে একটি বিশ্বাসযোগ্য সংকেত হিসেবে দাঁড়িয়ে আছে। এমন সীমিত রূপেও, এটি দেখায় AI নিরাপত্তার প্রশ্নগুলো কত দ্রুত তত্ত্ব থেকে কার্যকরী পরীক্ষায় চলে যাচ্ছে। মূল বিষয় এখন আর নয় যে উন্নত মডেলগুলো সাইবার নিরাপত্তায় গুরুত্বপূর্ণ কি না। বিষয় হলো, সরকার ও ল্যাবগুলো সেই সক্ষমতা কীভাবে পরিমাপ করবে, এর ঝুঁকি কীভাবে নিয়ন্ত্রণ করবে, এবং পরবর্তী প্রজন্মের সিস্টেম আসার আগে কারা অ্যাক্সেস পাবে তা কীভাবে নির্ধারণ করবে।

এই নিবন্ধটি Fast Company-এর প্রতিবেদনের ভিত্তিতে। মূল নিবন্ধ পড়ুন.