Anthropic বাধ্যতামূলক অডিটের দাবি জানাচ্ছে, AI-কে কৌশলগত অবকাঠামো হিসেবে পুনর্গঠন করছে

Anthropic স্বচ্ছতা থেকে প্রয়োগের দিকে যাচ্ছে

Anthropic একটি নতুন নীতিগত যুক্তি প্রকাশ করেছে, যা তাদের অবস্থানে একটি উল্লেখযোগ্য পরিবর্তন নির্দেশ করে: frontier AI-এর জন্য আর শুধু স্বচ্ছতার শর্ত যথেষ্ট নয়। Policy on the AI Exponential শীর্ষক প্রবন্ধে CEO Dario Amodei যুক্তি দেন যে মডেল ক্ষমতা এত দ্রুত বাড়ছে যে বাধ্যতামূলক অডিট, আনুষ্ঠানিক প্রকাশ-সংক্রান্ত শর্ত, এবং অগ্রহণযোগ্য ঝুঁকি তৈরি করা সিস্টেমগুলিকে একটি সরকারি সংস্থা থামানোর ক্ষমতা দেওয়া উচিত।

কোম্পানিটি প্রবন্ধটির সঙ্গে দুটি ফ্রেমওয়ার্কও যুক্ত করেছে, একটি frontier AI নিয়ন্ত্রণের ওপর এবং অন্যটি AI প্রয়োগের সঙ্গে আসতে পারে এমন চাকরি হারানোর বিষয়টি মোকাবিলার ওপর। Anthropic বলছে, তারা চাকরি-ক্ষতি সংক্রান্ত ফ্রেমওয়ার্কটিকে উল্লেখযোগ্য অর্থায়ন দিয়ে সমর্থন করতে প্রস্তুত। তবে নতুন প্যাকেজের কেন্দ্রবিন্দু নিয়ন্ত্রক মোড়। কোম্পানি আর frontier-model governance-কে প্রধানত রিপোর্টিং এবং স্বচ্ছতার বিষয় হিসেবে উপস্থাপন করছে না; বরং এটি প্রযুক্তিগত পরিদর্শন এবং প্রকাশের আগে নিয়ন্ত্রণের বিষয় হিসেবে তুলে ধরছে।

Anthropic কী যুক্তি দিচ্ছে

সোর্স অনুযায়ী, Amodei-র যুক্তি শুরু হয় গতি থেকে। তিনি বলেন, AI ক্ষমতার বৃদ্ধি scaling laws দ্বারা চালিত, এবং এক থেকে দুই বছরের মধ্যে বিশ্ব এমন কিছু দেখতে পারে যাকে তিনি “Powerful AI” বলেন, অর্থাৎ “একটি ডেটা সেন্টারে মেধাবীদের একটি দেশ”। এই কাঠামো একসঙ্গে দুটি কাজ করে। প্রথমত, এটি দ্রুততার দিকটি জোরালো করে। দ্বিতীয়ত, এটি frontier AI-কে একটি বাণিজ্যিক টুল থেকে কৌশলগত অবকাঠামোর কাছাকাছি কিছুতে উন্নীত করে।

Anthropic-এর প্রবন্ধে নাকি দ্রুত প্রযুক্তিগত পরিবর্তন এবং ধীর রাজনৈতিক প্রতিক্রিয়ার অসামঞ্জস্য বোঝাতে Lord of the Rings উপমা ব্যবহার করা হয়েছে। সেই গল্পে Treebeard রাজনৈতিক ব্যবস্থার প্রতীক, সতর্কবার্তা দেওয়া কণ্ঠগুলো হলো দ্রুত পদক্ষেপের পক্ষে থাকা লোকেরা, আর এগিয়ে আসা হুমকি হলো অনিয়ন্ত্রিত AI। উপমাটি নাটকীয়, তবে নীতিগত ইঙ্গিত সরল: প্রতিষ্ঠানগুলো যদি সাধারণ সময়রেখায় চলে, তবে তারা দেরিতে প্রতিক্রিয়া জানাবে।

কেন কোম্পানি বলছে পুরোনো পদ্ধতি আর কাজ করে না

সোর্স বলছে, Anthropic আগে স্বচ্ছতার ওপর জোর দিত কারণ তখন ঝুঁকিগুলো এতটা স্পষ্ট ছিল না যে আরও নির্দিষ্ট নিয়ন্ত্রণ সম্ভব হতো। তারা California-র SB 53, New York-র RAISE, এবং Illinois-র SB 315-এর মতো স্বচ্ছতা-কেন্দ্রিক আইনকে সমর্থন করেছিল। এখন সেই অবস্থান বদলেছে।

প্রমাণ হিসেবে Amodei “Claude Mythos Preview”-এর অভিজ্ঞতার দিকে ইঙ্গিত করেন, যা নাকি বৈশ্বিক সাইবারসিকিউরিটি দৃশ্যপটকে বিঘ্নিত করেছিল এবং দেখিয়েছিল যে frontier models আর্থিক খাত, গুরুত্বপূর্ণ অবকাঠামো এবং জাতীয় নিরাপত্তার জন্য বাস্তব ঝুঁকি তৈরি করতে পারে। Anthropic আরও আশা করে যে গুরুতর জৈবিক ও স্বায়ত্তশাসন-সংক্রান্ত ঝুঁকি তুলনামূলকভাবে শিগগিরই দেখা দিতে পারে। অন্য কথায়, তাত্ত্বিক উদ্বেগ এখন বাস্তব সতর্কতায় পরিণত হয়েছে, এটাই কোম্পানির যুক্তি।

এটি একটি গুরুত্বপূর্ণ সীমা। কোনো ল্যাব কঠোর নিয়ম চাইছে, এতে বিস্ময়ের কিছু নেই। কিন্তু নিজের সাম্প্রতিক মডেল অভিজ্ঞতা দেখিয়ে একটি ল্যাব যখন বলে স্বচ্ছতা আর যথেষ্ট নয়, তখন সেটি বেশি ওজন পায়, যদিও সমালোচকেরা অবশ্যই প্রশ্ন করবেন কতটা নীতি আর কতটা কৌশল এতে রয়েছে।

Anthropic সরকারগুলোর কাছে কী চায়

প্রস্তাবিত ফ্রেমওয়ার্ক চারটি ঝুঁকি-শ্রেণিতে যোগ্য তৃতীয় পক্ষের বাধ্যতামূলক পরীক্ষাকে কেন্দ্র করে: সাইবারসিকিউরিটি, জৈব অস্ত্র, AI সিস্টেমের ওপর নিয়ন্ত্রণ হারানো, এবং সেই ঝুঁকিগুলো বাড়িয়ে দিতে পারে এমন automated research and development। Anthropic চায় একটি সরকারি সংস্থার শুধু প্রকাশ-সংক্রান্ত তথ্য গ্রহণের ক্ষমতা নয়, বরং মান পূরণ না করা মডেল ব্লক বা প্রত্যাহার করার ক্ষমতাও থাকুক।

সোর্স বলছে, Amodei Federal Aviation Administration-কে একটি মডেল হিসেবে উল্লেখ করেন। তুলনাটি গুরুত্বপূর্ণ। একটি বিমান শুধু প্রস্তুতকারক বললেই যে তা নিরাপদ, সেই কারণে জনসাধারণের ব্যবহারের জন্য অনুমোদিত হয় না। সেটি পরিদর্শন, পরীক্ষা, ও সার্টিফাই করা হয়, এবং প্রয়োজনে হস্তক্ষেপও করা হয়। Anthropic মনে হচ্ছে যুক্তি দিচ্ছে frontier AI-ও এমন এক ব্যবস্থার দিকে যেতে হবে, যেখানে প্রকাশ কেবল নোটিশ-সংক্রান্ত শর্ত পূরণের ওপর নয়, বরং প্রযুক্তিগত ঝুঁকি পর্যালোচনা পাস করার ওপর নির্ভর করবে।

এটি অতীতে বহু প্রযুক্তি কোম্পানি যা পছন্দ করেছে তার চেয়ে কঠোর নিয়ন্ত্রণ-দৃষ্টিভঙ্গি। এর অর্থ কেবল মানদণ্ড নয়, বরং প্রয়োগযোগ্য নজরদারি এবং শিপমেন্ট বিলম্বিত বা নাকচ হওয়ার সম্ভাবনাও। নীতিগত ভাষায়, এটি স্বচ্ছতা-ভিত্তিক শাসন থেকে অনুমতি-ভিত্তিক শাসনে স্থানান্তর।

AI-কে জাতীয় নিরাপত্তার বিষয় হিসেবে দেখা

সোর্স অনুযায়ী Anthropic ক্রমশ AI-কে রাষ্ট্রগুলোর হাতে থাকা একটি কৌশলগত অস্ত্র হিসেবে চিত্রিত করছে। এই framing-ই প্রস্তাবের জরুরিতা ব্যাখ্যা করে। frontier models যদি মূলত উৎপাদনশীলতার টুল হিসেবে বিবেচিত হয়, তবে প্রকাশ এবং বাজার-শৃঙ্খলা যথেষ্ট মনে হতে পারে। কিন্তু যদি এগুলোকে সাইবার আক্রমণ, গুরুত্বপূর্ণ অবকাঠামো, বায়োসিকিউরিটি, এবং ভূ-রাজনৈতিক প্রতিযোগিতার ওপর প্রভাব ফেলতে সক্ষম সিস্টেম হিসেবে দেখা হয়, তবে প্রয়োগের আগে নিয়ন্ত্রণ অনেক বেশি বাস্তবসম্মত মনে হয়।

এই কারণেই Anthropic যে চারটি ঝুঁকি-ক্ষেত্র তুলে ধরছে সেগুলো এত নির্দিষ্ট। কোম্পানি কোনো সাধারণ নৈতিক পর্যালোচনা চাইছে না। তারা লক্ষ্যভিত্তিক পরীক্ষার দাবি করছে, যেখানে ক্ষমতার অগ্রগতি উচ্চ-প্রভাবের অপব্যবহার বা সিস্টেমিক ব্যর্থতায় ছড়িয়ে পড়তে পারে। অনুমানটি হলো, বিপদ AI-কে একটি বিমূর্ত শ্রেণি হিসেবে নয়, বরং frontier ক্ষমতার একটি উপসেট হিসেবে দেখা, যা ইতিমধ্যেই বিপজ্জনক ক্ষেত্রগুলোকে আরও শক্তিশালী করতে পারে।

কঠোর নিয়ম চাওয়ার রাজনীতি

Anthropic-এর প্রস্তাব কে নিয়ম লিখবে, বা বেসরকারি ল্যাবগুলো কি বিদ্যমান প্রতিষ্ঠানের সুবিধার জন্য নিয়ন্ত্রণকে আকার দিতে চাইছে কিনা, সেই বিতর্ক শেষ করবে না। এসব প্রশ্ন এড়ানো যায় না। কিন্তু নতুন নথিগুলো এখনও গুরুত্বপূর্ণ, কারণ সেগুলো দেখায় যে সবচেয়ে পরিচিত AI কোম্পানিগুলোর একটি প্রকাশ্যে সিদ্ধান্তে পৌঁছেছে যে তাদের আগের নিয়ন্ত্রক পছন্দ আর যথেষ্ট নয়।

সরকার যদি এই এজেন্ডার কেবল অংশবিশেষও গ্রহণ করে, তবু এই পরিবর্তন গুরুত্বপূর্ণ। একবার বড় ল্যাবগুলো বাধ্যতামূলক তৃতীয়-পক্ষ অডিট এবং প্রকাশ থামিয়ে দেওয়ার এজেন্সি-স্তরের ক্ষমতার পক্ষে যুক্তি দিতে শুরু করলে, বিতর্ক স্বেচ্ছাসেবী অঙ্গীকারের বাইরে চলে যায়। এটি প্রাতিষ্ঠানিক নকশার প্রশ্ন হয়ে ওঠে: কে পরীক্ষা করবে, কে সিদ্ধান্ত নেবে, কী জিনিস হস্তক্ষেপকে ট্রিগার করবে, এবং চালুর আগে কোম্পানিগুলোকে কতটা ক্ষমতা-প্রমাণ প্রকাশ করতে হবে।

বিস্তৃত প্রভাবসম্পন্ন নীতিগত মোড়

Anthropic-এর এই হস্তক্ষেপের সবচেয়ে গুরুত্বপূর্ণ দিক হতে পারে এর সময়। কোম্পানি বলছে, আগামী এক থেকে দুই বছরে বর্তমানের জনসাধারণের ব্যবহৃত সিস্টেমগুলোর চেয়ে অনেক বেশি সক্ষম সিস্টেম আসতে পারে। নীতিনির্ধারকেরা যদি সেই সময়রেখা মেনে নেন, তাহলে নজরদারি কাঠামো তৈরির জানালা খুবই ছোট। আর তারা যদি তা প্রত্যাখ্যান করেন, তবুও frontier models-এর জন্য প্রকাশের আগে অডিট দরকার - এই ধারণাকে স্বাভাবিক করে Anthropic-এর কাঠামো ভবিষ্যৎ নিয়মের রূপকে প্রভাবিত করতে পারে।

যে পথেই হোক, কোম্পানিটি AI নীতি বিতর্কের কেন্দ্রকে নতুনভাবে সংজ্ঞায়িত করতে সাহায্য করছে। যুক্তিটি আর শুধু এই নয় যে AI কোম্পানিগুলোকে আরও খোলামেলা হতে হবে। বরং কিছু মডেল এতটাই গুরুত্বপূর্ণ হতে পারে যে, বাইরের প্রযুক্তিগত পর্যালোচনা এবং “না” বলার রাষ্ট্রীয় ক্ষমতা ছাড়া সেগুলো প্রকাশ করা উচিত নয়।

এটি প্রারম্ভিক AI নীতি বিতর্কে প্রাধান্য পাওয়া শাসন-ধারণার তুলনায় অনেক বেশি দৃঢ়। এটি frontier সিস্টেমগুলোর বাড়তে থাকা উচ্চাকাঙ্ক্ষা এবং সেগুলোর নির্মাতাদের একাংশের মধ্যে এই ক্রমবর্ধমান বিশ্বাসকে প্রতিফলিত করে যে স্বচ্ছতা একাই পরবর্তী ধাপকে আটকে রাখতে পারবে না।

This article is based on reporting by The Decoder. Read the original article.