বিশেষজ্ঞদের সতর্কবার্তা: এআই এজেন্টদের জন্য আরও কঠোর এন্টারপ্রাইজ গার্ডরেল দরকার

এআই এজেন্টরা সহায়তা থেকে কার্যক্রমের দিকে যাচ্ছে

এআই এজেন্টদের এখন আর শুধু এমন চ্যাট ইন্টারফেস হিসেবে দেখা হচ্ছে না, যা প্রশ্নের উত্তর দেয় এবং লেখা তৈরি করে। Snowflake Summit-এ বক্তা বিশেষজ্ঞদের মতে, এগুলো এখন ক্রমশ এমন ডিজিটাল কর্মী হিসেবে স্থাপিত হচ্ছে, যারা অ্যাপ্লিকেশন ও ডেটা পরিবেশে কাজ করতে পারে। এই পরিবর্তন ঝুঁকির ধরনকে নাটকীয়ভাবে বদলে দেয়। একবার কোনো সিস্টেম তথ্য আনতে, সিদ্ধান্ত নিতে, এবং ব্যবহারকারীর পক্ষে পদক্ষেপ নিতে পারলে, মূল প্রশ্ন আর মডেলটি উপকারী কি না, তা নয়। প্রশ্ন হয়, সংস্থাটি কি তার ক্ষমতার সীমা যথেষ্ট পরিষ্কারভাবে নির্ধারণ করেছে, যাতে এটি ক্ষতি না করতে পারে।

ZDNET যে মন্তব্যগুলো তুলে ধরেছে, সেখানে এই ছিল কেন্দ্রীয় সুর; নিরাপত্তা ও পরিচয় বিশেষজ্ঞরা বলেছিলেন, অনেক প্রাথমিক পাইলট যেটুকু ইঙ্গিত দেয়, তার চেয়ে অনেক বেশি শৃঙ্খলা নিয়ে কোম্পানিগুলিকে এজেন্ট ডিপ্লয়মেন্ট নিতে হবে। সবচেয়ে শক্তিশালী সতর্কতা এসেছে সহজ ভাষায়: এজেন্টদের উৎসাহী কিন্তু দিশাহীন ইন্টার্নের মতো দেখুন। এই উপমা কার্যকর, কারণ এটি সম্ভাবনা ও সমস্যাকে একসাথে ধরে। ইন্টার্নরা উৎপাদনশীল হতে পারে, কিন্তু তখনই যখন তাদের পরিসর স্পষ্ট, অনুমতি সীমিত, এবং ফলাফলের জন্য একজন দায়িত্বশীল ম্যানেজার থাকে। এআই এজেন্টদেরও সেই একই কাঠামো দরকার, এমনটাই প্যানেলিস্টদের বক্তব্য।

এখন অনুমতিই আসল যুদ্ধক্ষেত্র

Resolve AI-এর প্রতিষ্ঠাতা ও CTO ময়াঙ্ক আগরওয়াল সতর্ক করে বলেছেন, শক্ত সীমাবদ্ধতা ছাড়া কোনো এজেন্টকে বিস্তৃত লক্ষ্য দিলে দ্রুত অপ্রত্যাশিত ফল বেরিয়ে আসতে পারে। তাঁর বক্তব্য ছিল না যে এজেন্টরা স্বভাবতই বেপরোয়া; বরং তারা প্রচলিত সফটওয়্যারের তুলনায় অনেক কম অনুমানযোগ্যভাবে কাজ করে। পুরনো অটোমেশন পাইপলাইন ছিল স্পষ্ট: একটি সিস্টেম একটি API কল করত, পরিচিত payload পাঠাত, এবং পরিচিত পরবর্তী কাজ শুরু করত। এজেন্টিক সিস্টেম লক্ষ্য পূরণের চেষ্টা করতে গিয়ে গতিশীলভাবে পথ তৈরি করতে পারে। এই নমনীয়তাই তাদের আকর্ষণীয় করে তোলে, এবং একই সঙ্গে নিয়ন্ত্রণ করা কঠিনও করে তোলে।

ব্যবহারিক অর্থে, এর মানে এন্টারপ্রাইজ টিমগুলোকে feature-level টেস্টিং-এ থামা চলবে না। এজেন্ট কী পড়তে পারবে, কী লিখতে পারবে, কার ক্ষমতার অধীনে কাজ করবে, এবং কোন সিস্টেমগুলোকে escalation ছাড়া কখনোই স্পর্শ করতে পারবে না, তা মডেল করতে হবে। 1Password-এর CTO ন্যান্সি ওয়াং ক্ষমতার পাশাপাশি context ও intent-এর গুরুত্বের কথা বলেছেন। এজেন্ট কী করতে তৈরি, তা জানা যথেষ্ট নয়; সংস্থাগুলোকেও বুঝতে হবে সে কী authority ব্যবহার করছে এবং যে ডেটা সে অ্যাক্সেস করছে, তার প্রভাব কী।

এটি একটি পরিচিত governance সমস্যা, তবে নতুন মোড়কে। কোম্পানিগুলো বহুদিন ধরেই বিশেষাধিকারপ্রাপ্ত মানব ব্যবহারকারী, service accounts, এবং integration credentials পরিচালনা করে আসছে। এআই এজেন্ট এই তিনটির মিশ্রণ। তারা কথোপকথনমূলক ও কম ঝুঁকিপূর্ণ মনে হতে পারে, কিন্তু ভিতরে তারা সংবেদনশীল সিস্টেম, অভ্যন্তরীণ knowledge base, procurement tool, বা customer record-এর সঙ্গে যুক্ত থাকতে পারে। ফলে least-privilege design, audit trail, এবং approval workflow আরও গুরুত্বপূর্ণ হয়ে ওঠে, কম নয়।

পুরনো সফটওয়্যার প্লেবুক কেন চাপের মুখে

আলোচনার সবচেয়ে গুরুত্বপূর্ণ ধারণাগুলোর একটি হলো, প্রচলিত development assumptions agentic software-এ সরাসরি মেলে না। deterministic systems-এ, দলগুলো প্রায়ই ব্যর্থতার ধরন আগেই বুঝতে পারে, কারণ logic chain ইচ্ছাকৃতভাবে তৈরি করা হয়। Agentic systems আরও open-ended আচরণ আনে। একজন developer লক্ষ্য ও toolset নির্ধারণ করতে পারেন, কিন্তু মাঝখানের সব ধাপ সিস্টেম কীভাবে বেছে নেবে, তা নয়। এর মানে এই নয় যে সিস্টেম নিয়ন্ত্রণহীন। এর মানে, নিয়ন্ত্রণকে ভিন্নভাবে নকশা করতে হবে।

এন্টারপ্রাইজ ক্রেতাদের জন্য এটি একটি নতুন checklist-এ পরিণত হবে। ডিপ্লয়মেন্টের আগে, দলগুলোকে role boundary, escalation threshold, logging requirement, এবং human review point নির্ধারণ করতে হবে। ডিপ্লয়মেন্ট চলাকালীন, অস্বাভাবিক tool use, অতিরিক্ত retry, এবং স্বাভাবিক pattern-এর বাইরে তথ্য অ্যাক্সেসের চেষ্টাগুলো ধরার মতো monitoring লাগবে। ডিপ্লয়মেন্টের পরে, একটি মৌলিক operational প্রশ্নের উত্তর দেওয়ার মতো governance লাগবে: এজেন্ট যদি ব্যয়বহুল বা ক্ষতিকর সিদ্ধান্ত নেয়, তবে ঘটনার দায় কার?

প্রাথমিক পরীক্ষার সময় এই accountability প্রশ্নটা সহজেই উপেক্ষিত হয়, কারণ অনেক pilot productivity gain হিসেবে উপস্থাপিত হয়। কিন্তু এজেন্টদের স্বাধীনভাবে কাজ করার সুযোগ দিলে productivity গল্প বদলে যায়। তখন তারা আর কেবল সফটওয়্যার ফিচার থাকে না, ব্যবসার ভেতরে কার্যকরী actor-এ পরিণত হয়।

পরবর্তী গ্রহণপর্ব হবে নিয়ন্ত্রণ নিয়ে

Snowflake Summit আলোচনার গুরুত্ব শুধু এই নয় যে বিশেষজ্ঞরা সতর্ক থাকতে বলছেন। গুরুত্বপূর্ণ হলো, বিতর্কটি model quality পেরিয়ে enterprise control architecture-এ পৌঁছে গেছে। কোম্পানিগুলো বাস্তব workflow-এ এজেন্ট পরীক্ষা করতে আরও আগ্রহী বলে মনে হচ্ছে, কিন্তু তাদের চারপাশের গার্ডরেলগুলো এখনও অসম। এতে technical capability আর organizational readiness-এর মধ্যে ফাঁক তৈরি হয়।

দ্রুত এগোতে থাকা প্রতিষ্ঠানের জন্য প্রথমে access বাড়িয়ে পরে policy লেখার প্রলোভন থাকবে। এই আলোচনার সতর্কবার্তাগুলো তার উল্টো পথে ইঙ্গিত করে। যদি কোনো এজেন্ট business system স্পর্শ করতে পারে, তাহলে তার remit কঠোরভাবে সীমাবদ্ধ হতে হবে, authority chain পরিষ্কার হতে হবে, এবং ধারাবাহিক oversight থাকতে হবে। নইলে যে autonomy তাকে উপকারী করে তোলে, সেটাই তাকে ব্যয়বহুল, অননুগত, বা অনিরাপদ করে তুলতে পারে।

সেই অর্থে, intern metaphor টিকে যায়, কারণ এটি marketing language-এর চেয়ে operational বাস্তবতাকে ভালোভাবে ধরে। এআই এজেন্টরা সক্ষম, দ্রুত, এবং ক্রমশ স্বাধীন হতে পারে। কিন্তু structure, context, এবং supervision ছাড়া, তাদের হাতে একা চাবি তুলে দেওয়ার মতো পর্যায়ে এখনো পৌঁছায়নি।

এই নিবন্ধটি ZDNET-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধ পড়ুন.