এজেন্টিক এআই এমন জায়গায় পৌঁছাচ্ছে যেখানে ভুলের মাপকাঠি রোগী
চিকিৎসা কৃত্রিম বুদ্ধিমত্তাকে ঐতিহ্যগতভাবে একটি ডায়াগনস্টিক পরীক্ষার মতো বিচার করা হয়। একটি মডেলকে ডেটাসেটে প্রশিক্ষণ দেওয়া হয়, আলাদা রাখা নমুনায় ক্লিনিশিয়ানদের বিরুদ্ধে বেঞ্চমার্ক করা হয় এবং সংবেদনশীলতা, নির্দিষ্টতা বা সঠিকতার অন্য কোনো মাপকাঠিতে স্কোর দেওয়া হয়। এই পুরো পদ্ধতিটি একটি ধারণার উপর দাঁড়িয়ে: মডেল একটি আউটপুট তৈরি করে, আর একজন মানুষ সেটি ব্যাখ্যা করে।
এজেন্টিক এআই সেই ধারণা ভেঙে দেয়। এই সিস্টেমগুলো একাধিক ধাপ জুড়ে লক্ষ্য অনুসরণ করার জন্য তৈরি — রেকর্ড সংগ্রহ, পরীক্ষা অর্ডার করা, ডকুমেন্টেশন খসড়া করা, ফলো-আপ নির্ধারণ এবং নতুন তথ্য এলে পরিকল্পনা সংশোধন করা। ২০২৬ সালের ২ অক্টোবর নেচার মেডিসিন-এ প্রকাশিত "The missing links in agentic AI autonomy" শীর্ষক গবেষণাপত্রটি এই যে ফাঁক তৈরি হয়, সেটিকেই লক্ষ্য করেছে। এর বিষয় মডেলের নির্ভুলতা নয়, বরং আস্থা: বিশেষভাবে সেই পরিচালনগত ও সিদ্ধান্তগত আস্থা, যা থাকা জরুরি স্বায়ত্তশাসিত সিস্টেমগুলোকে অর্থপূর্ণভাবে রোগীর যত্নে অংশ নিতে দেওয়ার আগে।
এই কাঠামোটি এআই নিরাপত্তা নিয়ে ক্ষেত্রটির স্বাভাবিক আলোচনার ধরন থেকে সচেতনভাবে সরে আসা। বেশিরভাগ আলোচনায় আস্থাকে পারফরম্যান্সের পরিণতি হিসেবে দেখা হয় — আরও ভালো মডেল বানান, আস্থা এমনিতেই আসবে। এই গবেষণাপত্রটি ইঙ্গিত দেয় সম্পর্কটি উল্টো দিকেও চলে: আস্থাকে মাপযোগ্য ও অর্জিত করার কাঠামো ছাড়া, এমনকি চমৎকার মডেলকেও নিরাপদে দায়িত্ব দেওয়া যায় না।
দুই ধরনের আস্থা, এক নয়
গবেষণাপত্রটির সবচেয়ে কাজের পদক্ষেপ হলো আস্থাকে দুই ভাগে ভাগ করা। এই পার্থক্য গুরুত্বপূর্ণ, কারণ দুটি খুব ভিন্নভাবে ব্যর্থ হয়, আর এগুলোকে গুলিয়ে ফেললে আসল সমস্যাগুলো কোথায় তা ঢাকা পড়ে যায়।
পরিচালনগত আস্থা
পরিচালনগত আস্থা হলো একটি সিস্টেম আসলে যে পরিবেশে মোতায়েন করা হয়েছে, সেখানে নির্ভরযোগ্যভাবে তার দাবি অনুযায়ী কাজ করে কি না। এটি কি সঠিক ডেটা সোর্সে পৌঁছাতে পারে? কোনো রেকর্ড না থাকলে, কোয়েরি টাইম আউট হলে বা ইন্টারফেস বদলে গেলে এটি কি ভদ্রভাবে ব্যর্থ হয়? এটি কি এমনভাবে অবনতি ঘটায় যা তদারককারী মানুষ দেখতে পায়, নাকি চুপচাপ আত্মবিশ্বাসী আজেবাজে তথ্য তৈরি করে? এগুলো প্রকৌশলগত প্রশ্ন মনে হলেও ক্লিনিক্যাল পরিবেশে এগুলোর ক্লিনিক্যাল গুরুত্ব আছে। যে সিস্টেম নীরবে একটি ল্যাব রেজাল্ট হারায়, সেটি কেবল ত্রুটিপূর্ণ নয়; এটি সম্ভাব্য ক্ষতিকর।
সিদ্ধান্তগত আস্থা
সিদ্ধান্তগত আস্থা আরও সংকীর্ণ এবং প্রতিষ্ঠা করা কঠিন। এটি সম্পর্কিত যে একটি সিস্টেম যে রায় দেয় — কোন কাজ নেবে, কোন ক্রমে, এবং সবচেয়ে গুরুত্বপূর্ণভাবে কখন থামবে — সেগুলো নির্ভর করার যোগ্য কি না। একটি সিস্টেম পরিচালনগতভাবে নিখুঁত হয়েও এমন সিদ্ধান্ত নিতে পারে যা একজন ক্লিনিশিয়ান সরাসরি প্রত্যাখ্যান করবেন। উল্টোদিকে, দুর্বল পরিকাঠামোর একটি সিস্টেম সংকীর্ণ পরিসরে ভালো যুক্তি দিতে পারে যেখানে কিছুই ভাঙে না। এগুলোকে একটি চলক হিসেবে দেখা — যা বর্তমান আলোচনার অনেকটাই করে — এই বাস্তবতা ঢেকে দেয় যে একটি ঠিক করলে অন্যটির জন্য কিছুই হয় না।
কেন স্বায়ত্তশাসন ঝুঁকির হিসাব বদলে দেয়
প্রচলিত ক্লিনিক্যাল এআই টুল একটি কর্মপ্রবাহের ভেতরে বসে অপেক্ষা করে। এটি একটি প্রশ্নের উত্তর দেয় এবং উত্তরটি পর্যালোচনা করা হয়। এজেন্টিক সিস্টেম ভিন্ন কিছু করে: তারা একটি সূত্র ধরে রাখে। তারা মধ্যবর্তী সিদ্ধান্ত নেয়, যার কিছু ফলাফল-সৃষ্টিকারী, আর সেই সিদ্ধান্তগুলো জমা হতে থাকে। নামমাত্র দায়িত্বে থাকা ব্যক্তি হয়তো শেষে কেবল সারসংক্ষেপটি দেখেন।
এই জমা হওয়াই আস্থার প্রশ্নটিকে দার্শনিক নয়, জরুরি করে তোলে। কোনো চেকপয়েন্ট ছাড়া একটি সিস্টেম যত অতিরিক্ত ধাপ নেয়, তত বেশি জায়গা তৈরি হয় যেখানে ভুল ঢুকতে পারে এবং তত বেশি পরবর্তী সিদ্ধান্ত সেই ভুল উত্তরাধিকার সূত্রে পায়। একটি একক পূর্বাভাসের জন্য কাজ করা মানব তদারকি স্বয়ংক্রিয়ভাবে এক বিকেলে নেওয়া দশটি কাজের শৃঙ্খলে প্রযোজ্য হয় না।
স্বাস্থ্যসেবা এটিকে আরও তীক্ষ্ণ করে, কারণ এই ক্ষেত্রটি এজেন্টিক সিস্টেমের সবচেয়ে সহজে দেখা যাওয়া ব্যর্থতার ধরনগুলোর প্রতি অস্বাভাবিকভাবে নির্দয়: অতিরিক্ত আত্মবিশ্বাস, বিশ্বাসযোগ্য শোনানো বানানো তথ্য এবং নিজের দক্ষতার সীমা চিনতে পারার অসুবিধা। একটি চ্যাটবট যদি একটি সাইটেশন বানিয়ে ফেলে, সেটি লজ্জাজনক। একটি সিস্টেম যদি একটি ওষুধের পারস্পরিক ক্রিয়া বানিয়ে ফেলে এবং সেটির উপর কাজ করে, সেটি সম্পূর্ণ ভিন্ন বিষয়।
অনুপস্থিত সংযোগগুলো
গবেষণাপত্রটির যুক্তি যদি হয় যে স্বায়ত্তশাসনের জন্য সক্ষমতার চেয়ে বেশি কিছু দরকার, তাহলে স্বাভাবিক পরবর্তী প্রশ্ন হলো আসলে কী অনুপস্থিত। গবেষণাপত্রটি যে ক্ষেত্রটি ঘিরে আলোচনা করে, সেখানে বেশ কিছু ফাঁক বারবার ফিরে আসে।
- কাজের সঙ্গে মানানসই মূল্যায়ন। স্থির বেঞ্চমার্ক একক উত্তর মাপে, সিদ্ধান্তের ক্রম নয়। একটি এজেন্টের পরিকল্পনা যুক্তিসঙ্গত ছিল কি না তা স্কোর করার কোনো পরিপক্ব পদ্ধতি নেই, কেবল তার চূড়ান্ত আউটপুট একটি রেফারেন্সের সঙ্গে মিলেছিল কি না তা মাপা হয়।
- যুক্তির নিরীক্ষাযোগ্যতা। একটি সিস্টেম যখন কোনো কাজ করে, কেন করল তার রেকর্ড প্রায়ই পাতলা থাকে বা পরে পুনর্গঠন করা হয়। বিশ্বাসযোগ্য ট্রেস ছাড়া তদারকি নাটকে পরিণত হয়।
- সুস্পষ্ট এস্কালেশন। এজেন্টিক সিস্টেমের স্পষ্ট, নির্ভরযোগ্য বিন্দু দরকার যেখানে তারা নিয়ন্ত্রণ মানুষের কাছে ফিরিয়ে দেয়। অতিরিক্ত হ্যান্ডঅফ সিস্টেমকে অকেজো করে তোলে; খুব কম হ্যান্ডঅফ একে বিপজ্জনক করে তোলে, আর সঠিক সীমা প্রেক্ষাপট-নির্ভর।
- স্বায়ত্তশাসন প্রত্যাশা করে এমন সুশাসন। ডিভাইস ও ডায়াগনস্টিকসকে ঘিরে গড়া নিয়ন্ত্রক কাঠামো এমন সিস্টেমের উপর পরিষ্কারভাবে প্রযোজ্য হয় না, যাদের আচরণ প্রতিটি মোতায়েন প্রেক্ষাপটে বদলায়।
- সমন্বিত সংজ্ঞা। পরিচালনগত বনাম সিদ্ধান্তগত আস্থা বলতে কী বোঝায় তার সম্মত শব্দভান্ডার ছাড়া প্রতিষ্ঠানগুলো নিজেদের অভিজ্ঞতা তুলনা করতে পারে না, আর প্রতিটি মোতায়েন আলাদাভাবে নিজের মানদণ্ড নতুন করে তৈরি করে।
অর্জিত স্বায়ত্তশাসন আসলে কেমন দেখাবে
গবেষণাপত্রটির অন্তর্নিহিত প্রস্তাব হলো স্বায়ত্তশাসন ধাপে ধাপে এবং প্রমাণসহ দেওয়া উচিত, বেঞ্চমার্ক স্কোর থেকে ধরে নেওয়া নয়। এটি বেশ দাবিদার কিছু প্রাতিষ্ঠানিক অভ্যাস বোঝায়।
- মোতায়েন শুরু হবে সংকীর্ণ, প্রত্যাবর্তনযোগ্য কাজ দিয়ে এবং প্রমাণ জমার সঙ্গে সঙ্গে পরিধি বাড়বে।
- মনিটরিং শুধু আপটাইম ও লেটেন্সি নয়, সময়ের সঙ্গে সিদ্ধান্তের গুণমানও অনুসরণ করবে।
- স্পষ্ট জবাবদিহি: স্বয়ংক্রিয় কোনো কাজ ক্ষতি করলে একজন নামধারী মানুষ বা কমিটি দায়ী থাকবে।
- ডকুমেন্টেশন এতটা কঠোর হবে যে একজন স্বাধীন পর্যালোচক কী ঘটেছে এবং কেন ঘটেছে তা পুনর্গঠন করতে পারেন।
এর কোনোটিই জমকালো নয়। এটি সেই সংযোগকারী টিস্যু যা একটি সক্ষম সিস্টেমকে বিশ্বাসযোগ্য সিস্টেমে পরিণত করে, আর ঠিক এই স্তরটিই প্রায়ই এড়িয়ে যাওয়া হয় যখন অন্তর্নিহিত মডেল উৎসাহ তৈরির মতো চিত্তাকর্ষক হয়।
অস্বস্তিকর উপসংহার
নেচার মেডিসিন গবেষণাপত্রটির সবচেয়ে চ্যালেঞ্জিং ইঙ্গিত হলো, এজেন্টিক এআই স্বায়ত্তশাসনের অনুপস্থিত সংযোগগুলো হয়তো প্রযুক্তিগতই নয়। উন্নত মডেল পরিচালনগত আস্থা অর্জন সহজ করবে — দ্রুততর, আরও নির্ভরযোগ্য, কম ভঙ্গুর। কিন্তু সিদ্ধান্তগত আস্থা নির্ভর করে এমন প্রশ্নের উপর যা কোনো আর্কিটেকচার সমাধান করে না: কে জবাবদিহি করবে, কী গ্রহণযোগ্য ঝুঁকি হিসেবে গণ্য হবে, কতটা তদারকি যথেষ্ট, এবং কে সিদ্ধান্ত নেবে।
এগুলো প্রাতিষ্ঠানিক ও ক্লিনিক্যাল প্রশ্ন, আর মানব চিকিৎসকদের জন্য এগুলোর উত্তর দিতে স্বাস্থ্যসেবার কয়েক দশকের কষ্টার্জিত অভিজ্ঞতা আছে। সামনের কাজ হলো সেই অভিজ্ঞতাকে এমন সিস্টেমে বিস্তৃত করা যারা কেবল উত্তর দেয় না, কাজ করে। তা না হওয়া পর্যন্ত, চিকিৎসায় বেশিরভাগ এজেন্টিক এআই-এর সৎ বর্ণনা স্বায়ত্তশাসিত নয়। এটি তদারকিহীন, যা সম্পূর্ণ ভিন্ন বিষয়।
এই নিবন্ধটি নেচার মেডিসিন-এর প্রতিবেদনের উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।
Originally published on nature.com
