ক্লিনিক্যাল এআই কীভাবে আস্থা অর্জন করে সে বিষয়ে এক স্পষ্ট সতর্কবার্তা
চিকিৎসাবিজ্ঞানে কৃত্রিম বুদ্ধিমত্তা প্রবর্তনের ক্ষেত্রে একটি পরিচিত ধরণ দেখা যায়: একটি মডেল কিউরেট করা পরীক্ষার সেটে চমকপ্রদ সংখ্যা দেখায়, শিরোনাম তৈরি হয়, এবং কেউ আত্মবিশ্বাসের সাথে বলার অনেক আগেই গ্রহণের চাপ তৈরি হয় যে সিস্টেমটি বাস্তব ক্লিনিকে, বাস্তব রোগীদের উপর, বাস্তব ঝুঁকিতে কেমন আচরণ করে। নেচার মেডিসিন-এ ১৪ সেপ্টেম্বর ২০২৬-এ অনলাইনে প্রকাশিত একটি নতুন ভাষ্য সরাসরি সেই ধরণকে লক্ষ্য করে। এর কেন্দ্রীয় দাবি কোনো দ্বিধা ছাড়াই বলা হয়েছে: ক্লিনিক্যাল কৃত্রিম বুদ্ধিমত্তার প্রতি আস্থা বেঞ্চমার্ক করে সৃষ্টি করা যায় না। এটি অর্জন করতে হয় কঠোরতার মাধ্যমে।
এই বিন্যাসটি ইচ্ছাকৃতভাবেই অস্বস্তিকর সেই শিল্পের জন্য, যা প্রস্তুতির প্রক্সি হিসেবে লিডারবোর্ডের ফলাফলে অভ্যস্ত হয়ে উঠেছে। নিবন্ধের শিরোনাম এই টানাপোড়েন স্পষ্ট করে—সংলাপমূলক চিকিৎসা এআই-এর জন্য সম্ভাব্য প্রমাণ কঠিন, কিন্তু অপরিহার্য। এই বাক্যের উভয় অংশই গুরুত্বপূর্ণ। কঠিনতা বাস্তব এবং তা উড়িয়ে দেওয়া উচিত নয়। কিন্তু কঠিনতা কোনো সহজ ও কম অর্থবহ কিছু দিয়ে তা প্রতিস্থাপনের কারণ নয়।
কেন বেঞ্চমার্ক আর প্রমাণ এক নয়
ভাষ্যটি যে পার্থক্য টানে তা হলো একটি স্থির মূল্যায়নে পারফরম্যান্স এবং সম্ভাব্য পদ্ধতিতে সংগৃহীত প্রমাণের মধ্যে—অর্থাৎ, একটি সিস্টেম যখন প্রকৃতপক্ষে ব্যবহৃত হয়, যে পরিবেশে এটি কাজ করার কথা, সেখানে পর্যবেক্ষণ করে যে প্রমাণ তৈরি হয়, তা পশ্চাদপসরণমূলক বা সিমুলেটেড পরীক্ষার পরিবর্তে।
সংলাপমূলক চিকিৎসা এআই-এর ক্ষেত্রে এই দুটির মধ্যে ব্যবধান অস্বাভাবিকভাবে বড়। একটি সংলাপমূলক সিস্টেম কেবল একটি ছবি শ্রেণীবদ্ধ করে না বা একটি ল্যাব মান চিহ্নিত করে না। এটি একটি বিনিময়ে অংশগ্রহণ করে। এটি জিজ্ঞাসা করে, উত্তর দেয়, স্পষ্ট করে, আশ্বস্ত করে এবং মাঝে মাঝে অস্বীকার করে। এর আউটপুট নির্ভর করে ব্যবহারকারী কী বলে, কীভাবে বলে, কী প্রসঙ্গ দেয় এবং কী বাদ দেয় তার উপর। একটি নির্দিষ্ট পরীক্ষার সেট দিয়ে এসবের কোনোটিই সম্পূর্ণভাবে ধরা পড়ে না, সেটি যতই যত্নসহকারে তৈরি হোক না কেন।
ভাষ্যটির যুক্তি এই নয় যে বেঞ্চমার্ক অকেজো। বরং এটি হলো, একটি বেঞ্চমার্ক স্কোর হলো নিয়ন্ত্রিত পরিস্থিতিতে একটি মডেলের পরিমাপ, এবং নিয়ন্ত্রিত পরিস্থিতি ঠিক সেটাই নয় যা ক্লিনিক্যাল যত্ন। যখন নিবন্ধটি বলে আস্থা বেঞ্চমার্ক করে সৃষ্টি করা যায় না, তখন এটি একটি শ্রেণিগত ভুলের দিকে ইঙ্গিত করছে: একটি সংখ্যাকে এমনভাবে বিবেচনা করা যেন তা একটি নিশ্চয়তা।
সম্ভাব্য প্রমাণ তৈরি করা এত কঠিন কেন
ভাষ্যটি স্পষ্টভাবে স্বীকার করে যে কঠোর পথটিই ব্যয়বহুল। সংলাপমূলক চিকিৎসা এআই-এর সম্ভাব্য মূল্যায়নকে সত্যিকারভাবে কঠিন করে তোলে এমন কয়েকটি কারণ রয়েছে:
- সংলাপ উন্মুক্ত। একটি নির্দিষ্ট ইনপুট ও নির্দিষ্ট প্রত্যাশিত আউটপুটের বিপরীতে, একটি সংলাপ অনেক দিকে যেতে পারে। একটি ভালো ফলাফল কী হিসেবে গণ্য হবে তা নির্ধারণ করতে ক্লিনিক্যাল ও নৈতিক সিদ্ধান্ত প্রয়োজন, কেবল প্রযুক্তিগত নয়।
- প্রসঙ্গই সবকিছু। একটি রোগীগোষ্ঠী, যত্নের পরিবেশ বা কর্মপ্রবাহের জন্য উপযুক্ত একটি উত্তর অন্যত্র অনুপযুক্ত হতে পারে। এক প্রসঙ্গে সংগৃহীত প্রমাণ স্বয়ংক্রিয়ভাবে অন্যত্র স্থানান্তরিত হয় না।
- বাস্তব-বিশ্বে মোতায়েন নতুন চলক নিয়ে আসে। মানব ব্যবহারকারীরা সিস্টেমের সাথে খাপ খায়, এড়িয়ে চলে বা অতিরিক্ত আস্থা রাখে। এই আচরণগুলো ফলাফল গঠন করে এবং মোতায়েন-পূর্ব পরীক্ষায় বেশিরভাগ ক্ষেত্রেই অদৃশ্য থাকে।
- সময় ও ব্যয়। সম্ভাব্য কাজ একটি মূল্যায়ন স্ক্রিপ্ট চালানোর চেয়ে বেশি সময় নেয় এবং বেশি খরচ করে। এই অসমতা এড়িয়ে যাওয়ার অবিরাম চাপ তৈরি করে।
- চলমান লক্ষ্য। সিস্টেম আপডেট হয়, প্রম্পট সংশোধিত হয় এবং মডেল বদলানো হয়। একটি সংস্করণের সাথে যুক্ত প্রমাণ পরেরটির সম্পর্কে খুব কম বলতে পারে।
এগুলোর প্রত্যেকটিই বৈধ বাধা। ভাষ্যটির মূল কথা হলো এগুলো সমাধান করার বাধা, গ্রহণ করার অজুহাত নয়।
যুক্তির অপরিহার্য অর্ধেক
নিবন্ধের বিন্যাসের প্রথম অর্ধেক যদি কঠিনতা স্বীকার করে, তবে দ্বিতীয় অর্ধেক পালানোর পথ বন্ধ করে দেয়। সম্ভাব্য প্রমাণকে অপরিহার্য হিসেবে বর্ণনা করা হয়েছে—আকাঙ্ক্ষিত নয়, সর্বোত্তম অনুশীলন নয়, পরবর্তী সময়ের জন্য একটি সুবিধাজনক বিষয় নয়। যুক্তিটি এই প্রশ্ন থেকে অনুসরণ করে যে ঝুঁকিতে কী রয়েছে।
সংলাপমূলক চিকিৎসা এআই ক্লিনিক্যাল সিদ্ধান্ত গ্রহণের বিন্দুর কাছাকাছি এবং ক্রমবর্ধমানভাবে রোগীর কাছাকাছি অবস্থান করে। এটি ট্রায়াজ সহায়ক, ডকুমেন্টেশন সহকারী, রোগীর মুখোমুখি তথ্যসূত্র বা এগুলোর মাঝামাঝি কিছু হিসেবে অবস্থান করতে পারে। এই প্রতিটি ভূমিকায় ভুল হওয়ার পরিণতি বহন করে মানুষ, কোনো যাচাইকরণ স্ক্রিপ্ট নয়। যখন ব্যর্থতার ধরন হয় একটি মিস হওয়া রোগনির্ণয়, একটি বিলম্বিত রেফারেল বা আত্মবিশ্বাসের সাথে বলা কিন্তু ভুল উত্তর, তখন প্রমাণের মান নির্ধারণ করা উচিত পরিণতি দ্বারা, ডেভেলপারের সুবিধা দ্বারা নয়।
ভাষ্যটি এটিকে সরাসরি আস্থার সাথে যুক্ত করে। এর বিন্যাসে আস্থা কোনো যোগাযোগের সমস্যা নয় যা ভালো মার্কেটিং বা শক্তিশালী লিডারবোর্ড অবস্থান সমাধান করতে পারে। এটি এমন পরিস্থিতিতে প্রদর্শিত পারফরম্যান্সের ফল যা গুরুত্বপূর্ণ পরিস্থিতির সাথে সাদৃশ্যপূর্ণ। কঠোরতাই একমাত্র পথ, এবং শর্টকাটগুলো ফলাফলে দৃশ্যমান হয়।
কঠোরতা আসলে কী দাবি করে
ভাষ্যটি একটি সরল চেকলিস্ট দেয় না, তবে এর যুক্তি সংলাপমূলক সিস্টেমকে ক্লিনিক্যাল ব্যবহারের দিকে নিয়ে আসা যে কারোর জন্য একগুচ্ছ প্রত্যাশার ইঙ্গিত দেয়:
- সিস্টেম যেখানে থাকবে সেখানে মূল্যায়ন করুন। প্রমাণ আসা উচিত সেই পরিবেশ, জনগোষ্ঠী ও কর্মপ্রবাহ থেকে যেখানে সরঞ্জামটি পরিচালনার উদ্দেশ্যে তৈরি।
- পরিমাপের আগে ফলাফল নির্ধারণ করুন। ক্লিনিক্যালভাবে অর্থবহ শেষবিন্দু—প্রক্সি মেট্রিক নয়—মূল্যায়নের ভিত্তি হওয়া উচিত।
- আপনি যা পান তা রিপোর্ট করুন, ব্যর্থতাসহ। নির্বাচনী রিপোর্টিং সেই আস্থাকেই ক্ষুণ্ণ করে যা প্রমাণ তৈরি করার কথা।
- প্রমাণকে সংস্করণযুক্ত হিসেবে বিবেচনা করুন। সিস্টেম পরিবর্তিত হলে প্রমাণ পুনরায় পরীক্ষা করা উচিত, পূর্বের ভিত্তিতে এগিয়ে নেওয়া নয়।
- স্বীকার করুন কিছু প্রশ্নে বছর লেগে যায়। দ্রুত উত্তরের অনুপস্থিতি মানে দায়বদ্ধতার অনুপস্থিতি নয়।
একসাথে পড়লে, এই প্রত্যাশাগুলো একটি ধীর, আরও সুশৃঙ্খল উন্নয়ন সংস্কৃতির দিকে ইঙ্গিত করে—যেখানে একটি মডেল পাঠানোর ক্ষমতা এবং তার উপর নির্ভর করার অধিকার আলাদা করা হয়।
ক্লিনিশিয়ানদের জন্য এর অর্থ কী
অনুশীলনরত ক্লিনিশিয়ানদের জন্য, ভাষ্যটির বার্তা হলো ইন্টারফেসের পালিশকে যাচাইকরণের বিকল্প হিসেবে মেনে নেওয়ার বিরুদ্ধে সতর্কতা। একটি সংলাপমূলক সিস্টেম যা সাবলীল, আত্মবিশ্বাসী এবং বিবেচক শোনায়, তা এমন দক্ষতার অনুভূতি তৈরি করতে পারে যা অন্তর্নিহিত প্রমাণ সমর্থন করে না। নিবন্ধের যুক্তি ইঙ্গিত করে যে ক্লিনিশিয়ানদের জিজ্ঞাসা করা উচিত কী সম্ভাব্য প্রমাণ বিদ্যমান, কোন জনগোষ্ঠীতে এবং সরঞ্জামের কোন সংস্করণের জন্য—এবং উত্তর না থাকাকে অপেক্ষা করার কারণ হিসেবে বিবেচনা করতে স্বচ্ছন্দ হওয়া উচিত।
ডেভেলপার ও নিয়ন্ত্রকদের জন্য এর অর্থ কী
নির্মাতাদের জন্য, বার্তাটি হলো সম্ভাব্য মূল্যায়ন ক্লিনিক্যাল পরিবেশে ব্যবসা করার একটি ব্যয়, কোনো ঐচ্ছিক চূড়ান্ত ধাপ নয়। নিয়ন্ত্রক ও স্বাস্থ্য ব্যবস্থার জন্য, এর তাৎপর্য হলো মূল্যায়ন কাঠামোকে এমন সিস্টেম accommodate করতে হবে যাদের আচরণ মিথস্ক্রিয়া দ্বারা গঠিত হয়, এবং অনুমোদন বা গ্রহণের সিদ্ধান্তগুলো উদ্দিষ্ট ব্যবহার পরিবেশের প্রমাণের সাথে যুক্ত হওয়া উচিত।
অস্বস্তিকর কিন্তু সঠিক উপসংহার
নেচার মেডিসিন-এর ভাষ্যটি এমন একটি অবস্থানে পৌঁছায় যা নীতিগতভাবে সম্মত হওয়া সহজ এবং অনুশীলনে সম্মান করা কঠিন। এটি স্বীকার করে যে সংলাপমূলক চিকিৎসা এআই-এর জন্য সম্ভাব্য প্রমাণ কঠিন, ধীর এবং ব্যয়বহুল। তারপর এটি যুক্তি দেয় যে এই তথ্যগুলোর কোনোটিই প্রয়োজনীয়তা পরিবর্তন করে না। ক্লিনিক্যাল এআই-এর প্রতি আস্থা বেঞ্চমার্ক করে সৃষ্টি করা যায় না; এটি অর্জন করতে হয় কঠোরতার মাধ্যমে।
এটি একটি দাবিদার মান। এটি একমাত্র মান যা প্রযুক্তির কাছে—এবং যে রোগীরা এর মুখোমুখি হবে তাদের কাছে—যা চাওয়া হচ্ছে তার সাথে মেলে।
এই নিবন্ধটি নেচার মেডিসিন-এর রিপোর্টিং-এর উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।
Originally published on nature.com
