বড় ভাষা মডেল যখন ক্লিনিক্যাল কাজের কাছাকাছি পৌঁছাচ্ছে, তখন অনুরোধের ভাষা AI-সহায়িত সিদ্ধান্তের নিরাপত্তাকে কতটা প্রভাবিত করে, সেই প্রশ্ন গুরুত্বপূর্ণ হয়ে উঠেছে। Mount Sinai-এর Icahn School of Medicine-এর গবেষণায় প্রভাবটি উল্লেখযোগ্য বলে দেখা গেছে।
Communications Medicine-এ প্রকাশিত গবেষণায় দেখা যায়, একটি সংক্ষিপ্ত নিরাপত্তা স্মরণ যোগ করলে সম্ভাব্য ক্ষতিকর ক্লিনিক্যাল পছন্দ 16.6% থেকে 10.1%-এ নেমে আসে। 20টির মধ্যে 19টি মডেলে এই হ্রাস দেখা যায়।
সিমুলেটেড ক্লিনিক্যাল পছন্দে পরিমাপযোগ্য পরিবর্তন
গবেষকেরা 50টি ক্লিনিক্যাল পরিস্থিতির 501টি রূপে 20টি বড় ভাষা মডেল পরীক্ষা করেন। পরিচয় মুছে ফেলা হাসপাতাল থেকে ছাড়পত্রের নথি থেকে তৈরি 100টি ঘটনাও ব্যবহার করা হয়। মোট 10 মিলিয়নের বেশি উত্তর বিশ্লেষণ করা হয়।
প্রেক্ষাপট কেন গুরুত্বপূর্ণ
ভাষা, উপস্থাপন ও প্রেক্ষাপট মডেলের উত্তরকে প্রভাবিত করতে পারে। নিরাপত্তা নির্দেশনা চিকিৎসা-বিচারের বিকল্প নয়; এটি সিস্টেম ডিজাইনের একটি স্তর হিসেবে বিবেচিত হওয়া উচিত।
শুধু উত্তর নয়, অনুরোধও পরীক্ষা করা দরকার
ক্লিনিক্যাল AI মূল্যায়নে শুধু তথ্যের নির্ভুলতা দেখা যথেষ্ট নয়। অস্পষ্ট বা অনিরাপদ অনুরোধের সময় মডেল রোগীর নিরাপত্তাকে অগ্রাধিকার দেয় কি না, সেটিও পরীক্ষা করতে হবে।
ফলাফল কী দেখায় এবং কী দেখায় না
সংক্ষিপ্ত নিরাপত্তা নির্দেশনা গবেষণায় ব্যবহৃত পরিস্থিতিতে ক্ষতিকর পছন্দ কমাতে পারে। তবে এটি প্রমাণ করে না যে ভাষা মডেল স্বাধীনভাবে ক্লিনিক্যাল সিদ্ধান্ত নিতে পারে বা সব হাসপাতাল ও সফটওয়্যারে একই ফল হবে।
ক্লিনিক্যাল AI-এর নকশা বিবেচনা
নিরাপত্তা-ভিত্তিক ভাষাকে পরে যোগ করা সতর্কবার্তা না ভেবে পণ্যের পরীক্ষাযোগ্য উপাদান হিসেবে দেখা উচিত। স্মরণ করিয়ে দেওয়া সব সমস্যা সমাধান করেনি, তবে মডেলের আচরণকে নিরাপদ দিকে সরিয়েছে।
এই নিবন্ধটি Medical Xpress-এর প্রতিবেদনের ওপর ভিত্তি করে তৈরি। মূল নিবন্ধ পড়ুন।
Originally published on medicalxpress.com
