অযাচাইযোগ্য ডেটাসেটের উপর নির্মিত এআই স্বাস্থ্য পূর্বাভাস মডেল গুরুতর উদ্বেগ সৃষ্টি করেছে

গবেষণায় এআই স্বাস্থ্য ডেটার উৎসে উদ্বেগজনক ফাঁক প্রকাশ

স্ট্রোক এবং ডায়াবেটিসের মতো স্বাস্থ্য ঝুঁকি পূর্বাভাস দেওয়ার জন্য ডিজাইন করা কৃত্রিম বুদ্ধিমত্তা মডেলগুলি এমন ডেটাসেটের উপর নির্মিত হতে পারে যার উৎস যাচাই করা যায় না, BMC Medicine-এ প্রকাশিত নতুন গবেষণা অনুসারে। কুইন্সল্যান্ড ইউনিভার্সিটি অফ টেকনোলজি (QUT) এবং অস্ট্রেলিয়ান সেন্টার ফর হেলথ সার্ভিসেস ইনোভেশন (AusHSI)-এর গবেষকদের নেতৃত্বে পরিচালিত এই গবেষণাটি ডেটাসেট এবং মেশিন-লার্নিং রিসোর্স শেয়ার করার জনপ্রিয় অনলাইন প্ল্যাটফর্ম Kaggle-এ হোস্ট করা দুটি ব্যাপকভাবে ডাউনলোড করা স্বাস্থ্য ডেটাসেট পরীক্ষা করেছে। ফলাফলগুলি কিছু এআই-চালিত ক্লিনিকাল টুলের ভিত্তিতে একটি গুরুতর ত্রুটি তুলে ধরে।

১২৫টিরও বেশি পিয়ার-রিভিউড গবেষণায় ব্যবহৃত ডেটাসেট

প্রশ্নবিদ্ধ দুটি ডেটাসেট ১২৫টি পিয়ার-রিভিউড গবেষণায় ব্যবহৃত হয়েছে বলে পাওয়া গেছে, যদিও তারা ডেটা কোথা থেকে এসেছে, কীভাবে সংগ্রহ করা হয়েছে বা তারা প্রকৃত রোগীদের প্রতিনিধিত্ব করে কিনা সে সম্পর্কে প্রায় কোনও তথ্য প্রদান করে না। প্রধান লেখক QUT-এর স্কুল অফ পাবলিক হেলথ অ্যান্ড সোশ্যাল ওয়ার্ক এবং AusHSI-এর আলেকজান্ডার গিবসন এই আবিষ্কারে শক প্রকাশ করেছেন। “এমন কিছু দেখে পাওয়া একটি বিশাল বিস্ময় ছিল,” গিবসন বলেছেন। “এই ডেটাসেটগুলি অস্বাভাবিক প্যাটার্ন প্রদর্শন করে যা তাদের সত্যতা এবং ক্লিনিকাল গবেষণার জন্য উপযুক্ততা নিয়ে গুরুতর প্রশ্ন উত্থাপন করে।”

ক্লিনিকাল প্রভাব এবং পেটেন্ট উদ্ধৃতি

ডেটার উপর ভিত্তি করে তিনটি পূর্বাভাস মডেল ক্লিনিকাল অনুশীলনে ব্যবহারের প্রমাণ দেখিয়েছে। একটি মডেল একটি মেডিকেল ডিভাইস পেটেন্টে উদ্ধৃত হয়েছিল, এবং মডেলগুলি ৮৬টি পর্যালোচনা নিবন্ধে উল্লেখ করা হয়েছিল। এটি পরামর্শ দেয় যে অন্তর্নিহিত ডেটার সন্দেহজনক উৎস সত্ত্বেও, এই মডেলগুলি বাস্তব-বিশ্বের চিকিৎসা সিদ্ধান্ত এবং উদ্ভাবনকে প্রভাবিত করেছে।

প্রয়োজনীয় ডেটা-প্রোভেন্যান্স মানদণ্ডে শূন্য স্কোর

গবেষণাটি আন্তর্জাতিকভাবে স্বীকৃত TRIPOD+AI রিপোর্টিং ফ্রেমওয়ার্ক ব্যবহার করে ডেটাসেটগুলি মূল্যায়ন করেছে, যা পূর্বাভাস মডেল অধ্যয়নের স্বচ্ছতা এবং সম্পূর্ণতা মূল্যায়ন করে। ডেটাসেটগুলি প্রয়োজনীয় ডেটা-প্রোভেন্যান্স মানদণ্ডে ৯টির মধ্যে ০ স্কোর করেছে, যা তাদের উৎস সম্পর্কে যাচাইযোগ্য তথ্যের সম্পূর্ণ অভাব নির্দেশ করে। গিবসন সতর্ক করেছেন যে এটি জার্নাল, ডেভেলপার এবং ক্লিনিশিয়ানদের জন্য একটি লাল পতাকা হওয়া উচিত। “অজানা উৎসের ডেটার উপর নির্মিত পূর্বাভাস মডেলগুলির ক্লিনিকাল সিদ্ধান্ত গ্রহণে কোনও স্থান নেই। বিশ্বাসযোগ্য ডেটা ছাড়া, আউটপুটগুলি অবিশ্বস্ত এবং চিকিৎসকদের বিভ্রান্ত করার এবং রোগীদের ক্ষতি করার ঝুঁকি তৈরি করে,” তিনি বলেছেন।

শক্তিশালী প্রকাশের প্রয়োজনীয়তার আহ্বান

লেখকরা সুপারিশ করেন যে জার্নাল, ফান্ডার এবং ডেটা রিপোজিটরিগুলি ডেটা-উৎস প্রকাশের প্রয়োজনীয়তা শক্তিশালী করুক। তারা আরও পরামর্শ দেয় যে দুটি Kaggle ডেটাসেট অপসারণ করা উচিত যাতে আরও অপব্যবহার রোধ করা যায়। এই ডেটাসেটগুলি ব্যবহার করে সাতটি নিবন্ধ ইতিমধ্যেই অবিশ্বস্ত হওয়ার কারণে জার্নাল থেকে প্রত্যাহার করা হয়েছে। গবেষণার ফলাফলগুলি ওপেন সায়েন্স ইন্টিগ্রিটি গাইডের সংগ্রহকেও আপডেট করেছে, যা গবেষণার অখণ্ডতা নিশ্চিত করার জন্য সংস্থান সরবরাহ করে।

স্বাস্থ্যসেবায় এআই-এর জন্য বিস্তৃত প্রভাব

গিবসন উল্লেখ করেছেন যে সমস্যাটি স্বাস্থ্যসেবায় এআই টুলের প্রসারের সাথে সাথে একটি বৃহত্তর চ্যালেঞ্জ প্রতিফলিত করে। শক্তিশালী ডেটা প্রোভেন্যান্স মান ছাড়া, ত্রুটিপূর্ণ মডেলগুলিকে ক্লিনিকাল অনুশীলনে মোতায়েন করার ঝুঁকি বেড়ে যায়। গবেষণাটি রোগীর ফলাফলকে প্রভাবিত করতে পারে এমন এআই মডেল প্রশিক্ষণের আগে ডেটাসেটগুলির কঠোর বৈধতার প্রয়োজনীয়তার উপর জোর দেয়।

ক্ষেত্রের জন্য সুপারিশ

• জার্নালগুলির উচিত এআই পূর্বাভাস মডেল ব্যবহার করে যেকোনো গবেষণার জন্য বিস্তারিত ডেটা প্রোভেন্যান্স তথ্য প্রয়োজন করা।
• ফান্ডারদের উচিত ডেটা সংগ্রহ এবং ভাগাভাগি অনুশীলনে স্বচ্ছতা বাধ্যতামূলক করা।
• Kaggle-এর মতো ডেটা রিপোজিটরিগুলির উচিত যাচাইকরণ প্রক্রিয়া বাস্তবায়ন করা যাতে ডেটাসেটগুলি ন্যূনতম প্রোভেন্যান্স মান পূরণ করে।
• ক্লিনিশিয়ানদের উচিত ডেটার নির্ভরযোগ্যতার স্পষ্ট প্রমাণ ছাড়া এআই টুল গ্রহণে সতর্ক হওয়া।

ফলাফলগুলি এআই এবং চিকিৎসা সম্প্রদায়ের জন্য একটি সতর্কতামূলক গল্প হিসাবে কাজ করে, জোর দিয়ে বলে যে স্বাস্থ্যসেবায় এআই-এর প্রতিশ্রুতি কেবল তখনই বাস্তবায়িত হতে পারে যদি এই মডেলগুলির অন্তর্নিহিত ডেটা বিশ্বাসযোগ্য হয়।

এই নিবন্ধটি Medical Xpress-এর রিপোর্টিংয়ের উপর ভিত্তি করে তৈরি। মূল নিবন্ধটি পড়ুন।