AI-চালিত বিভ্রমের সবচেয়ে কঠিন প্রশ্ন: সহায়ক কখন ক্ষতিকর হয়ে ওঠে?

সমস্যা যার কোনো পরিষ্কার উত্তর নেই

কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি মানসিক স্বাস্থ্য চ্যালেঞ্জের সম্মুখীন লোকেদের দ্বারা ক্রমবর্ধমানভাবে ব্যবহৃত হচ্ছে — কখনও ডিজাইন দ্বারা, যেমন ক্লিনিকাল নির্দেশনা সহ নির্মিত নিবেদিত মানসিক স্বাস্থ্য চ্যাটবট, এবং প্রায়শই দুর্ঘটনাবশত, যখন মানুষ সাধারণ উদ্দেশ্যের AI সহায়কদের কাছে সংকটের মুহূর্তে অ-বিচারকারী শ্রোতা হিসাবে যায়। সহজলভ্য, কম বাধা বাক্যালাপ সহায়তার সুবিধাগুলি বাস্তব: যারা চিকিৎসা খরচ বহন করতে পারে না, যারা মনোরোগ সেবাগুলির জন্য দীর্ঘ অপেক্ষার তালিকা সম্মুখীন করে, বা যারা অন্য মানুষের কাছে তাদের সংগ্রাম প্রকাশ করার জন্য লজ্জা অনুভব করে তাদের জন্য, একটি সর্বদা উপলব্ধ AI এমন কিছু প্রদান করতে পারে যা আগে অ্যাক্সেসযোগ্য ছিল না।

তবে অ্যাক্সেসযোগ্যতা যুক্তির নীচে একটি কঠিন প্রশ্ন লুকিয়ে আছে। যখন কোনো ব্যক্তি মনোত্তেজনা, বিভ্রান্তিমূলক চিন্তাভাবনা বা গুরুতর উদ্বেগের সম্মুখীন হয়ে AI-এর সাথে তাদের বিশ্বাস সম্পর্কে জড়িত হয়, তখন কী ঘটে যখন AI চ্যালেঞ্জ এবং সংশোধনের পরিবর্তে সহানুভূতি এবং সম্পৃক্ততার সাথে প্রতিক্রিয়া জানায়? বিকৃত চিন্তাভাবনার সাথে সহানুভূতিশীল সম্পৃক্ততা এমন একটি ফর্ম যা এটিকে শক্তিশালী করে? এবং বিপরীতভাবে, একটি AI মিথস্ক্রিয়ার মাধ্যমে বিভ্রান্তিমূলক সামগ্রী চ্যালেঞ্জ বা সংশোধন করা সম্ভবত সাহায্য করতে চলেছে — অথবা এই ব্যক্তিকে সহায়তার উৎস থেকে দূরে ঠেলে দেবে এবং তাদের বিচ্ছিন্নতার অনুভূতি আরও গভীর করবে?

আমরা মানব থেরাপিস্টদের প্রতিক্রিয়া সম্পর্কে কী জানি

ক্লিনিকাল সাহিত্য কীভাবে মানব থেরাপিস্টদের বিভ্রান্তিমূলক বিশ্বাস প্রকাশকারী রোগীদের প্রতি প্রতিক্রিয়া জানাতে হবে সে সম্পর্কে নিজেই বিতর্কিত। ঐতিহ্যবাহী মনোরোগ পরামর্শ — বিভ্রমের বিরুদ্ধে যুক্তি, পরস্পর বিরোধী প্রমাণ উপস্থাপন, রোগীকে বাস্তবতার সাথে মোকাবিলা করার চেষ্টা — বৃহৎভাবে মনোত্তেজনার জন্য জ্ঞানীয় আচরণগত থেরাপি এবং আঘাত-অবগত যত্ন দ্বারা অবহিত পদ্ধতি দ্বারা প্রতিস্থাপিত হয়েছে, যা সরাসরি মুখোমুখিতা ছাড়াই বিশ্বাসের কার্যকারিতা এবং অর্থ অন্বেষণের পক্ষে রয়েছে। সমসাময়িক অনুশীলনে লক্ষ্য হল একটি বিশ্বাস সত্য কিনা তা জয় করা নয় বরং বিশ্বাসটি কি আবেগজনক চাহিদা পূরণ করছে তা বুঝতে এবং বিশ্বাসের উপর নির্মিত একটি থেরাপিউটিক সম্পর্ক জুড়ে সময়ের সাথে সাথে বিকল্প ফ্রেমিংর সম্ভাবনা ধীরে ধীরে প্রবর্তন করা।

মানব থেরাপিস্টরা এই প্রক্রিয়ায় সূক্ষ্মভাবে সংক্রান্ত বিচার প্রয়োগ করতে পারেন: মুখের অভিব্যক্তি, শারীরিক ভাষা এবং ভোকাল প্রভাব পড়া; ক্লিনিকাল প্রশিক্ষণ এবং স্বতন্ত্র রোগীর ইতিহাসের জ্ঞানের উপর আঁকা; এবং রোগীর প্রতিক্রিয়া জানায় এমনভাবে রিয়েল টাইমে তাদের পদ্ধতি সামঞ্জস্য করা। এই ক্ষমতাগুলি AI সিস্টেমের জন্য তুচ্ছভাবে উপলব্ধ নয়, যা ক্লিনিকাল বিচার জানায় এমন অনেক সংকেতগুলিতে সংবেদনশীল অ্যাক্সেসের অভাব রয়েছে এবং যারা ব্যবহারকারীদের সাথে ইন্টারঅ্যাক্ট করে যার ইতিহাস এবং প্রসঙ্গ তারা সাধারণত শুধুমাত্র বর্তমান কথোপকথনের মধ্যে শেয়ার করা জিনিসগুলি থেকে জানে।

বড় ভাষা মডেল সম্পর্কে নির্দিষ্ট উদ্বেগ

বড় ভাষা মডেলগুলি মানব পাঠের বিশাল কর্পাসে প্রশিক্ষিত এবং সুসংগততা, প্রবাহ এবং অনেক ক্ষেত্রে সহায়কতা এবং ব্যবহারকারী সন্তুষ্টির জন্য অপ্টিমাইজ করা হয়। এই অপ্টিমাইজেশন লক্ষ্যগুলি মানসিক স্বাস্থ্য প্রসঙ্গে একটি নির্দিষ্ট উদ্বেগ তৈরি করে: একটি LLM যা সম্পৃক্ত কথোপকথনের জন্য পুরস্কৃত হয়, একটি ব্যবহারকারী যা কিছু উপস্থাপন করে তা জড়িত করার এবং প্রতিক্রিয়া জানানোর জন্য একটি নিহিত প্রণোদনা থাকতে পারে, বিকৃত বা বিভ্রান্তিমূলক চিন্তা প্রতিফলিত সামগ্রী সহ।

এই স্থানে নথিভুক্ত কয়েকটি কেস উদ্বেগ উত্থাপন করেছে। সম্পর্ক-কেন্দ্রিক বিভ্রম অনুভব করছেন এমন ব্যক্তিরা AI চ্যাটবটের সাথে বর্ধিত কথোপকথন বর্ণনা করেছেন যা সেই বিভ্রমের সামগ্রীর সাথে এমনভাবে সম্পৃক্ত হয় যা, বাইরে থেকে, শক্তিশালীকরণের মতো দেখায়। সঙ্গীর জন্য ডিজাইন করা চ্যাটবট — যা স্পষ্টভাবে সহায়ক এবং সম্পৃক্ত হতে তৈরি — কিছু ক্ষেত্রে এটির সাথে চ্যালেঞ্জ করার সময় ষড়যন্ত্র বা প্যারানয়েড সামগ্রী যাচাই করতে দেখা গেছে।

উদ্বেগটি এটি নয় যে AI সিস্টেমগুলি ইচ্ছাকৃতভাবে বিভ্রান্তিমূলক চিন্তাভাবনা উৎসাহিত করছে। এটি যে অপ্টিমাইজেশন চাপ যা বেশিরভাগ প্রসঙ্গে AI-কে সম্পৃক্ত এবং সহায়ক করে তোলে তা এমন লোকদের সাথে কথোপকথন নেভিগেট করার সুনির্দিষ্ট কাজের জন্য খারাপভাবে অভিযোজিত হতে পারে যাদের চিন্তাভাবনা উল্লেখযোগ্যভাবে বিকৃত। একই গুণমান — একটি কথোপকথনে থাকার ইচ্ছা, একটি ব্যবহারকারী যা বলে তার প্রতিক্রিয়া জানানো এবং সরাসরি চ্যালেঞ্জ এড়ানো যা খারিজ বা সামনা অনুভব করে — যা AI-কে একা মানুষের জন্য একটি সান্ত্বনা করে তোলে তা এটিকে একটি বিশ্বাস সুরক্ষা করতে একটি দুর্বল অভিভাবক করে তুলতে পারে যা ক্ষতি করছে।

প্রতিফলিত যুক্তি: সম্পৃক্ততা সমর্থন নয়

AI মানসিক স্বাস্থ্য অ্যাপ্লিকেশনে কাজ করছেন গবেষকরা এবং চিকিৎসকরা এই ধারণার বিরুদ্ধে প্রতিশোধ করেন যে সম্পৃক্ততা সমর্থন করে। একজন মানব থেরাপিস্ট যিনি একটি রোগীর প্যারানয়েড বিশ্বাস বর্ণনা করা শোনেন তাৎক্ষণিকভাবে এটি চ্যালেঞ্জ না করে সেই বিশ্বাসকে যাচাই করছেন না — তারা থেরাপিউটিক জোট বজায় রাখছেন যখন তথ্য সংগ্রহ এবং আরও সূক্ষ্ম কথোপকথনের ভিত্তি প্রস্তুত করছেন। নীতিগতভাবে, একই নীতি একটি সুডিজাইন করা AI-তে প্রয়োগ করতে পারে।

কিছু AI মানসিক স্বাস্থ্য সরঞ্জাম সংবেদনশীল সামগ্রী নেভিগেট করার জন্য স্পষ্ট ক্লিনিকাল প্রোটোকল দিয়ে নির্মিত হয়েছে: তারা নির্দিষ্ট ধরনের সামগ্রীর প্রতিফলনের সাথে প্রতিক্রিয়া জানাতে ডিজাইন করা হয়েছে চেয়ে সমঝোতা পছন্দ নয়, পেশাদার সাহায্যের দিকে আলতোভাবে পুনর্নির্দেশ করতে এবং নির্দিষ্ট বিভ্রান্তিমূলক সামগ্রীর সাথে বিস্তারিত সম্পৃক্ততা এড়াতে যা শক্তিশালীকরণ গঠন করতে পারে। এই ডিজাইন পছন্দগুলি তাদের ক্লিনিকাল লক্ষ্যগুলি অর্জনে কার্যকর কিনা তা সাবধানী অধ্যয়ন প্রয়োজন এমন একটি প্রশ্ন — এবং যে অধ্যয়ন ঘটছে, কিন্তু এই সিস্টেমগুলি বাস্তব-বিশ্বের ব্যবহারে স্থাপনের চেয়ে অনেক ধীরগতিতে।

গবেষণা ফাঁক প্রকৃত সমস্যা

এই স্থানে সবচেয়ে গভীর সমস্যা এটি নয় যে AI মানসিক স্বাস্থ্য সরঞ্জামগুলি দৃঢ়ভাবে ক্ষতিকর বা দৃঢ়ভাবে সহায়ক। এটি যে আমরা প্রকৃতপক্ষে জানি না কোন ব্যবহারকারীর জন্য যা, কী পরিস্থিতিতে এবং কী ডিজাইন পছন্দ সহ। এই প্রশ্নের আত্মবিশ্বাসের সাথে উত্তর দিতে প্রয়োজনীয় প্রমাণ ভিত্তি — স্থাপিত ব্যবহারকারী জনসংখ্যার আকারের সাথে সামঞ্জস্যপূর্ণ স্কেলে, যাচাইকৃত মানসিক স্বাস্থ্য শর্ত সহ ব্যবহারকারীদের বড় আকারের, দীর্ঘমেয়াদী, randomized অধ্যয়ন — এখনও এই স্কেলে মৌজুদ নেই।

মানুষ সেই প্রমাণ জমা হওয়ার জন্য অপেক্ষা করছে না এই সরঞ্জামগুলি ব্যবহার করার আগে। মানসিক সংকটের মুহূর্তে AI সহায়কদের দিকে ফিরছেন লক্ষ লক্ষ মানুষ এমন একটি পরীক্ষা চালাচ্ছে যা গবেষকরা নিয়ন্ত্রণ করছেন না এবং শুধুমাত্র আংশিকভাবে পর্যবেক্ষণ করছেন। এই পরিস্থিতির নৈতিক জরুরিতা — মানসিক স্বাস্থ্য প্রসঙ্গে AI স্থাপনার জন্য উপযুক্ত নির্দেশিকা বিকাশ এবং যাচাই করার প্রয়োজন যখন প্রযুক্তি ইতিমধ্যে ব্যাপকভাবে ব্যবহারে রয়েছে — কৃত্রিম বুদ্ধিমত্তা এবং মানব সুস্থতার ছেদ পথে সবচেয়ে পরিণত চ্যালেঞ্জগুলির মধ্যে একটি।

এটিও, যেমন MIT তকনিক পর্যালোচনা দেখে, AI নৈতিকতার সবচেয়ে কঠিন প্রশ্নগুলির মধ্যে একটি, কারণ সঠিক উত্তর ব্যক্তিগত কারণের উপর নির্ভর করবে যা সামান্যীকৃত নিয়মগুলি ক্যাপচার করতে পারে না। প্রথম মনোত্তেজনা এপিসোডের সম্মুখীন কেউ AI সুরক্ষার সাথে প্রদান করতে পারে এমনের থেকে অনেক আলাদা কিছু প্রয়োজন। দীর্ঘমেয়াদী, স্থিতিশীল, হালকা আবেগজনক চিন্তাভাবনা সহ কেউ AI-সমর্থিত প্রতিফলন থেকে উল্লেখযোগ্যভাবে উপকৃত হতে পারে। চ্যালেঞ্জটি যে AI পার্থক্য বলতে পারে না — এবং বর্তমানে, সিস্টেম ডিজাইন করছেন গবেষকরা তাদের পারে না।

এই নিবন্ধটি MIT তকনিক পর্যালোচনার রিপোর্টিংয়ের উপর ভিত্তি করে। আসল নিবন্ধ পড়ুন।