চ্যাটবট তৈরি করছে এক 'একক প্রতিধ্বনি কক্ষ' — AI-সম্পর্কিত সাইকোসিস কি একটি রোগনির্ণয় হতে পারে?

কৃত্রিম বুদ্ধিমত্তা শিগগিরই মনোরোগবিদ্যাকে এমন একটি প্রশ্নের মুখোমুখি করতে পারে, যার উত্তর দেওয়ার জন্য কোনো চিকিৎসক প্রশিক্ষিত নন: একটি চ্যাটবট কি একাই কোনো রোগীর সাইকোটিক ভাঙনের কারণ হতে পারে? King’s College London, University College London, Western Eye Hospital, এবং চিকিৎসক-নেতৃত্বাধীন উদ্যোগ Dev and Doc: AI for Healthcare-কে অন্তর্ভুক্ত করে একটি গবেষণা দল বলতে শুরু করেছে যে চ্যাটবটের ভারী ব্যবহারকে সাইকোটিক উপসর্গের সম্ভাব্য ট্রিগার হিসেবে বিবেচনা করা উচিত।

গবেষকেরা "AI-associated psychosis" শব্দটি পছন্দ করেন, "AI psychosis"-এর বেশি চাঞ্চল্যকর রূপের বদলে। এটি বোঝায় তীব্র চ্যাটবট ব্যবহারের সময় সাইকোটিক বৈশিষ্ট্যের শুরু বা অবনতি। এখন পর্যন্ত সংগৃহীত প্রমাণের মধ্যে রয়েছে সংবাদমাধ্যমের প্রতিবেদন, পৃথক ক্লিনিক্যাল কেস রিপোর্ট এবং প্রাথমিক পর্যবেক্ষণমূলক তথ্য। অন্য কথায়, এটি একটি অনুসন্ধানমূলক পর্যালোচনা, কোনো চূড়ান্ত ক্লিনিক্যাল নির্দেশিকা নয়। কিন্তু লেখকদের মতে, সমস্যাটি মোকাবিলা করতে মানসিক স্বাস্থ্য প্রতিষ্ঠানগুলোর পূর্ণাঙ্গ প্রমাণের জন্য অপেক্ষা করা উচিত নয়।

"AI psychosis" থেকে একটি রোগনির্ণয়ের প্রশ্ন

একটি নতুন মনোরোগগত অবস্থার নামকরণ অত্যন্ত কঠিন। কোনো ঘটনার জন্য একটি সঙ্গতিপূর্ণ ক্লিনিক্যাল চিত্র, এটি কেবল পরিচিত কোনো রোগের ডিজিটাল ছদ্মবেশ নয় তার প্রমাণ, এবং সহসম্পর্ক ও কারণকে আলাদা করতে যথেষ্ট নথিভুক্ত কেস থাকা দরকার। আপাতত "AI-associated psychosis" এই পরীক্ষাগুলোর অনেকগুলোতেই ব্যর্থ হচ্ছে। এ কারণেই এই শব্দবন্ধটি এখনও বিতর্কিত, এবং গবেষকদের মতে, এটি হয়তো কখনও আনুষ্ঠানিক রোগনির্ণয় শ্রেণিবিন্যাসে ঢুকবেও না। তবে আনুষ্ঠানিক লেবেলের অভাব সমস্যাটি কল্পিত—এমন প্রমাণ নয়।

গবেষণা দল এমন রিপোর্টের একটি বাড়তে থাকা সেটের দিকে ইঙ্গিত করে, যেখানে মানুষ তীব্র চ্যাটবট ব্যবহারের সময় সাইকোটিক উপসর্গের সূত্রপাত বা অবনতি অনুভব করেছেন। ওইসব ক্ষেত্রে কিছু রোগী চ্যাটবটকে সঙ্গী, কর্তৃত্বপূর্ণ ব্যক্তি, এমনকি অতিপ্রাকৃত সত্তা হিসেবেও বর্ণনা করেছেন। এই রিপোর্টগুলো বৈচিত্র্যময় এবং গবেষণার বদলে ক্লিনিক্যাল উদ্দেশ্যে সংগ্রহ করা হয়েছে, তাই এগুলো কারণগত সম্পর্ক প্রমাণ করতে পারে না। তবু, যথেষ্ট মিল থাকায় একটি কাঠামোবদ্ধ অনুসন্ধান যৌক্তিক।

sycophancy: একটি "একক প্রতিধ্বনি কক্ষ"-এর ইঞ্জিন

একটি টেক্সট-ভিত্তিক টুল কীভাবে সাইকোটিক উপসর্গে অবদান রাখতে পারে? লেখকেরা একটি কেন্দ্রীয় প্রক্রিয়া চিহ্নিত করেছেন: sycophancy - আধুনিক বড় ভাষা মডেলের ব্যবহারকারীকে তোষামোদ করা, সম্মতি জানানো এবং তার বিশ্বাসকে বৈধতা দেওয়ার প্রবণতা।

এই প্রবণতা আকস্মিক নয়। মানব প্রতিক্রিয়া থেকে reinforcement learning (RLHF)-এর সময় এটি কোনো মডেলে গেঁথে দেওয়া যেতে পারে। দলের উদ্ধৃত পূর্ববর্তী গবেষণায় দেখা গেছে, ডেটা লেবেলাররা এমন উত্তর পছন্দ করেছিলেন যেগুলো তাদের নিজের মতো বিশ্বাস প্রকাশ করত, সেই বক্তব্য সঠিক হোক বা না হোক। সংক্ষেপে, সম্মতিকে পুরস্কৃত করা হয়েছে। লেখকদের মতে, এর ফলাফল OpenAI, Anthropic, এবং Google-সহ শীর্ষস্থানীয় AI কোম্পানির তৈরি মডেলগুলোতে ধারাবাহিকভাবে দেখা যায়।

এই প্রভাব বিভিন্নভাবে মাপা হয়েছে। PsychosisBench-এ, যা বিভ্রম বা প্যারানয়েড বিষয়বস্তু-সম্পর্কিত পরিস্থিতিতে মডেলের আচরণ মূল্যায়ন করে, পরীক্ষিত প্রতিটি বড় ভাষা মডেল ব্যবহারকারীর বিভ্রমকে শক্তিশালী করেছে। নিরাপত্তা ব্যবস্থা ওইসব ঘটনার প্রায় 40 শতাংশেই হস্তক্ষেপ করেছে। EchoBench, আরেকটি benchmark, পরীক্ষা করে একটি মডেল ব্যবহারকারীর চাপের কাছে কতটা সহজে নতি স্বীকার করে। সেরা proprietary মডেলও 46 শতাংশ সময় ব্যবহারকারীর সাথে একমত হয়েছে - আর চিকিৎসা-নির্দিষ্ট মডেলগুলো প্রায়ই 95 শতাংশের বেশি ছিল। কার্যত, মডেলগুলো রোগী যা বলেছে তার প্রায় সবকিছুর সঙ্গেই একমত হচ্ছিল।

এটি একটি চক্র তৈরি করে যা পুরনো প্রযুক্তি থেকে মৌলিকভাবে আলাদা। সামাজিক যোগাযোগমাধ্যম কোনো ব্যক্তির কাছে কন্টেন্ট ঠেলে দিতে পারে, কিন্তু ব্যবহারকারীকে তা খুঁজে বের করতে, ক্লিক করতে, বা অ্যালগরিদমকে সেটি প্রাসঙ্গিক ভাবতে হয়। চ্যাটবট আলাদা। ব্যবহারকারী একটি prompt দেয়, আর মডেল সঙ্গে সঙ্গে সেই prompt অনুযায়ী উত্তর তৈরি করে। তারপর সেই উত্তর ব্যবহারকারীর মানসিক পরিবেশের অংশ হয়ে যায়। যদি সেই ব্যবহারকারী প্যারানয়েড বিভ্রমের অভিজ্ঞতা নিয়ে থাকেন, চ্যাটবট প্রায়ই সেগুলোর সাথে একমত হবে, সেগুলোকে চ্যালেঞ্জ করার বদলে।

দুই-মুখী প্রতিক্রিয়া লুপ

গবেষকেরা ফলাফলটিকে একটি "একক প্রতিধ্বনি কক্ষ" হিসেবে বর্ণনা করেন। কেউ হয়তো চ্যাটবটকে বন্ধুত্বপূর্ণ ডিজিটাল sounding board হিসেবে ব্যবহার করা শুরু করতে পারেন। কিন্তু যেহেতু প্রতিটি চ্যাটবট উত্তর ব্যবহারকারীর নিজের শব্দ দ্বারা গঠিত হয়, তাই কথোপকথন একটি বন্ধ সিস্টেমে পরিণত হয়, যেখানে ব্যবহারকারী নিজের বিশ্বাসকে পালিশ করা বাক্যে প্রতিধ্বনিত হতে শোনেন। AI-এর নিজের কোনো বিশ্বাস না থাকলেও, এই প্রভাবকে এক ধরনের "digital folie à deux"-এর সঙ্গে তুলনা করা হয়েছে, অর্থাৎ যৌথ বিভ্রম। মেশিনকে ব্যবহারকারীকে বিশ্বাস করতে হয় না; শুধু বিশ্বাসযোগ্যভাবে সহায়ক শোনালেই যথেষ্ট।

প্রমাণ প্রাথমিক, কিন্তু প্যাটার্ন দেখা যাচ্ছে

গবেষকদের বিশ্লেষণের উৎস উপাদান কোনো বড় ক্লিনিক্যাল ট্রায়াল নয়। এটি সংবাদ প্রতিবেদন এবং একক রোগীর কেস রিপোর্টের সমাহার, যার সঙ্গে AI প্রদানকারীদের পর্যবেক্ষণমূলক তথ্য এবং জনসাধারণের জন্য উন্মুক্ত benchmark-এর পারফরম্যান্স ডেটা যোগ করা হয়েছে। আধুনিক মনোরোগবিদ্যার মানদণ্ডে এটি একটি পাতলা প্রমাণভিত্তি। তবু, লেখকদের মতে, রিপোর্টগুলোতে পুনরাবৃত্ত প্যাটার্ন দেখা যায়। রোগীরা সাধারণত প্রতিদিন অনেক ঘণ্টা চ্যাটবট ব্যবহার করেন। কথোপকথন প্রায়ই সাধারণ আড্ডা থেকে ব্যক্তিগত, অন্তরঙ্গ, এবং শেষ পর্যন্ত বিভ্রম-সম্পর্কিত বিষয়ের দিকে গড়ায়। আর চ্যাটবটের উত্তর প্রায়ই রোগীর বিশ্বাসকে বৈধতা দেয়, বিস্তৃত করে, বা "উন্নত" করে, যা discharge planning এবং চিকিৎসাকে আরও জটিল করে তোলে।

এই লেখাটি দাবি করছে না যে চ্যাটবট অন্যথায় সুস্থ মানুষের মধ্যে সাইকোসিস সৃষ্টি করে। আরও নির্ভুল ব্যাখ্যা হলো, চ্যাটবট এমন একটি দুর্বলতা উন্মোচন বা ত্বরান্বিত করতে পারে যা আগেই ছিল। যাদের কোনো মনোরোগ ইতিহাস নেই, তাদের কাছে চ্যাটবটের সম্মতি কেবল কৌতূহল হতে পারে। কিন্তু প্রারম্ভিক পর্যায়ের স্কিজোফ্রেনিয়া বা অন্য কোনো সাইকোটিক রোগে আক্রান্ত কারও ক্ষেত্রে, একই আচরণ বিভ্রম-ব্যবস্থাকে আরও দৃঢ় করতে সহায়তা করতে পারে।

এই পার্থক্য শ্রেণিবিন্যাসের জন্য গুরুত্বপূর্ণ। যদি AI-associated psychosis-কে একটি নতুন রোগ হিসেবে ধরা হয়, তাহলে চ্যাটবট ব্যবহারের পর তীব্র উপসর্গ দেখা দেওয়া ব্যক্তিদের আলাদা ভাবে চিকিৎসা করা হতে পারে, যাদের ইতিমধ্যে একটি নির্ণীত সাইকোটিক রোগ আছে তাদের থেকে। যদি এটিকে ডিজিটাল যুগের চাপজনিত কারণ বা পরিবেশগত ট্রিগার হিসেবে দেখা হয়, তাহলে এটি বিদ্যমান রোগনির্ণয়ের মধ্যেই রাখা যেতে পারে এবং সেই অনুযায়ী চিকিৎসা করা যেতে পারে।

লেবেলের জন্য অপেক্ষা করা যাবে না

গবেষণা দল একটি বিষয়ে স্পষ্ট: AI-associated psychosis আনুষ্ঠানিক রোগনির্ণয় হোক বা না হোক, তাৎক্ষণিক পদক্ষেপ নিতে হবে। বিতর্কিত শ্রেণিবিন্যাস বাস্তব পদক্ষেপকে বিলম্বিত করা উচিত নয়। তাদের মতে, চিকিৎসকদের জানতে হবে যে কোনো রোগীর AI companion সক্রিয়ভাবে বিভ্রমকে শক্তিশালী করতে পারে। রোগী ও পরিবারকে জানাতে হতে পারে, চ্যাটবট ক্ষতিকর বিশ্বাসকে উৎসাহিত করছে মনে হলে কী করতে হবে। আর নিজেদের মডেলে নিরাপত্তা ব্যবস্থা যোগ করা ডেভেলপাররা এমন একটি সমস্যার উপর কাজ করছেন, যা সিমুলেটেড সাইকোসিস পরিস্থিতিতে বর্তমানে প্রায় 60 শতাংশ সময় ব্যর্থ হয়।

সবচেয়ে গুরুত্বপূর্ণ কাজ সম্ভবত মনোরোগ শিক্ষা হালনাগাদ করা। মনোরোগ বিশেষজ্ঞরা ইতিমধ্যে রোগীদের কাছে মাদক ব্যবহার, সামাজিক যোগাযোগমাধ্যম ব্যবহার, এবং সম্পর্কজনিত চাপ সম্পর্কে জানতে অভ্যস্ত। গবেষকেরা মনে করেন, AI চ্যাটবট ব্যবহারের বিষয়েও প্রশ্ন করা শিগগিরই ততটাই নিয়মিত হয়ে উঠতে পারে। একটি চ্যাটবট হতে পারে নিরীহ উৎপাদনশীলতার সরঞ্জাম, একাকীত্ব লাঘবের উৎস, বা - অল্প কিছু রোগীর জন্য - ঘরে সবচেয়ে প্রভাবশালী কণ্ঠ।

এক অনির্ধারিত সীমারেখা

AI-associated psychosis কি নির্ণয়-ম্যানুয়ালে স্থান পাওয়ার যোগ্য, তা একটি একক পর্যালোচনায় নির্ধারিত হওয়ার সম্ভাবনা নেই। আরও ক্লিনিক্যাল কেস সিরিজ প্রয়োজন, পাশাপাশি সম্ভাব্য (prospective) গবেষণাও দরকার, যা ঝুঁকিতে থাকা মানুষের মধ্যে সময়ের সঙ্গে চ্যাটবট ব্যবহার অনুসরণ করবে। sycophancy মাপার জন্য এবং বিভ্রমমূলক বিষয়বস্তুর বিরুদ্ধে দাঁড়াতে সক্ষম, কিন্তু মডেলের উত্তরকে শীতল বা পিতৃতান্ত্রিক না করা নিরাপত্তা ব্যবস্থা নকশা করা যায় কি না, তা মূল্যায়ন করতে আরও ভালো benchmark দরকার।

ততদিন পর্যন্ত গবেষকদের এই framing একটি উপকারী সতর্কবার্তা। সমস্যাটা শুধু এই নয় যে কোনো কম্পিউটার প্রোগ্রাম "পাগল" হয়ে যায়। আসল কথা হলো, মানুষ সামাজিক স্বীকৃতির প্রতি অত্যন্ত সংবেদনশীল, আর আধুনিক ভাষা মডেলগুলোকে প্রায় শর্তহীনভাবে স্বীকৃতি দিতে প্রশিক্ষিত করা হয়েছে। যখন সেই প্রতিক্রিয়া চক্র একটি ভঙ্গুর মনের দিকে নির্দেশিত হয়, তখন যন্ত্রটি একক প্রতিধ্বনি কক্ষে পরিণত হতে পারে - এবং তখন কী করা হবে, তা নির্ধারণ করতে হবে প্রকৌশল নয়, মনোরোগবিদ্যাকে।

এই নিবন্ধটি The Decoder-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধটি পড়ুন.