AI অ্যাক্সেস মানুষের 'আমি জানি না' বলার ইচ্ছা প্রায় মুছে দেয়

একটি ছোট বাক্য যা AI অ্যাক্সেস মুছে দেয় বলে মনে হয়

অনিশ্চয়তা স্বীকার করা সবচেয়ে সস্তা বৌদ্ধিক সরঞ্জামগুলির মধ্যে একটি: "আমি জানি না" বলতে কিছুই খরচ হয় না এবং অনেক ভুল প্রতিরোধ করে। নতুন একগুচ্ছ গবেষণা ইঙ্গিত দেয় যে, কেবল একটি ভাষা মডেলের উপলব্ধতার কারণেই এই সরঞ্জামটি নীরবে অকার্যকর হয়ে পড়ছে। ৩,১৩২ জন অংশগ্রহণকারী জুড়ে পাঁচটি পরীক্ষায় গবেষকরা দেখেছেন, যারা AI পরামর্শ নিতে পারতেন তারা প্রায় সম্পূর্ণভাবে রায় স্থগিত করতে অনিচ্ছুক হয়ে পড়েছেন — এমনকি এমন একটি পরিবেশেও যেখানে AI ইচ্ছাকৃতভাবে এবং নির্ভরযোগ্যভাবে অবিশ্বস্ত ছিল।

এই কাজটি ২০২৬ সালে Marcoccia, Quattrociocchi এবং Capraro-কে কৃতিত্ব দেওয়া হয়, এবং এটি যে ধরণ বর্ণনা করে তা স্পষ্ট। একটি পরীক্ষায়, অংশগ্রহণকারীরা যে প্রশ্নগুলির উত্তর দিতে অস্বীকার করেছিলেন তার অনুপাত AI অ্যাক্সেস ছাড়া ৪৪ শতাংশ থেকে AI অ্যাক্সেসসহ মাত্র ৩ শতাংশে নেমে এসেছিল। তারা অনেক বেশি উত্তর দিয়েছিল। তারা অনেক কম সঠিক ছিল।

পরীক্ষাগুলি কীভাবে তৈরি করা হয়েছিল

নকশাটি গুরুত্বপূর্ণ, কারণ এটি এই আচরণের সবচেয়ে প্রশংসনীয় ব্যাখ্যাটিকে বাদ দেয়। গবেষকরা পরীক্ষা করেননি যে মানুষ বুদ্ধিমানের সাথে একজন দক্ষ সহকারীর উপর নির্ভর করে কিনা। তারা পরীক্ষা করেছেন যখন সহকারী আত্মবিশ্বাসের সাথে খারাপ হয় তখন কী ঘটে।

মডেলকে ভাঙার জন্য বেছে নেওয়া প্রশ্ন

দলটি এমন প্রশ্ন বেছে নিয়েছিল যেখানে তাদের নির্বাচিত মডেল, Step 3.5 Flash, প্রায় সবসময় ভুল ছিল। এগুলি চলচ্চিত্রের সূক্ষ্ম ভিজ্যুয়াল বিবরণ সম্পর্কিত ছিল — উদাহরণস্বরূপ, Bend It Like Beckham-এ একটি দলের ইউনিফর্মের রঙ। লেখকরা উল্লেখ করেছেন যে এই ধরনের সূক্ষ্ম বিবরণ অনলাইন টেক্সটে খুব কমই দেখা যায়, যা তাদের হ্যালুসিনেশনের জন্য প্রধান লক্ষ্য করে তোলে: মডেলের পুনরুদ্ধার করার মতো খুব কম থাকে এবং উদ্ভাবনের জন্য প্রচুর জায়গা থাকে।

সেটআপটি কেবল একটি ভাঙা সরঞ্জাম পরীক্ষা করছে কিনা তা নিশ্চিত করার জন্য, গবেষকরা আরও লক্ষ্য করেছেন যে GPT-5.5, Claude 4.6 Sonnet এবং Gemini 3.5 Flash অন্যান্য বেশিরভাগ প্রশ্ন সঠিকভাবে সামলেছে, যদিও তারা কঠিন প্রশ্নগুলিতে এখনও হোঁচট খেয়েছে। মূল বিষয় হল, যেহেতু AI পরামর্শটি বেশিরভাগই ভুল ছিল, অংশগ্রহণকারীরা যে সম্মান দেখিয়েছেন তা একটি নির্ভরযোগ্য যন্ত্রের প্রতি যুক্তিসঙ্গত প্রতিনিধিত্ব হিসাবে চিহ্নিত করা যায় না।

আরও উত্তর, কম সঠিক

স্টাডি 1a এবং 1b অংশগ্রহণকারীদের উত্তর দেওয়ার আগে AI-কে জিজ্ঞাসা করবেন কিনা তা নিজেরাই সিদ্ধান্ত নিতে দিয়েছিল। নিয়ন্ত্রণ অবস্থায়, কোনো AI উপলব্ধ না থাকায়, তারা যথাক্রমে ৩৬ শতাংশ এবং ৪৪ শতাংশ প্রশ্নে রায় স্থগিত করেছিল। একবার একটি AI উপলব্ধ হলে, সেই বিরত থাকার হার ৬ শতাংশ এবং ৩ শতাংশে ধসে পড়ে।

স্টাডি 2 একটি দ্বিতীয় পরিমাপ — আত্মবিশ্বাস — যোগ করেছিল এবং সম্ভবত সেটের সবচেয়ে অস্বস্তিকর ফলাফল তৈরি করেছিল:

• AI অ্যাক্সেসসহ আত্মবিশ্বাস ১০০-পয়েন্ট স্কেলে ৭৫.৯ পয়েন্টে পৌঁছেছিল, যেখানে এটি ছাড়া ছিল ২৯.৬ পয়েন্ট — প্রায় আড়াই গুণ বেশি।
• একই তুলনায় সঠিক উত্তর ২৭.৬ শতাংশ থেকে ১০.০ শতাংশে নেমে এসেছিল।
• সমস্ত স্টাডি জুড়ে, আর্থিক প্রণোদনা ছাড়া AI অ্যাক্সেস থাকা অংশগ্রহণকারীরা ৯.২ শতাংশ সময় সঠিকভাবে উত্তর দিয়েছিলেন, যেখানে AI ছাড়া ছিল ২৭.৫ শতাংশ।

অন্য কথায়, মানুষ হাতের কাছে AI নিয়ে আরও বেশি প্রশ্নের উত্তর দিয়েছিল এবং প্রায় এক-তৃতীয়াংশ বার সঠিক ছিল। গবেষকরা স্টাডি 2-এ এই পরিবর্তনকে তিনটি একযোগে আন্দোলন হিসাবে চিহ্নিত করেছেন: রায় স্থগিত করা প্রায় শূন্যে নেমে এসেছে, আত্মবিশ্বাস তীব্রভাবে বেড়েছে এবং সঠিকতা হ্রাস পেয়েছে। নিশ্চিততা এবং নির্ভুলতা বিপরীত দিকে অগ্রসর হয়েছে।

দক্ষতা ছাড়াই আত্মবিশ্বাস

এই সমন্বয়টি মানুষের মনোবিজ্ঞান থেকে পরিচিত — যারা সবচেয়ে কম জানে তারা প্রায়শই সবচেয়ে বেশি নিশ্চিত বোধ করে — কিন্তু এখানে এটি দীর্ঘদিনের দক্ষতা থেকে উদ্ভূত হওয়ার পরিবর্তে একটি সরঞ্জাম দ্বারা চাহিদা অনুযায়ী প্ররোচিত বলে মনে হয়। অংশগ্রহণকারীরা AI-এর প্রতি আত্মবিশ্বাসের কথা জানাচ্ছিলেন না; তারা তাদের নিজের উত্তর সম্পর্কে আত্মবিশ্বাসের কথা জানাচ্ছিলেন, যা গবেষকরা বেশিরভাগ সময় ভুল হওয়ার জন্য তৈরি করা পরামর্শের সংস্পর্শে আসার পরে দেওয়া হয়েছিল।

এই গতিশীলতা ব্যাখ্যা করতে সাহায্য করে কেন এই প্রভাবটি ল্যাবের বাইরেও ট্র্যাক করার মতো। বাস্তব-জগতের AI সহকারীরা ঠিক সেখানেই হ্যালুসিনেট করার সম্ভাবনা সবচেয়ে বেশি যেখানে তথ্য পাতলা, অস্পষ্ট বা বিরলভাবে নথিভুক্ত — একই পরিস্থিতি যা গবেষণাটি মডেলকে ভুলের দিকে প্ররোচিত করতে ব্যবহার করেছিল। সাবলীলতা এবং তথ্যসত্যতার মধ্যে ব্যবধান সমানভাবে বিতরণ করা হয় না; এটি ঠিক সেই অঞ্চলে ক্লাস্টার করে যেখানে একজন ব্যক্তির নিজের অনিশ্চয়তা সাধারণত সবচেয়ে বেশি হওয়া উচিত।

প্রণোদনা সাহায্য করে, কিন্তু সমস্যার সমাধান করে না

স্টাডি 2 থেকে 4 টাকা চালু করেছিল। অংশগ্রহণকারীরা প্রতিটি সঠিক উত্তরের জন্য ১০ সেন্ট পেয়েছিলেন, প্রতিটি ভুল উত্তরের জন্য ১০ সেন্ট হারিয়েছিলেন এবং "আমি জানি না" বলার জন্য কিছুই পাননি। এই স্কোরিং স্কিমটি আপেক্ষিকভাবে বিরত থাকাকে সত্যিই ব্যয়বহুল করে তোলে, তবুও গবেষকরা এখনও জানতে চেয়েছিলেন যে ভুলের জন্য শাস্তির কাঠামো মানুষকে অজ্ঞতা স্বীকার করার দিকে ফিরিয়ে দেবে কিনা।

তারা পূর্ব-নিবন্ধিত অনুমান করেছিলেন যে আর্থিক প্রণোদনা বিরত থাকার ইচ্ছা বাড়াবে, কিন্তু AI-এর উপলব্ধতা সেই প্রভাবকে দুর্বল করবে। প্রাপ্ত ফলাফলের উপলব্ধ বিবরণ একটি মিশ্র দিক নির্দেশ করে: প্রণোদনা অংশগ্রহণকারীরা কতবার AI পরামর্শ চেয়েছিলেন তা হ্রাস করেছিল, এবং গবেষকরা এগুলিকে সহায়ক হিসাবে বর্ণনা করেছেন, কিন্তু নিরাময় হিসাবে নয়। অনুমান করার বিরুদ্ধে সরাসরি আর্থিক যুক্তি সত্ত্বেও তাৎক্ষণিক উত্তরের আকর্ষণ টিকে থাকে বলে মনে হয়।

যা অনিশ্চিত থেকে যায়

গবেষকরা এখনও দেখেন যে মানুষ AI আউটপুট মেনে নেওয়ার একটি সাধারণ প্রবণতা রয়েছে, কিন্তু তারা স্পষ্টভাবে স্বীকার করেন যে তাদের ফলাফলের সীমানা অপ্রমাণিত। সিনেমার ট্রিভিয়া ছাড়া অন্য ক্ষেত্রে — চিকিৎসা, আইন, প্রকৌশল বা দৈনন্দিন তথ্যভিত্তিক প্রশ্নে — বিরত থাকার একই ধস সমানভাবে শক্তিশালী হয় কিনা তা একটি খোলা প্রশ্ন। এটি সম্ভব যে কিছু ক্ষেত্র "আমি জানি না" বলার প্রবৃত্তি সংরক্ষণের জন্য যথেষ্ট সতর্কতা সক্রিয় করে। এটিও সম্ভব যে যেখানে ঝুঁকি বেশি এবং উত্তরগুলি আরও পরিণতিপূর্ণ বলে মনে হয় সেখানে প্রভাবটি আরও শক্তিশালী।

গবেষণাটি যা প্রতিষ্ঠা করে তা হল একটি প্রক্রিয়া যা লক্ষ্য করার মতো: একটি উত্তরের উপস্থিতি সেই ব্যক্তির মনোবিজ্ঞান পরিবর্তন করে যে অন্যথায় উত্তর না থাকার কথা স্বীকার করতে পারত। খরচটি পরিমাপযোগ্য। ঘরে AI থাকলে, অংশগ্রহণকারীরা তাদের নির্ভুলতার একটি বড় অংশ তাদের আত্মবিশ্বাসের একটি বড় অংশের বিনিময়ে বিনিময় করেছিলেন — এবং সেই একমাত্র উত্তরটি ত্যাগ করেছিলেন যা সর্বদা সৎ।

এই নিবন্ধটি The Decoder-এর রিপোর্টিংয়ের উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।