এআই ধ্বংসের সতর্কবার্তা সর্বত্র — কিন্তু প্রমাণ নেই

একটি নিউজ ফিড স্ক্রল করুন, কোনো প্রযুক্তি সম্মেলনের মূল বক্তব্য শুনুন, বা এক বিকেল সংসদীয় কমিটির বক্তব্য শুনুন — আপনি একই সতর্কবার্তা সামান্য ভিন্ন শব্দে শুনতে পাবেন: কৃত্রিম বুদ্ধিমত্তা এমন এক সীমার দিকে ছুটে চলেছে যার পরে তাকে আর নিয়ন্ত্রণ করা যাবে না, এবং পরিণতি হতে পারে বিপর্যয়কর — এমনকি অস্তিত্বগতও। এই বয়ান আধুনিক সংবাদ পরিবেশনার এক স্থায়ী উপাদান হয়ে দাঁড়িয়েছে, সম্প্রচার বিভাগ, মতামত কলাম ও প্যানেল আলোচনায় বারবার পুনরাবৃত্তি হয়ে এটি এখন একটি অনুসন্ধানের চেয়ে বরং একটি মনোভাবের মতো কাজ করে।

সেই মনোভাব নিয়ে একটি সমস্যা আছে। নিউ সায়েন্টিস্ট যেভাবে বলেছে, এআই-এর অস্তিত্বগত ঝুঁকি নিয়ে ভয়াবহ সতর্কবার্তা সংবাদমাধ্যমে সর্বত্র, তবুও সেগুলো সমর্থন করার মতো প্রমাণ খুবই কম। এই অসঙ্গতি — একদিকে উচ্চকিত নিশ্চয়তা, অন্যদিকে বিরল প্রমাণ — নিজস্ব বিচারে মনোযোগের দাবি রাখে, কারণ একটি ঝুঁকি যেভাবে বর্ণনা করা হয় তা নির্ধারণ করে সরকার কীভাবে নিয়ন্ত্রণ করবে, কোম্পানিগুলো কীভাবে নির্মাণ করবে, এবং জনসাধারণ কী ভয় পাবে তা ঠিক করে।

একটি বাক্যাংশ, কয়েকটি ভিন্ন ভিন্ন দাবি

এআই "বিপজ্জনকভাবে নিয়ন্ত্রণের বাইরে চলে যাচ্ছে" — এই ধারণাটি অলংকারে সংক্ষিপ্ত কিন্তু বিশ্লেষণে শিথিল। এটি উদ্বেগের এমন কয়েকটি শ্রেণিকে একত্রে বেঁধে দেয় যেগুলো কতটা বোঝা গেছে এবং কত সহজে প্রমাণ করা যাবে — এই দুই দিকেই ব্যাপকভাবে ভিন্ন:

• সিস্টেমগুলো এমনভাবে আচরণ করছে যা তাদের পরিচালকরা চাননি বা সম্পূর্ণভাবে ব্যাখ্যা করতে পারেন না।
• সক্ষমতার উন্নতি এত দ্রুত আসছে যে তদারকি, পরীক্ষা বা আইন তা শোষণ করতে পারছে না।
• রাষ্ট্র, অপরাধী বা ব্যক্তিদের দ্বারা শক্তিশালী মডেলের ইচ্ছাকৃত অপব্যবহার।
• দীর্ঘমেয়াদি পরিস্থিতি যেখানে মানবতা তার সবচেয়ে সক্ষম মেশিনগুলোর উপর অর্থবহ নিয়ন্ত্রণ স্থায়ীভাবে হারিয়ে ফেলে।

প্রথম দুটি শ্রেণি নীতিগতভাবে লগ, নিরীক্ষা ও ঘটনার প্রতিবেদনের মাধ্যমে পরীক্ষা করা যায়। শেষটি এমন এক ভবিষ্যতের পূর্বাভাস যা এখনও আসেনি। যখন চারটিকেই একটি শিরোনামে সংকুচিত করা হয়, তখন সবচেয়ে অনুমাননির্ভর বিষয়ের সাথে যুক্ত জরুরি ভাবমূর্তি নীরবে পুরো সমষ্টির উপর — এবং যে কোনো নীতি প্রস্তাবের উপর, যা এটি সমাধানের দাবি করে — স্থানান্তরিত হয়।

কেন সতর্কবার্তা প্রমাণের চেয়ে দ্রুত ছড়ায়

সতর্কবার্তাগুলো প্রমাণকে ছাড়িয়ে যাওয়ার পেছনে কাঠামোগত কারণ রয়েছে। একটি প্রাণবন্ত, উচ্চ-ঝুঁকির পরিস্থিতি স্বভাবতই একটি সতর্ক নিরপেক্ষ ফলাফলের চেয়ে বেশি সংবাদমূল্য। গবেষক, অ্যাডভোকেসি গোষ্ঠী ও ল্যাবরেটরি — সবাই এমন প্রণোদনা কাঠামোর মধ্যে কাজ করে যা নাটকীয় বয়ানকে পুরস্কৃত করে: বিপর্যয় নিয়ে প্রশ্নচিহ্নযুক্ত শিরোনামের একটি গবেষণাপত্র যে মনোযোগ পায়, মামুলি সক্ষমতা বৃদ্ধি নথিভুক্ত করা একটি গবেষণাপত্র তা পায় না।

সতর্কতামূলক যুক্তি এই প্রভাবকে আরও বাড়িয়ে তোলে। যদি ক্ষতিটি সত্যিই সভ্যতাগত হয়, যুক্তি অনুযায়ী, আমরা প্রমাণের জন্য অপেক্ষা করে পদক্ষেপ নিতে বিলম্ব করতে পারি না। এই যুক্তি কিছু ক্ষেত্রে যুক্তিসঙ্গত হতে পারে, কিন্তু এটি একটি অলংকারগত ফাঁদ তৈরি করে: দাবিটি যত চরম, তত কম মনে হয় এর সমর্থন প্রয়োজন, কারণ সমর্থন দাবি করাকে বেপরোয়া আত্মতুষ্টি হিসেবে পুনর্গঠিত করা হয়।

পূর্বানুমানযোগ্যতার সমস্যা

অনিয়ন্ত্রিত সিস্টেম নিয়ে দাবি পরীক্ষা করা সত্যিই কঠিন। মানব স্বায়ত্তশাসনের সমাপ্তির উপর আপনি একটি নিয়ন্ত্রিত পরীক্ষা চালাতে পারেন না। কিন্তু যাচাইয়ের কঠিনতা বিপদের প্রমাণের সমান নয় — এবং এই দুটিকে সমতুল্য হিসেবে বিবেচনা করাই অনেক সংবাদ পরিবেশনায় ভুল হয়ে যায়।

প্রমাণ আসলে কেমন দেখাবে

প্রমাণের অনুপস্থিতি অনুপস্থিতির প্রমাণ নয়, এবং কী সমর্থন হিসেবে গণ্য হবে তা নিয়ে সুনির্দিষ্ট হওয়া মূল্যবান। নিয়ন্ত্রণহীনতার দাবির জন্য অর্থবহ সমর্থনের মধ্যে থাকবে: সিস্টেমগুলো তাদের ডিজাইনাররা নির্দিষ্ট করেননি এমন লক্ষ্য অনুসরণ করার নথিভুক্ত, পুনরুৎপাদনযোগ্য দৃষ্টান্ত; এই বয়ানের প্রতি স্বার্থ আছে এমন সংস্থার বাইরে সেই ফলাফলের স্বাধীন পুনরাবৃত্তি; সক্ষমতা ও নিয়ন্ত্রণের মধ্যবর্তী ব্যবধানে অনুমানভিত্তিক সম্প্রসারণের বদলে পরিমাপযোগ্য প্রবণতা; এবং এমন পূর্বাভাস যা ফলাফলের সাথে মিলিয়ে দেখা যায়, ক্রমাগত সংশোধিত হয় না।

আজ, জনসাধারণের আলোচনার অনেকটাই দাঁড়িয়ে আছে চিন্তা-পরীক্ষা, উপমা ও পরিস্থিতি নির্মাণের উপর। এই সরঞ্জামগুলোর কম-সম্ভাবনা, উচ্চ-প্রভাবের ঘটনার জন্য প্রস্তুতির ক্ষেত্রে মূল্য আছে।但它们 নিজে থেকে এই প্রমাণ নয় যে ঘটনাটি ঘটছে।

কেন এই পার্থক্য গুরুত্বপূর্ণ

সমস্ত এআই ঝুঁকিকে একটি একক অস্তিত্বগত কাঠামোয় সংকুচিত করার ব্যবহারিক পরিণতি রয়েছে। এটি আরও ভালোভাবে নথিভুক্ত এবং আরও তাৎক্ষণিকভাবে সমাধানযোগ্য ক্ষতির প্রতি মনোযোগ সরিয়ে দিতে পারে, কারণ সভ্যতা-সমাপ্তির পরিস্থিতি যেকোনো তুলনায় প্রাধান্য বিস্তার করে। এটি আনুপাতিক নীতি ডিজাইন করাও কঠিন করে তোলে: প্রজাতি-স্তরের বিপর্যয় দ্বারা ন্যায্যতা দেওয়া পদক্ষেপগুলো মামুলি ব্যর্থতার ক্ষেত্রে অতিরিক্ত মনে হবে যা প্রকৃতপক্ষে মোতায়েন করা সিস্টেমে দেখা যায়।

এর কোনোটিরই অর্থ এই নয় যে এআই নিরাপদ, বা চরম ঝুঁকি নিয়ে গবেষণা করা গবেষকরা তাদের সময় নষ্ট করছেন। এর অর্থ হলো সতর্কবার্তার আত্মবিশ্বাস তার পেছনের প্রমাণের শক্তির সাথে মিলে হওয়া উচিত — এবং অস্তিত্বগত প্রশ্নে, সেই আত্মবিশ্বাস বর্তমানে রেকর্ডের অনেক এগিয়ে চলেছে।

অর্জিত না হওয়া নিশ্চয়তার মূল্য

অতিরঞ্জনের নিজস্ব বিপদ আছে। যে পূর্বাভাস কখনও পর্যবেক্ষণযোগ্য ঘটনায় রূপ নেয় না তা সাধারণভাবে বিশেষজ্ঞতার প্রতি জনসাধারণের আস্থা ক্ষয় করে, যার ফলে সুপ্রমাণিত কোনো সমস্যা দেখা দিলে মনোযোগ সচল করা কঠিন হয়ে পড়ে। যে প্রতিষ্ঠানগুলো আসন্ন ধ্বংসের উপর তাদের বিশ্বাসযোগ্যতা দাঁড় করায়, সময়সীমা পিছিয়ে গেলে সেই বিশ্বাসযোগ্যতা খরচ হয়ে যেতে পারে।

অবশ্যই একটি প্রতিবিম্ব-ঝুঁকিও আছে: সবচেয়ে উচ্চকিত কণ্ঠস্বর অতিরঞ্জিত করেছে বলে প্রকৃত বিপদকে খারিজ করে দেওয়া। দায়িত্বশীল অবস্থান প্রতিফলিত আতঙ্ক বা প্রতিফলিত সংশয়বাদ নয়, বরং আনুপাতিকতা — অন্তর্নিহিত কাজের গুণমানের সাথে বিশ্বাসকে ক্রমাঙ্কিত করা।

পরবর্তী সতর্কবার্তা কীভাবে পড়বেন

পরবর্তী উদ্বেগজনক এআই শিরোনাম এলে কয়েকটি প্রশ্ন বিশ্লেষণকে পরিবেশ থেকে আলাদা করতে সাহায্য করে:

• কোন নির্দিষ্ট প্রক্রিয়া দাবি করা হচ্ছে, এবং সত্য হলে তা কি পর্যবেক্ষণ করা যেত?
• এটি একটি নথিভুক্ত ফলাফল নাকি একটি অনুমানভিত্তিক পরিস্থিতি?
• এই বয়ান থেকে কে উপকৃত হয়, এবং স্বাধীন কাজ কি এটি নিশ্চিত করেছে?
• দাবিটি কি এমনভাবে বলা হয়েছে যা কখনও ভুল প্রমাণিত হতে পারে?

ধারাবাহিকভাবে প্রয়োগ করা হলে, এই প্রশ্নগুলো সমাধান করে না যে উন্নত এআই একদিন বিপর্যয়কর হুমকি হয়ে দাঁড়াবে কি না। তারা কেবল প্রমাণের সেই সাধারণ মানদণ্ড পুনরুদ্ধার করে যা সবচেয়ে নাটকীয় দাবিগুলোকে এড়িয়ে যেতে দেওয়া হয়েছে। গল্পটি, নিউ সায়েন্টিস্ট যেভাবে ইঙ্গিত করে, এই নয় যে এআই নিশ্চিতভাবে নিরাপদ — বরং এই যে যা দাবি করা হয় এবং যা প্রদর্শিত হয় তার মধ্যবর্তী ব্যবধান অস্বাভাবিকভাবে প্রশস্ত হয়ে উঠেছে, এবং সেই ব্যবধান নিজেই প্রতিবেদনের যোগ্য।

এই নিবন্ধটি নিউ সায়েন্টিস্টের প্রতিবেদনের উপর ভিত্তি করে। মূল নিবন্ধ পড়ুন।