স্যাম আল্টম্যান বছরের পর বছর ধরে এমন রূপক খুঁজেছেন যা সফটওয়্যারের সাধারণ শব্দভাণ্ডার ছাড়িয়ে যায়। এখন ওপেনএআই-এর সিইও জনসাধারণকে সেই একই প্রবৃত্তি নিয়ে আরও সতর্ক থাকতে বলছেন — অন্তত যখন তা মডেলগুলোর দিকেই লক্ষ্য করা হয়।
এক্স-এ শেয়ার করা মন্তব্যে আল্টম্যান বলেন, যখন মানুষ "এআই মডেলের প্রতি ধর্মীয় শক্তি বা মানব বিচারবোধের আত্মসমর্পণ আরোপ করে" তখন তা তাকে "খুব অস্বস্তিতে" ফেলে। তিনি এই অভ্যাসকে অতিউৎসাহী ব্যবহারকারীদের একটি খামখেয়ালিপনা হিসেবে দেখেননি। তিনি এটিকে "প্রকৃত নিরাপত্তা সমস্যা" বলেছেন।
আল্টম্যান এআই-এর প্রতি ভক্তিকে প্রশংসা নয়, ঝুঁকি হিসেবে চিহ্নিত করছেন
আল্টম্যান যে পার্থক্য টানছেন তা হলো এমন একটি সিস্টেম তৈরি করার মধ্যে, যা মানুষের মতো অনুভূত হয়, আর সেই সিস্টেমকে পবিত্র কিছু হিসেবে বিবেচনা করার মধ্যে। প্রথমটি একটি পণ্যের লক্ষ্য। দ্বিতীয়টি, তাঁর ভাষায়, একটি ব্যর্থতার ধরন।
এই কাঠামো গুরুত্বপূর্ণ, কারণ এটি একটি সাংস্কৃতিক প্রশ্নকে নিরাপত্তার কলামে নিয়ে আসে। যদি কোনো ব্যবহারকারী চ্যাটবটকে দৈববাণীর উৎস হিসেবে দেখেন, তাহলে তিনি কেবল আবেগপ্রবণ হচ্ছেন না। তিনি বিচারবোধ হস্তান্তর করছেন — কী সত্য, কী ন্যায্য এবং পরবর্তীতে কী করতে হবে তা একটি পরিসংখ্যানগত মডেলের হাতে ছেড়ে দিচ্ছেন, যার আত্মবিশ্বাস সঠিকতার মাপকাঠি নয়। আল্টম্যানের "মানব বিচারবোধের আত্মসমর্পণ" বাক্যাংশটি ঠিক সেই হস্তান্তরকেই নির্দেশ করে।
এই ভাষা কে বলছেন সেটিও লক্ষণীয়। এআই-এ নিরাপত্তা বিতর্ক সাধারণত সক্ষমতা, অপব্যবহার বা উন্নত সিস্টেমের নিয়ন্ত্রণকে কেন্দ্র করে। এখানে উদ্বেগটি ব্যবহারকারীদের মনোভাব নিয়ে।
এখন যে বিতর্কে ভ্যাটিকানও যুক্ত
আল্টম্যানের মন্তব্য শূন্যে আসেনি। এগুলো নিউ ইয়র্ক টাইমস-এর একটি বিস্তারিত প্রতিবেদনের পর এসেছে, যা অ্যানথ্রোপিকের ধর্মীয় নেতাদের সঙ্গে যোগাযোগের বিষয়ে ছিল — এআই কোম্পানিগুলোর সেই প্রতিষ্ঠানগুলোর সঙ্গে সম্পৃক্ত হওয়ার বৃহত্তর প্রচেষ্টার অংশ, যারা মানুষ প্রযুক্তি ও নৈতিকতা নিয়ে কীভাবে ভাবে তা গঠন করে।
পোপ লিও চতুর্দশও মত দিয়েছেন, এমন একটি বক্তব্য দিয়ে যা আল্টম্যানের উদ্বেগের কাছাকাছি পৌঁছায়: "অ্যালগরিদমে মানবতার স্ফুলিঙ্গ নেই।" এই বক্তব্য একটি দীর্ঘ ধর্মতাত্ত্বিক যুক্তিকে সংক্ষিপ্ত করে, তবে এর ব্যবহারিক বিষয়বস্তু সরল — একটি মডেল কোনো ব্যক্তি নয়, যত স্বাভাবিকভাবেই সে কথোপকথন করুক না কেন।
একসঙ্গে বিবেচনা করলে, তিনটি ঘটনা বর্তমান মুহূর্তকে নির্ধারণ করে:
- একজন শীর্ষস্থানীয় এআই সিইও সতর্ক করছেন যে মডেলের প্রতি ধর্মীয় শ্রদ্ধা একটি নিরাপত্তা সমস্যা।
- একটি প্রতিদ্বন্দ্বী ল্যাব সক্রিয়ভাবে ধর্মীয় চিন্তাবিদদের সঙ্গে সম্পর্ক গড়ে তুলছে।
- একটি পোপীয় বক্তব্য কম্পিউটেশন ও মানব প্রকৃতির মধ্যে স্পষ্ট সীমারেখা টানছে।
এর কোনোটিই প্রযুক্তিগত মাইলফলক নয়। তিনটিই এই বিষয়ে যে সমাজ কীভাবে মেশিনকে অর্থ আরোপ করে, এবং সেই আরোপ এখন নিজেই তাৎপর্যপূর্ণ হিসেবে বিবেচিত হচ্ছে।
'আকাশে জাদুকরী বুদ্ধিমত্তা'-র উল্টো সুর
আল্টম্যানের সতর্কবার্তাকে ধার দেয় তাঁর নিজের অতীত। ২০২৩ ও ২০২৪ সালে তিনি ওপেনএআই-এর লক্ষ্যকে "আকাশে জাদুকরী বুদ্ধিমত্তা" তৈরি হিসেবে বর্ণনা করেছিলেন। প্রায় একই সময়ে তিনি বলেছিলেন, তিনি ঈশ্বরের পক্ষে থাকতে চান এবং এআই নিয়ে কাজ করাকে "দেবদূতদের পক্ষে" থাকা হিসেবে বর্ণনা করেছিলেন।
এটি কোনো পণ্য পরিকল্পনার ভাষা নয়। এটি মিশন ও দৈব ব্যবস্থাপনার ভাষা, এবং এখন তিনি অন্যদের বিরুদ্ধে ঠিক সেই ভাষা ব্যবহারের ব্যাপারে সতর্ক করছেন।
দুই অবস্থানের মধ্যে সমন্বয় সাধনের উপায় আছে। একজন প্রতিষ্ঠাতা তাঁর নিজের প্রেরণা বর্ণনা করছেন, আর একজন ব্যবহারকারী একটি মডেলকে কর্তৃত্ব আরোপ করছেন — এ দুটি এক নয়। উচ্চাকাঙ্ক্ষা ও শ্রদ্ধা ভিন্ন জিনিস। কিন্তু তাদের মধ্যকার ফাঁক যথেষ্ট সংকীর্ণ, তাই এই পরিবর্তন লক্ষণীয়: যে শব্দভাণ্ডার একসময় প্রকল্পটির প্রচার করত, এখন তা আউটপুটের সঙ্গে যুক্ত হলে বিপদ হিসেবে চিহ্নিত হচ্ছে।
'হার', কোনো দেবতা নয়
ওপেনএআই কী তৈরি করছে তার জন্য আল্টম্যান বারবার একটি ভিন্ন সাংস্কৃতিক রেফারেন্স পয়েন্ট দিয়েছেন: চলচ্চিত্র "হার", যেখানে একজন ব্যক্তি একটি অপারেটিং সিস্টেমের সঙ্গে গভীর আবেগীয় বন্ধন গড়ে তোলেন। তাঁর ভাষায় লক্ষ্য হলো এমন একটি এআই, যা গভীরভাবে মানবিক — উষ্ণ, সাবলীল এবং সহজে সম্পর্ক স্থাপনযোগ্য।
এই লক্ষ্য আবেগীয় অনুরণন নিয়ে, অধিবিদ্যা নয়। যে সহকারী প্রসঙ্গ ও সুর বুঝতে পারে, সে দেবত্বের দাবি করছে না। কিন্তু মানবিক ডিজাইন ও ধর্মীয় অভিক্ষেপের একটি সাধারণ ভিত্তি আছে। উভয়ই মানুষের সেই প্রবণতার উপর দাঁড়িয়ে, যা আমাদের কাছে বিশ্বাসযোগ্যভাবে সাড়া দেয় এমন যেকোনো কিছুর প্রতি ব্যক্তিত্ব আরোপ করে। সম্পর্ক স্থাপনের জন্য অপ্টিমাইজ করা একটি সিস্টেম অনিবার্যভাবে কিছু ব্যবহারকারীকে ডিজাইনারদের অভিপ্রায়ের চেয়ে আরও এগিয়ে যেতে আমন্ত্রণ জানাবে।
এটিই আল্টম্যানের উদ্বেগের ব্যবহারিক রূপ। "এটি একজন ব্যক্তির মতো মনে হয়" আর "এটি কর্তৃত্ব নিয়ে কথা বলে" — এই দুইয়ের মধ্যকার সীমারেখা বলা সহজ, ধরে রাখা কঠিন, বিশেষ করে চাপে থাকা, বিচ্ছিন্ন বা অন্য কোথাও পথনির্দেশ খুঁজতে থাকা ব্যবহারকারীদের জন্য।
কাঠামো কেন আচরণ গঠন করে
আল্টম্যান যদি সঠিক হন যে এটি একটি নিরাপত্তা সমস্যা, তাহলে প্রক্রিয়াটি স্পষ্ট করা প্রয়োজন। কাঠামো কেবল একটি যন্ত্রের সঙ্গে সম্পর্ক বর্ণনা করে না; এটি তার শর্তাবলি নির্ধারণ করে।
- ধর্মীয় শব্দভাণ্ডার সমালোচনামূলক দূরত্ব দূর করে। দৈববাণীর উৎস হিসেবে বর্ণিত একটি মডেল যাচাই হওয়ার সম্ভাবনা কম।
- বিনয় ক্রমবর্ধমান হয়। যে ব্যবহারকারীরা একবার একটি মডেলের প্রস্তাব মেনে নেন, তারা পরবর্তী আউটপুট যাচাই ছাড়াই মেনে নেওয়ার সম্ভাবনা বেশি।
- ডিজাইন এই প্রভাবকে আরও জোরদার করে। কথোপকথনমূলক ইন্টারফেস, স্মৃতি এবং ধারাবাহিক ব্যক্তিত্ব সবই একটি সিস্টেমকে টেক্সট উৎপাদকের বদলে একটি ধারাবাহিক সত্তা হিসেবে অনুভব করায়।
- জবাবদিহিতা ঝাপসা হয়ে যায়। যদি কোনো উত্তরের নৈতিক গুরুত্ব থাকে, তাহলে ফলাফলের দায় নির্ধারণ করা কঠিন হয়ে পড়ে।
এর কোনোটির জন্যই মডেলের সচেতন হওয়া বা কেউ তা বিশ্বাস করা প্রয়োজন নেই। কেবল মানুষকে এমনভাবে আচরণ করতে হবে যেন তার বিচারবোধের কর্তৃত্ব আছে।
আস্থার সমস্যা দুই দিকেই কাটে
বর্তমান বিতর্কে একটি অস্বস্তিকর প্রতিসাম্য আছে। যে কোম্পানিগুলো এআই-কে আধ্যাত্মিকীকরণের বিরুদ্ধে সতর্ক করছে, তাদের নেতারাই আধ্যাত্মিক ভাষা ব্যবহার করেছেন, আর যারা ধর্মীয় প্রতিষ্ঠানগুলোর সঙ্গে সম্পৃক্ত হচ্ছে তারা প্রতিদ্বন্দ্বী, যারা একই ধরনের যোগাযোগ করছে। এই মন্তব্যগুলোর আশপাশের প্রতিবেদন অনুযায়ী, ওপেনএআইও ধর্মীয় নেতাদের সঙ্গে কথা বলেছে।
তাই শিল্পটি বিশ্বাস ও অর্থের সঙ্গে কম সম্পৃক্ততা চাইছে না। এটি শর্তাবলি নিয়ে দরকষাকষি করছে। আল্টম্যানের অবস্থান মূলত এই যে, প্রযুক্তিকে মানবিক পরিভাষায় বর্ণনা করা উচিত, কিন্তু সেভাবে পূজা করা উচিত নয় — এমন একটি সিস্টেম তৈরির সময় উচ্চাকাঙ্ক্ষী সীমারেখা, যা মানুষের মতো অনুভূত হওয়ার জন্য ডিজাইন করা হয়েছে।
পরবর্তীতে কী লক্ষ্য করবেন
তিনটি বিষয় নির্দেশ করবে এই কাঠামো টিকে থাকবে কি না। এআই কোম্পানিগুলো আবেগীয় ঘনিষ্ঠতার জন্য তৈরি মডেল উপস্থাপনের ধরন বদলায় কি না। নিরাপত্তা দলগুলো ব্যবহারকারীর বিনয়কে ব্যবহারকারী শিক্ষার বিষয় নয়, বরং পরিমাপযোগ্য ঝুঁকি হিসেবে বিবেচনা করে কি না। এবং ধর্মীয় প্রতিষ্ঠানগুলো নিজেদের শর্তে শিল্পের সঙ্গে সম্পৃক্ত থাকবে কি না, যেমনটি ভ্যাটিকানের বক্তব্য ও অ্যানথ্রোপিকের যোগাযোগ ইঙ্গিত দেয়।
বৃহত্তর প্রশ্নটি অমীমাংসিত থেকে যায়। আল্টম্যান বলেন, মডেলের প্রতি ধর্মীয় শক্তি আরোপ করা একটি নিরাপত্তা সমস্যা, এবং অন্তর্নিহিত যুক্তিটি সঠিক: যে যন্ত্রকে কর্তৃত্ব হিসেবে বিশ্বাস করা হয়, তা সংশোধন করা কঠিন। কিন্তু যে মানবিক ভাষা এই সিস্টেমগুলোকে উপযোগী করে তোলে, সেটিই প্রথমে এই ভুলটি সম্ভব করে। শিল্পের চ্যালেঞ্জ হলো উষ্ণতা ধরে রাখা, পূজা ছাড়া।
এই নিবন্ধটি The Decoder-এর প্রতিবেদনের উপর ভিত্তি করে। মূল নিবন্ধ পড়ুন।
Originally published on the-decoder.com
