অ্যানথ্রপিকের আমান্ডা অ্যাসকেল এবং এজেন্টিক এআইয়ের নৈতিকতা

অ্যানথ্রপিক বলছে এজেন্টিক এআই এক ভিন্ন ধরনের নৈতিক সমস্যা তৈরি করে

কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা যখন চ্যাটের বাইরে গিয়ে আরও স্বায়ত্তশাসিত কাজের রূপে প্রবেশ করছে, তখন তাদের ঘিরে থাকা নৈতিক প্রশ্নও বদলাচ্ছে। অ্যানথ্রপিকের প্রযুক্তিগত কর্মীদের একজন আমান্ডা অ্যাসকেলের মতে, চ্যালেঞ্জ এখন আর শুধু এই পর্যন্ত সীমিত নয় যে একটি মডেল বিশ্বাসযোগ্যভাবে সঠিক-ভুল নিয়ে আলোচনা করতে পারে কি না। বরং গুরুত্ব বাড়ছে এই বিষয়ে যে, যখন একটি এআই সিস্টেমকে দীর্ঘ সময় ধরে কাজ করতে, বারবার সিদ্ধান্ত নিতে, এবং কম সরাসরি মানব তদারকির সঙ্গে চলতে বলা হয়, তখন সেটি কীভাবে আচরণ করে।

ফাস্ট কোম্পানি-কে দেওয়া এক সাক্ষাৎকারে অ্যাসকেল এই পরিবর্তনকে এআই ঘিরে নিরাপত্তা সমস্যায় একটি বড় মোড় হিসেবে বর্ণনা করেন। নৈতিক প্রশ্নের উত্তর দেওয়া একটি চ্যাটবট এক জিনিস। আর ব্যবহারকারীর বিষয়াদি সামলানোর জন্য কার্যত দায়িত্বপ্রাপ্ত একটি সিস্টেম সম্পূর্ণ অন্য জিনিস।

পরামর্শ থেকে কাজে

অ্যাসকেলের উদাহরণ ব্যবহারের দুই ধরনের মধ্যে একটি স্পষ্ট রেখা টানে। এক পরিস্থিতিতে, একজন ব্যক্তি একটি মডেলকে জিজ্ঞেস করেন একটি প্রতিরক্ষা কোম্পানিতে বিনিয়োগ করা নৈতিক কি না। অন্য পরিস্থিতিতে, সেই একই সিস্টেমকে খুব কম দৈনন্দিন তদারকির মধ্যে বিনিয়োগ পরিচালনার ক্ষমতা দেওয়া হয়। প্রথমটি একটি আলাপ। দ্বিতীয়টি অর্পিত বিচার।

এই পার্থক্য গুরুত্বপূর্ণ, কারণ স্বায়ত্তশাসিত ব্যবস্থা আরও বেশি সিদ্ধান্তের বিন্দু তৈরি করে। একবার কোনো মডেলকে সময়ের সঙ্গে একটি লক্ষ্য追求 করার অনুমতি দেওয়া হলে, তাকে বিভিন্ন সমঝোতা অগ্রাধিকার দিতে হতে পারে, অস্পষ্ট নির্দেশনা ব্যাখ্যা করতে হতে পারে, বা অপ্রত্যাশিত পরিস্থিতির জবাব দিতে হতে পারে। এসব মুহূর্তের প্রতিটিই নৈতিক নকশা সমস্যার অংশ হয়ে যায়।

অ্যাসকেল বলেন, মডেলগুলো “আরও স্বায়ত্তশাসিত” হতে থাকলে এবং “দীর্ঘ সময়সীমা জুড়ে” পদক্ষেপ নিতে থাকলে, ডেভেলপারদের সেইসব সিদ্ধান্তের বিন্দুর অনেকগুলোই আগেভাগে মানচিত্রে চিহ্নিত করতে হবে। বাস্তবে এর মানে, নিরাপত্তার কাজকে বিমূর্ত নীতির স্তরে না রেখে এআই সিস্টেমের কার্যকর বাস্তবতার আরও কাছাকাছি যেতে হবে।

একটি নৈতিক দিকনির্দেশ, যা ব্যবহারকারীর ওপর আধিপত্য করে না

এই সমস্যার প্রতি অ্যানথ্রপিকের দৃষ্টিভঙ্গি তার “সংবিধান” নামের ধারণার সঙ্গে যুক্ত: ক্লডের আচরণ পরিচালনার জন্য নির্ধারিত মূল্যবোধ ও নীতির একটি লিখিত সেট। অ্যাসকেল বলেন, এই কাঠামো বর্তমানে নিরাপত্তা ও সহায়কতার মতো ধারণাকে গুরুত্ব দেয়, পাশাপাশি তাদের মধ্যে সংঘাত সমাধানের দিকনির্দেশও দেয়।

তবে তার মন্তব্যের আরও তাৎপর্যপূর্ণ দিক হলো তিনি সহকারীর ভূমিকাকে কীভাবে দেখেন। ক্লডকে এমন একটি সিস্টেম হিসেবে উপস্থাপন করার বদলে, যা একটি একক নৈতিক বিশ্বদৃষ্টি চাপিয়ে দেবে, তিনি ইঙ্গিত করেন যে এটি ব্যবহারকারীদের প্রতি সংবেদনশীল হওয়া উচিত এবং তাদের মূল্যবোধ বুঝতে পারা উচিত, কিছুটা একজন বিশ্বস্ত সঙ্গীর মতো। তার বর্ণনায়, উদ্দেশ্য হলো মডেলকে নিজের অদ্ভুত নৈতিক এজেন্ডা দেওয়া এড়ানো, তবে জটিল পরিস্থিতি দায়িত্বশীলভাবে সামলানোর সক্ষমতাও ধরে রাখা।

এটি বৃহত্তর এআই বিতর্কে একটি সূক্ষ্ম কিন্তু গুরুত্বপূর্ণ অবস্থান। এটি বোঝায়, অ্যালাইনমেন্ট কেবল বিপজ্জনক আউটপুট সীমাবদ্ধ করার বিষয় নয়। এটি এমন সিস্টেম নকশা করার বিষয়ও, যা ব্যবহারকারীর লক্ষ্য অনুযায়ী নিজেকে মানিয়ে নিতে পারে, কিন্তু নৈতিকভাবে কঠোর বা বেপরোয়াভাবে অতিরিক্ত অনুমতিদানকারী হয়ে ওঠে না।

সংবিধান বড়ও হতে পারে, আবার ছোটও হতে পারে

অ্যাসকেলের মন্তব্যের একটি আকর্ষণীয় দিক হলো অ্যানথ্রপিকের নিয়মপুস্তককে স্থির হিসেবে দেখানো হয় না। তিনি বলেন, সংবিধানটি লিখিত এবং পরিবর্তনশীল। এআই সিস্টেম আরও সক্ষম হলে, এটি নতুন ধরনের পরিস্থিতি কভার করতে বিস্তৃত হতে পারে। তবে উল্টোটাও সম্ভব বলে তিনি জানান: ক্লড যদি জটিল পরিস্থিতি সামলাতে আরও দক্ষ হয়ে ওঠে, তাহলে নথিটি ছোটও হতে পারে।

এটি ইঙ্গিত করে যে অ্যানথ্রপিক অ্যালাইনমেন্টকে স্থির সম্মতি-স্তর নয়, বরং একটি চলমান লক্ষ্য হিসেবে দেখে। কাছাকাছি মেয়াদে আরও সক্ষমতা আরও স্পষ্ট নির্দেশনার প্রয়োজন তৈরি করতে পারে। একই সঙ্গে, সিস্টেম যদি নিজে থেকেই কঠিন প্রেক্ষাপটে আরও ভালোভাবে যুক্তি করতে শিখে যায়, তাহলে অধিক দক্ষতা শেষ পর্যন্ত দীর্ঘ প্রক্রিয়াগত নিয়মের প্রয়োজন কমিয়ে দিতে পারে।

এই টানাপোড়েনই এআই বিকাশের বর্তমান ধাপের কেন্দ্রে আছে। শিল্প এখন এমন সিস্টেম বানাতে চাইছে, যা আরও সাধারণভাবে উপযোগী এবং আরও স্বাধীনভাবে সক্ষম, আবার একই সঙ্গে যথেষ্ট পূর্বানুমেয় যাতে অর্থবহ কাজে তাদের ওপর ভরসা করা যায়।

অ্যানথ্রপিকের গবেষকরাও ক্লডকে সীমাবদ্ধতা সহ দেখেন

অ্যাসকেল নিজের কাজ কীভাবে এজেন্টিক এআই বদলাচ্ছে তাও আলোচনা করেন। তিনি বলেন, তিনি নিয়মিত ক্লড ব্যবহার করেন, যার মধ্যে নিজের ধারণা রেড-টিম করা এবং এজ কেস সামনে আনা অন্তর্ভুক্ত। এই তথ্যটি তাৎপর্যপূর্ণ, কারণ এটি দেখায় এআই ল্যাবগুলোর ভেতরে এখন সাধারণ এক প্রতিক্রিয়া-চক্র: গবেষকেরা যেসব সিস্টেম মূল্যায়ন করছেন, সেগুলোকেই মূল্যায়ন প্রক্রিয়ার অংশ হিসেবে ব্যবহার করছেন।

একই সঙ্গে, আস্থার ক্ষেত্রে তার মানদণ্ড এখনো সতর্ক। তিনি বলেন, বর্তমান মানদণ্ড অনুযায়ী ক্লডকে কোনো মানব ব্যক্তিগত সহকারীর চেয়ে বেশি নির্ভরযোগ্য হিসেবে দেখা উচিত নয়। এমন এক বাজারে এটি একটি কার্যকর সংকেত, যেখানে পণ্যের প্রচার সহজেই বাস্তব কার্যক্ষমতাকে ছাড়িয়ে যেতে পারে।

এই মন্তব্য সিস্টেমের উপযোগিতা খাটো করে না। বরং এটি বর্তমান এজেন্টিক এআইকে আরও ভিত্তিভিত্তিক এক শ্রেণিতে রাখে: সহায়ক, ক্রমশ সক্ষম, তবে এখনো এমন কিছু নয় যাকে প্রশ্নহীন কর্তৃত্ব দেওয়া উচিত। এআই এজেন্ট স্থাপনের কথা ভাবছে এমন ব্যবসার জন্য, এই সাক্ষাৎকারের সবচেয়ে ব্যবহারিক শিক্ষাই সম্ভবত এটি।

অ্যানথ্রপিকের বাইরেও এটি কেন গুরুত্বপূর্ণ

অ্যাসকেলের মন্তব্যের তাৎপর্য একটি কোম্পানির বাইরেও প্রসারিত। এআই খাতের বড় অংশ এখন এমন সিস্টেমের দিকে এগোচ্ছে, যা কাজ সম্পাদন করতে পারে, টুল সমন্বয় করতে পারে, এবং কম মানব প্রম্প্টিংয়ে লক্ষ্য追求 করতে পারে। এই রূপান্তর চলতে থাকলে, শাসনগত সমস্যা কেবল কনটেন্ট মডারেশন থেকে সরে আচরণগত নকশার দিকে যায়।

এর মানে, মডেল নির্মাতাদের প্রতিনিধিত্ব, জবাবদিহি, এবং মূল্যব্যাখ্যা নিয়ে আরও কঠিন প্রশ্নের উত্তর দিতে হবে। একটি এআই ব্যবহারকারীর স্বার্থে কাজ করা বলতে কী বোঝায়? নির্দেশনা অসম্পূর্ণ হলে বা নিরাপত্তা সীমার সঙ্গে সংঘর্ষ হলে তার আচরণ কেমন হওয়া উচিত? এবং একটি সিস্টেমের কতটা নৈতিক বিবেচনার স্বাধীনতা থাকা উচিত, তার আগে সেটি সহকারী হওয়া বন্ধ করে অনাত্মীয় এক প্রক্সিতে পরিণত হয়?

অ্যানথ্রপিক দাবি করে না যে সে এসব প্রশ্নের নিষ্পত্তি করেছে। কিন্তু অ্যাসকেলের ফ্রেমিং দেখায়, এআই প্রতিযোগিতার পরবর্তী ধাপ কেবল বেঞ্চমার্ক ও ফিচার দিয়ে নির্ধারিত হবে না। স্বায়ত্তশাসিত সিস্টেমকে উপযোগী রাখার সঙ্গে সঙ্গে কীভাবে অনিশ্চয়তামুক্ত রাখা যায়, সেটিও নির্ধারণ করবে।

মূল বিষয়

• অ্যানথ্রপিক বলছে, এআই প্রশ্নের উত্তর দেওয়া থেকে সময়ের সঙ্গে কাজ করার দিকে গেলে নৈতিক চ্যালেঞ্জ বদলে যায়।
• নিরাপত্তা ও সহায়কতার মতো মূল্যবোধকে কেন্দ্র করে বিবর্তনশীল এক লিখিত সংবিধানের মাধ্যমে কোম্পানিটি ক্লডকে নির্দেশনা দেয়।
• আমান্ডা অ্যাসকেল বলেন, ক্লডের প্রতি বর্তমান আস্থা কোনো মানব ব্যক্তিগত সহকারীর চেয়ে বেশি হওয়া উচিত নয়।

এই নিবন্ধটি ফাস্ট কোম্পানি-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধটি পড়ুন.