AGI নিয়ন্ত্রণের প্রশ্ন ক্ষমতা থেকে সরে শাসনের দিকে গেলে OpenAI পাঁচটি মূল নীতি তুলে ধরেছে

Empowerment-কে product test হিসেবে উপস্থাপন করা হয়েছে

দ্বিতীয় নীতি empowerment। OpenAI বলছে, AI মানুষকে লক্ষ্য অর্জন, আরও শেখা, তাদের আকাঙ্ক্ষা অনুসরণ, এবং আরও পরিপূর্ণ জীবন যাপন করতে সাহায্য করতে পারে; এতে সমাজও সামগ্রিকভাবে উপকৃত হবে। সেই প্রতিশ্রুতি বাস্তবায়ন করতে হলে এমন products দরকার যা users-দের increasingly valuable tasks সম্পন্ন করতে সক্ষম করে।

বিবৃতিটির এই অংশটি দার্শনিক অবস্থানকে product utility-র সঙ্গে কতটা ঘনিষ্ঠভাবে যুক্ত করেছে, তা লক্ষণীয়। OpenAI empowerment-কে কোনো abstract moral benefit হিসেবে ব্যাখ্যা করছে না। তারা এটিকে operational terms-এ সংজ্ঞায়িত করছে: users-দের এই systems ব্যবহার করে বিশ্বাসযোগ্যভাবে meaningful work করতে পারতে হবে।

post autonomy-তেও জোর দেয়। বিশ্ব বৈচিত্র্যময়, মানুষের চাহিদাও ভিন্ন, তা বলা হয়েছে। OpenAI যুক্তি দেয়, deployment এমনভাবে পরিচালিত হলে যাতে ক্ষতি কম হয়, users-দের তার services কীভাবে ব্যবহার করবে সে বিষয়ে broad latitude দেওয়া উচিত।

এই জুটি AI policy-র পরিচিত ভারসাম্যকে তুলে ধরে। কোম্পানি user freedom ও capability বাড়াতে চায়, আর একই সঙ্গে যেখানে risk এখনও অনিশ্চিত বা উল্লেখযোগ্য বলে মনে হয়, সেখানে restrictions বজায় রাখতে চায়। Altman লিখেছেন, অনিশ্চিত অবস্থায় সাবধানে এগোনো এবং আরও evidence সমর্থন করলে তবেই constraints শিথিল করা দরকার হতে পারে।

Universal prosperity যুক্তিটিকে software-এর বাইরে নিয়ে যায়

উপলব্ধ পাঠে নামকরণ করা তৃতীয় নীতি universal prosperity। OpenAI বলছে, তারা এমন একটি ভবিষ্যৎ চায় যেখানে প্রত্যেকের জীবন হবে চমৎকার, এবং সহজে ব্যবহারযোগ্য, substantial compute power-সম্পন্ন AI systems সবার হাতে তুলে দিলে মানুষ value তৈরির নতুন উপায় খুঁজে পেতে পারে।

এই পয়েন্টটি আলোচনাকে consumer tools ও enterprise productivity থেকে economics-এর দিকে নিয়ে যায়। OpenAI ইঙ্গিত দিচ্ছে, advanced AI-কে তারা একটি general-purpose system হিসেবে দেখে, যার প্রভাব opportunity, wealth creation, এবং social mobility-র ওপর পড়বে; এটি কেবল নতুন software category নয়।

এখানে উপলব্ধ সীমিত পাঠ্যেও যুক্তির কাঠামো স্পষ্ট। কোম্পানি AI-কে individual agency ব্যাপকভাবে বাড়ানোর একটি শক্তি হিসেবে তুলে ধরছে, তবে তখনই যখন access ব্যাপক হয় এবং benefits অবকাঠামোর মালিক কয়েকটি প্রতিষ্ঠানের হাতেই কুক্ষিগত না থাকে।

বাড়তে থাকা scrutiny-র প্রতিক্রিয়া

এই principles post আসে এমন এক সময়ে, যখন AI কোম্পানিগুলো governments, researchers, labor groups, creators, এবং civil society-এর কাছ থেকে ক্রমবর্ধমান প্রশ্নের মুখোমুখি। এই প্রশ্নগুলো আর কেবল model safety বা benchmark performance-এ সীমাবদ্ধ নয়। এখন এর মধ্যে market concentration, public accountability, social impact, এবং বিস্তৃত civic consequences আছে এমন technologies-এর জন্য private actors কীভাবে de facto rules তৈরি করছে, সেই বৈধতাও অন্তর্ভুক্ত।

OpenAI-এর উত্তর হলো, প্রযুক্তির upside বিশাল হতে পারে, তবে ফলাফল নিশ্চিত নয়। পোস্টে বলা হয়েছে, ভবিষ্যৎ পুরোপুরি ভালো বা পুরোপুরি খারাপ হবে না, এবং এখন নেওয়া সিদ্ধান্তগুলো ভালো দিককে সর্বোচ্চ করতে সাহায্য করতে পারে। এটি একটি pragmatic formulation। এটি সরল inevitability এবং সরল catastrophe দুটোকেই প্রত্যাখ্যান করে, এবং বিষয়টিকে governance challenge-এ পরিণত করে।

একই সঙ্গে, এই বিবৃতি এমন একটি টানাপোড়েনকে তুলে ধরে যা যেকোনো বড় AI company-র জন্য সমাধান করা কঠিন থাকবে। decentralization-এর পক্ষে দাঁড়ানো ঘোষণা করা, scarce compute এবং বড় scale-এর capital requirements-সমৃদ্ধ ক্ষেত্রে সেটিকে কাঠামোগতভাবে অর্জন করার চেয়ে অনেক সহজ। একইভাবে democratic input-এর পক্ষে কথা বলা, কোন প্রতিষ্ঠান সেই authority exercise করবে এবং কীভাবে করবে, তা নির্দিষ্ট করার চেয়ে সহজ।

কেন এই বিবৃতি গুরুত্বপূর্ণ

Principles documents policy disputes মীমাংসা করে না। তবে কোম্পানিগুলো কোন বিষয়ে accountable থাকতে চায় এবং জনগণকে তাদের ভূমিকা কীভাবে ব্যাখ্যা করতে চায়, তা প্রকাশ করে। এখানে OpenAI পাঠকদের জানাচ্ছে যে তাদের self-conception শক্তিশালী models তৈরি করার চেয়েও বিস্তৃত। তারা advanced AI সমাজে যেভাবে পৌঁছায়, সেই শর্তগুলো নির্ধারণকারী একটি প্রতিষ্ঠান হিসেবে দেখা যেতে চায়।

এই কারণেই, পোস্টটি সাধারণ হলেও গুরুত্বপূর্ণ। কোম্পানি publicly তিনটি সংযুক্ত দাবি করছে: AI ব্যাপকভাবে বিতরণ হওয়া উচিত, এটি মানুষের সক্ষমতা বাড়ানো উচিত, এবং এটি ব্যাপকভাবে ভাগ করা prosperity-কে সমর্থন করা উচিত। এখন এগুলো OpenAI-এর products, restrictions, partnerships, এবং রাজনৈতিক সিদ্ধান্তের আলোকে পরিমাপ করা হবে।

AGI debate পরিপক্ব হওয়ার সঙ্গে সঙ্গে, এই ধরনের statements শিল্পকাহিনীর বড় অংশ হয়ে উঠতে পারে। এখনো headlines-কে capability চালাচ্ছে। কিন্তু control, access, এবং legitimacy increasingly ঠিক করে দিচ্ছে সেই capability-কে জনতা progress হিসেবে দেখে কি না।

এই নিবন্ধটি OpenAI-এর রিপোর্টিংয়ের ওপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন.