AGI নিয়ন্ত্রণের প্রশ্ন ক্ষমতা থেকে সরে শাসনের দিকে গেলে OpenAI পাঁচটি মূল নীতি তুলে ধরেছে

OpenAI, AGI-কে শুধু প্রযুক্তিগত নয়, রাজনৈতিক ও অর্থনৈতিক প্রশ্ন হিসেবেও দেখছে

chief executive Sam Altman-এর নতুন principles statement-এর মাধ্যমে OpenAI advanced artificial intelligence-এর ভবিষ্যৎ নিয়ে একটি বিস্তৃত যুক্তি উপস্থাপন করেছে: নির্ধারক বিষয় শুধু performance নয়, বরং governance, access, এবং ক্ষমতার বণ্টন।

কোম্পানি বলছে, তাদের mission এখনও এটাই যে artificial general intelligence যেন মানবজাতির সবার উপকারে আসে। নতুন post-এ Altman পাঁচটি নীতি উপস্থাপন করেছেন, যেগুলোকে OpenAI তাদের কাজের নির্দেশক বলে বর্ণনা করছে, আর প্রকাশিত পাঠে বিশেষভাবে democratization, empowerment, এবং universal prosperity-এর ওপর জোর দেওয়া হয়েছে।

এই বিবৃতিটি একই সঙ্গে একটি values document এবং positioning move হিসেবে পড়া যায়। AI systems যত বেশি সক্ষম হয়ে উঠছে এবং জনজীবনে আরও গভীরভাবে মিশে যাচ্ছে, labs-গুলোর ওপর চাপ বাড়ছে শুধু কীভাবে তারা তৈরি করে তা নয়, বরং তারা কোন ধরনের সামাজিক শৃঙ্খলা এই systems-গুলোর মাধ্যমে সমর্থন করতে চায় সেটাও ব্যাখ্যা করার।

তালিকার শীর্ষে democratization

post-এর প্রথম নীতি democratization। OpenAI বলছে, superintelligence যেন কয়েকটি কোম্পানির হাতে power কেন্দ্রীভূত করে না ফেলে, সেই ভবিষ্যৎকে তারা প্রতিরোধ করতে চায়। এর বদলে তারা capability-কে আরও decentralizedভাবে ছড়িয়ে দেওয়ার পক্ষে এবং AI-সংক্রান্ত গুরুত্বপূর্ণ সিদ্ধান্তগুলো AI labs alone নয়, democratic processes ও egalitarian principles-এর মাধ্যমে নেওয়ার পক্ষে যুক্তি দিচ্ছে।

এই framing গুরুত্বপূর্ণ, কারণ এটি বর্তমান AI চক্রের অন্যতম মৌলিক টানাপোড়েনে OpenAI-কে স্থাপন করে। সবচেয়ে advanced models-এর জন্য অসাধারণ compute, talent, এবং capital লাগে। সেই বাস্তবতা development-কে স্বাভাবিকভাবেই কয়েকটি প্রতিষ্ঠানের মধ্যে কেন্দ্রীভূত করে। OpenAI-এর বিবৃতি এই ঝুঁকিকে সরাসরি স্বীকার করে এবং একটি রাজনৈতিক নীতির মাধ্যমে তার উত্তর দিতে চায়: broad access-এর সঙ্গে broad participation in decision-making-ও থাকতে হবে।

এই ভাষা aspirational হলেও strategicও বটে। frontier systems তৈরি করা একটি কোম্পানি স্পষ্টভাবে বলছে, future কেবল frontier companies-দের দ্বারাই নির্ধারিত হওয়া উচিত নয়।

Empowerment-কে product test হিসেবে উপস্থাপন করা হয়েছে

দ্বিতীয় নীতি empowerment। OpenAI বলছে, AI মানুষকে লক্ষ্য অর্জন, আরও শেখা, তাদের আকাঙ্ক্ষা অনুসরণ, এবং আরও পরিপূর্ণ জীবন যাপন করতে সাহায্য করতে পারে; এতে সমাজও সামগ্রিকভাবে উপকৃত হবে। সেই প্রতিশ্রুতি বাস্তবায়ন করতে হলে এমন products দরকার যা users-দের increasingly valuable tasks সম্পন্ন করতে সক্ষম করে।

বিবৃতিটির এই অংশটি দার্শনিক অবস্থানকে product utility-র সঙ্গে কতটা ঘনিষ্ঠভাবে যুক্ত করেছে, তা লক্ষণীয়। OpenAI empowerment-কে কোনো abstract moral benefit হিসেবে ব্যাখ্যা করছে না। তারা এটিকে operational terms-এ সংজ্ঞায়িত করছে: users-দের এই systems ব্যবহার করে বিশ্বাসযোগ্যভাবে meaningful work করতে পারতে হবে।

post autonomy-তেও জোর দেয়। বিশ্ব বৈচিত্র্যময়, মানুষের চাহিদাও ভিন্ন, তা বলা হয়েছে। OpenAI যুক্তি দেয়, deployment এমনভাবে পরিচালিত হলে যাতে ক্ষতি কম হয়, users-দের তার services কীভাবে ব্যবহার করবে সে বিষয়ে broad latitude দেওয়া উচিত।

এই জুটি AI policy-র পরিচিত ভারসাম্যকে তুলে ধরে। কোম্পানি user freedom ও capability বাড়াতে চায়, আর একই সঙ্গে যেখানে risk এখনও অনিশ্চিত বা উল্লেখযোগ্য বলে মনে হয়, সেখানে restrictions বজায় রাখতে চায়। Altman লিখেছেন, অনিশ্চিত অবস্থায় সাবধানে এগোনো এবং আরও evidence সমর্থন করলে তবেই constraints শিথিল করা দরকার হতে পারে।

Universal prosperity যুক্তিটিকে software-এর বাইরে নিয়ে যায়

উপলব্ধ পাঠে নামকরণ করা তৃতীয় নীতি universal prosperity। OpenAI বলছে, তারা এমন একটি ভবিষ্যৎ চায় যেখানে প্রত্যেকের জীবন হবে চমৎকার, এবং সহজে ব্যবহারযোগ্য, substantial compute power-সম্পন্ন AI systems সবার হাতে তুলে দিলে মানুষ value তৈরির নতুন উপায় খুঁজে পেতে পারে।

এই পয়েন্টটি আলোচনাকে consumer tools ও enterprise productivity থেকে economics-এর দিকে নিয়ে যায়। OpenAI ইঙ্গিত দিচ্ছে, advanced AI-কে তারা একটি general-purpose system হিসেবে দেখে, যার প্রভাব opportunity, wealth creation, এবং social mobility-র ওপর পড়বে; এটি কেবল নতুন software category নয়।

এখানে উপলব্ধ সীমিত পাঠ্যেও যুক্তির কাঠামো স্পষ্ট। কোম্পানি AI-কে individual agency ব্যাপকভাবে বাড়ানোর একটি শক্তি হিসেবে তুলে ধরছে, তবে তখনই যখন access ব্যাপক হয় এবং benefits অবকাঠামোর মালিক কয়েকটি প্রতিষ্ঠানের হাতেই কুক্ষিগত না থাকে।

বাড়তে থাকা scrutiny-র প্রতিক্রিয়া

এই principles post আসে এমন এক সময়ে, যখন AI কোম্পানিগুলো governments, researchers, labor groups, creators, এবং civil society-এর কাছ থেকে ক্রমবর্ধমান প্রশ্নের মুখোমুখি। এই প্রশ্নগুলো আর কেবল model safety বা benchmark performance-এ সীমাবদ্ধ নয়। এখন এর মধ্যে market concentration, public accountability, social impact, এবং বিস্তৃত civic consequences আছে এমন technologies-এর জন্য private actors কীভাবে de facto rules তৈরি করছে, সেই বৈধতাও অন্তর্ভুক্ত।

OpenAI-এর উত্তর হলো, প্রযুক্তির upside বিশাল হতে পারে, তবে ফলাফল নিশ্চিত নয়। পোস্টে বলা হয়েছে, ভবিষ্যৎ পুরোপুরি ভালো বা পুরোপুরি খারাপ হবে না, এবং এখন নেওয়া সিদ্ধান্তগুলো ভালো দিককে সর্বোচ্চ করতে সাহায্য করতে পারে। এটি একটি pragmatic formulation। এটি সরল inevitability এবং সরল catastrophe দুটোকেই প্রত্যাখ্যান করে, এবং বিষয়টিকে governance challenge-এ পরিণত করে।

একই সঙ্গে, এই বিবৃতি এমন একটি টানাপোড়েনকে তুলে ধরে যা যেকোনো বড় AI company-র জন্য সমাধান করা কঠিন থাকবে। decentralization-এর পক্ষে দাঁড়ানো ঘোষণা করা, scarce compute এবং বড় scale-এর capital requirements-সমৃদ্ধ ক্ষেত্রে সেটিকে কাঠামোগতভাবে অর্জন করার চেয়ে অনেক সহজ। একইভাবে democratic input-এর পক্ষে কথা বলা, কোন প্রতিষ্ঠান সেই authority exercise করবে এবং কীভাবে করবে, তা নির্দিষ্ট করার চেয়ে সহজ।

কেন এই বিবৃতি গুরুত্বপূর্ণ

Principles documents policy disputes মীমাংসা করে না। তবে কোম্পানিগুলো কোন বিষয়ে accountable থাকতে চায় এবং জনগণকে তাদের ভূমিকা কীভাবে ব্যাখ্যা করতে চায়, তা প্রকাশ করে। এখানে OpenAI পাঠকদের জানাচ্ছে যে তাদের self-conception শক্তিশালী models তৈরি করার চেয়েও বিস্তৃত। তারা advanced AI সমাজে যেভাবে পৌঁছায়, সেই শর্তগুলো নির্ধারণকারী একটি প্রতিষ্ঠান হিসেবে দেখা যেতে চায়।

এই কারণেই, পোস্টটি সাধারণ হলেও গুরুত্বপূর্ণ। কোম্পানি publicly তিনটি সংযুক্ত দাবি করছে: AI ব্যাপকভাবে বিতরণ হওয়া উচিত, এটি মানুষের সক্ষমতা বাড়ানো উচিত, এবং এটি ব্যাপকভাবে ভাগ করা prosperity-কে সমর্থন করা উচিত। এখন এগুলো OpenAI-এর products, restrictions, partnerships, এবং রাজনৈতিক সিদ্ধান্তের আলোকে পরিমাপ করা হবে।

AGI debate পরিপক্ব হওয়ার সঙ্গে সঙ্গে, এই ধরনের statements শিল্পকাহিনীর বড় অংশ হয়ে উঠতে পারে। এখনো headlines-কে capability চালাচ্ছে। কিন্তু control, access, এবং legitimacy increasingly ঠিক করে দিচ্ছে সেই capability-কে জনতা progress হিসেবে দেখে কি না।

এই নিবন্ধটি OpenAI-এর রিপোর্টিংয়ের ওপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন.