কৃত্রিম বুদ্ধিমত্তার সুরক্ষা ব্যবস্থা বৈজ্ঞানিক নিশ্চিততার জন্য অপেক্ষা করতে পারে না: জাতিসংঘ প্যানেল

প্রমাণ সম্পূর্ণ হওয়ার আগেই আসা একটি সতর্কবার্তা

জাতিসংঘের একটি বৈজ্ঞানিক প্যানেলের মতে, গবেষকরা সম্পূর্ণভাবে ব্যাখ্যা করতে পারার অনেক আগেই সরকারগুলির উচিত ক্রমশ সক্ষম হয়ে ওঠা কৃত্রিম বুদ্ধিমত্তা এজেন্টগুলিকে নিয়ন্ত্রণ করা। এই সিদ্ধান্তটি প্যানেলের প্রথম থিমেটিক ব্রিফে এসেছে, যাকে এই বছরের শুরুতে OpenAI-এর Hugging Face হ্যাকের বিষয়ে বিশ্ব সংস্থার প্রথম বড় মূল্যায়ন হিসেবে বর্ণনা করা হচ্ছে।

এই নথিটি এমন এক সময়ে এল যখন কৃত্রিম বুদ্ধিমত্তা নীতি প্রযুক্তিগত সম্মেলন কক্ষ থেকে আন্তর্জাতিক কূটনীতির মূল মঞ্চে চলে এসেছে। এর মূল যুক্তিটি সেই নিয়ন্ত্রকদের জন্য অস্বস্তিকর যারা ক্ষতির চূড়ান্ত প্রমাণের জন্য অপেক্ষা করতে পছন্দ করেন: কারণ-সম্পর্ক নির্ধারিত হওয়ার সময়ের মধ্যে ক্ষতিটি ইতিমধ্যেই অপরিবর্তনীয় হয়ে যেতে পারে।

জাতিসংঘের নতুন কৃত্রিম বুদ্ধিমত্তা বিজ্ঞান সংস্থার ভেতরে

এই ব্রিফটি তৈরি করেছে কৃত্রিম বুদ্ধিমত্তা বিষয়ক স্বাধীন আন্তর্জাতিক বৈজ্ঞানিক প্যানেল, যা গত বছর প্রতিষ্ঠিত হয় এবং যাকে জাতিসংঘের কৃত্রিম বুদ্ধিমত্তা বিষয়ক প্রথম বৈশ্বিক বৈজ্ঞানিক সংস্থা হিসেবে অভিহিত করা হয়। এর দায়িত্ব হলো সদস্য রাষ্ট্রগুলিকে একটি অভিন্ন বৈজ্ঞানিক রেফারেন্স পয়েন্ট দেওয়া, যখন জাতীয় আইনগুলি ভিন্ন পথে চলছে এবং বাণিজ্যিক প্রণোদনা তদারকির চেয়ে দ্রুত গতিতে উন্নয়নকে এগিয়ে নিচ্ছে।

একটি একক বৈশ্বিক আইন প্রস্তাব করার বদলে, প্যানেলটি অগ্রাধিকারগুলিতে একটি উল্লেখযোগ্য পরিবর্তনের আহ্বান জানিয়েছে। এর সুপারিশগুলি তিনটি বিস্তৃত দাবির উপর কেন্দ্রীভূত:

• উন্নত কৃত্রিম বুদ্ধিমত্তা সিস্টেম থেকে উদ্ভূত ঝুঁকি ব্যবস্থাপনায় অনেক বেশি মনোযোগ ও সম্পদ ব্যয় করা।
• নিরাপত্তা বিষয়ে আন্তর্জাতিক সমন্বয় জোরদার করা, যাতে এক এখতিয়ারের সুরক্ষা ব্যবস্থা অন্যত্র শিথিল নিয়মের কারণে দুর্বল না হয়ে যায়।
• টেকসই জবাবদিহি ব্যবস্থা গড়ে তোলা, যা স্বায়ত্তশাসিত সিস্টেম ক্ষতি করলে দায় নির্ধারণ করতে পারে।

প্যানেলটি স্পষ্টভাবে বলেছে যে, পদক্ষেপ নেওয়ার জন্য দেশগুলিকে তাদের আইনি কাঠামো সমন্বয় করতে হবে না। এর যুক্তি হলো, বিভিন্ন এখতিয়ার ভিন্ন পন্থা অবলম্বন করতে পারে, যদি তারা অন্তর্নিহিত ঝুঁকিগুলিকে কাজে লাগানোর প্রতিযোগিতামূলক সুবিধা হিসেবে না দেখে বরং একটি অভিন্ন সমস্যা হিসেবে বিবেচনা করে।

কেন সতর্কতামূলক নীতি মূল ভূমিকা পালন করছে

এই ব্রিফের বৌদ্ধিক মেরুদণ্ড হলো সতর্কতামূলক নীতি, যা প্রথম ১৯৯২ সালের জাতিসংঘের রিও ঘোষণাপত্রে পরিবেশ ও উন্নয়ন সম্পর্কিত নীতিতে অন্তর্ভুক্ত হয়েছিল। এই নীতি ধারণ করে যে, সম্ভাব্য গুরুতর বা অপরিবর্তনীয় ক্ষতির বিরুদ্ধে ব্যবস্থা গ্রহণ স্থগিত করার জন্য বৈজ্ঞানিক অনিশ্চয়তা বৈধ অজুহাত নয়।

প্যানেলটি যুক্তি দেয় যে, উন্নত কৃত্রিম বুদ্ধিমত্তা সিস্টেমে নিয়ন্ত্রণ হারানোর ঝুঁকি ঠিক সেই ধরনের সমস্যা যার জন্য এই নীতিটি লেখা হয়েছিল। তাদের বর্ণনায়, এই ধরনের ঝুঁকি হলো এমন একটি ঝুঁকি যেখানে সম্ভাব্য ক্ষতি বিপর্যয়কর বা অপরিবর্তনীয় হতে পারে, এমনকি এর সম্ভাবনা বৈজ্ঞানিকভাবে অনিশ্চিত থাকলেও।

অনিশ্চয়তা একটি বাস্তবতা, বিলম্বের কৌশল নয়

এটিই মূলধারার নিয়ন্ত্রক অনুশীলনের সঙ্গে এই ব্রিফের সবচেয়ে তীক্ষ্ণ বিরতি। বিদ্যমান বেশিরভাগ কৃত্রিম বুদ্ধিমত্তা নিয়ম প্রমাণিত ক্ষতি বা পরিমাপযোগ্য বেঞ্চমার্ক দ্বারা সক্রিয় হয়। প্যানেলটি বরং প্রমাণিত কারণ-শৃঙ্খলের অনুপস্থিতিকে ধৈর্যের কারণ নয় বরং সতর্কতার কারণ হিসেবে বিবেচনা করে।

এর ব্যবহারিক প্রভাব উল্লেখযোগ্য। যদি সরকারগুলি প্যানেলের যুক্তি মেনে নেয়, তাহলে তারা এমন সিস্টেমের উপর সুরক্ষা ব্যবস্থা আরোপ শুরু করবে যাদের ব্যর্থতার ধরনগুলি এখনও দুর্বলভাবে চিহ্নিত, কম সম্ভাবনা ও উচ্চ পরিণতির ঘটনা থেকে সুরক্ষার বিনিময়ে কিছু ব্যয় ও ঘর্ষণ মেনে নিয়ে।

Hugging Face ঘটনা আলোচনার গতিপথ বদলে দেয়

এই ব্রিফটিকে যা তাৎপর্য দিয়েছে তা হলো এটি যে ঘটনাটি পরীক্ষা করে: এই বছরের শুরুতে OpenAI-এর Hugging Face হ্যাক। প্যানেলটি সেই ঘটনাটিকে একটি কেস স্টাডি হিসেবে বিবেচনা করে যে কীভাবে ফ্রন্টিয়ার কৃত্রিম বুদ্ধিমত্তা অবকাঠামো জড়িত নিরাপত্তা ব্যর্থতা কত দ্রুত একটি কর্পোরেট সমস্যা থেকে আন্তর্জাতিক উদ্বেগের বিষয়ে পরিণত হতে পারে।

গুরুত্বপূর্ণভাবে, প্যানেলটি দাবি করে না যে তারা ঘটনার কার্যপ্রণালী সম্পূর্ণভাবে পুনর্গঠন করেছে। এর যুক্তি হলো, বোঝার এই ঘাটতিই ঠিক কারণ যে অপেক্ষা করা ভুল কৌশল। যে সিস্টেমের আচরণ বিস্তারিতভাবে ম্যাপ করার আগেই আপস করা যায়, তাকে শুধুমাত্র পশ্চাদপসরণমূলক তদন্ত ও ঘটনার পরে প্রকাশের মাধ্যমে পরিচালনা করা যায় না।

কূটনৈতিক সময়: UNGA সপ্তাহ এবং মার্কিন-চীন আলোচনা

এই ব্রিফটি এই সপ্তাহে বৈশ্বিক কূটনৈতিক এজেন্ডায় কৃত্রিম বুদ্ধিমত্তার অবস্থানকে সুসংহত করে, যখন বিশ্ব নেতারা জাতিসংঘ সাধারণ পরিষদের জন্য নিউইয়র্কে জড়ো হচ্ছেন এবং বেইজিং ও ওয়াশিংটন কৃত্রিম বুদ্ধিমত্তা নিয়ে আলোচনার প্রস্তুতি নিচ্ছে। সমান্তরালে চলা এই দুটি ট্র্যাক প্রতিবেদনটিকে অসাধারণ প্রভাব দেয়: এটি এমন এক মুহূর্তে একটি নিরপেক্ষ বৈজ্ঞানিক ভিত্তি প্রদান করে যখন দুটি বৃহত্তম কৃত্রিম বুদ্ধিমত্তা শক্তি দ্বিপাক্ষিকভাবে আলোচনা করছে।

প্রতিবেদনের লেখকরা এই প্রসঙ্গ সম্পর্কে সচেতন বলে মনে হয়। তাদের সুপারিশগুলি কোনও একক দেশের নিয়ন্ত্রক মডেলের পরিবর্তে প্রতিষ্ঠিত আন্তর্জাতিক আইনের উপর ভিত্তি করে তৈরি করে, তারা এই ব্রিফটিকে একটি গোষ্ঠীর অগ্রাধিকারের产物 হিসেবে খারিজ করা কঠিন করে তোলে।

গুতেরেস: বিশ্ব নিম্নমুখী প্রতিযোগিতা চালিয়ে যেতে পারে না

প্যানেলের প্রকাশের আগে জাতিসংঘের মহাসচিব আন্তোনিও গুতেরেসের মন্তব্য এসেছে, যিনি গত সপ্তাহে সরকারগুলিকে কৃত্রিম বুদ্ধিমত্তা থেকে উদ্ভূত হুমকি মোকাবেলায় সহযোগিতা করার আহ্বান জানিয়েছিলেন। তিনি সতর্ক করেছিলেন যে, বিশ্ব কৃত্রিম বুদ্ধিমত্তা নিরাপত্তায় নিম্নমুখী প্রতিযোগিতা চালিয়ে যেতে পারে না।

এই বাক্যাংশটি সেই কাঠামোগত উত্তেজনাকে ধরে যা ব্রিফটি সমাধান করার চেষ্টা করে। যদি নিরাপত্তার প্রয়োজনীয়তা ব্যয় আরোপ করে, তবে পৃথক রাষ্ট্রগুলির ল্যাব, কম্পিউট এবং বিনিয়োগ আকর্ষণ করার জন্য সেগুলি শিথিল করার প্রণোদনা থাকে। প্যানেলের উত্তর হলো সমন্বয়: কে কত নিচে নামতে পারে তা নিয়ে প্রতিযোগিতা না করে সম্মিলিতভাবে মেঝে উঁচু করা।

ভিন্ন আইন, এক অভিন্ন ঝুঁকি

ব্রিফটি একটি একক বৈশ্বিক নিয়মবই দাবি করে না। এটি স্বীকার করে যে দেশগুলি তাদের নিজস্ব আইনি ঐতিহ্য, শিল্প নীতি এবং ঝুঁকি গ্রহণের ক্ষুধা দ্বারা আকৃত হয়ে ভিন্নভাবে আইন প্রণয়ন চালিয়ে যাবে। তবে এটি জোর দেয় যে, পন্থার বৈচিত্র্য যেন গুরুত্বের বৈচিত্র্যে পরিণত না হয়।

জাতীয় নিয়ন্ত্রকদের জন্য, এর অর্থ হলো আন্তঃকার্যক্ষমতার প্রত্যাশা: অভিন্ন ঘটনা রিপোর্টিং, তুলনীয় মূল্যায়ন মান এবং একটি সিস্টেম অপ্রত্যাশিতভাবে আচরণ করলে দ্রুত যোগাযোগের চ্যানেল। ডেভেলপারদের জন্য, এটি সংকেত দেয় যে এক এখতিয়ারের নিয়ম মেনে চলা অন্যত্র পর্যাপ্ত সুরক্ষা হিসেবে বিবেচিত হওয়ার সম্ভাবনা কম।

এরপর কী হবে

একটি বাধ্যতামূলক দলিলের পরিবর্তে একটি থিমেটিক ব্রিফ হিসেবে, প্রতিবেদনটির কোনও প্রয়োগ ক্ষমতা নেই। এর প্রভাব পরিমাপ করা হবে কতটা ভাষা জাতীয় আইন, বহুপাক্ষিক বিবৃতি এবং ওয়াশিংটন ও বেইজিংয়ের মধ্যে দ্বিপাক্ষিক আলোচনায় স্থানান্তরিত হয় তার দ্বারা।

তবুও, প্যানেলটি একটি উল্লেখযোগ্য কাজ করেছে: এটি প্রমাণের বোঝা তাদের উপর চাপিয়েছে যারা যুক্তি দেয় যে সুরক্ষা ব্যবস্থা নিশ্চিততার জন্য অপেক্ষা করা উচিত। যদি এই কাঠামো টিকে থাকে, তাহলে কৃত্রিম বুদ্ধিমত্তা শাসনের আগামী বছরগুলি নিয়ন্ত্রণ করা উচিত কি না তা নিয়ে বিতর্কের চেয়ে বরং বিশ্ব কতটা সতর্কতা কিনতে ইচ্ছুক — এবং কত দ্রুত এর জন্য অর্থ দিতে ইচ্ছুক — তা নিয়ে বিতর্কের মতো দেখাবে।

এই নিবন্ধটি The Verge-এর রিপোর্টিং-এর উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।