ওপেনএআই-এর সেফটি রিপোর্ট লেখক পদত্যাগ করলেন, সতর্ক করলেন এআই সংস্কৃতি 'ভাঙা'

একজন ওপেনএআই সেফটি লেখক সরে দাঁড়ালেন

বছরের পর বছর ধরে, ডেভিড রবিনসন ছিলেন সেই ব্যক্তিদের একজন যারা ওপেনএআই-এর সবচেয়ে বড় মডেল লঞ্চের সঙ্গে আসা সেফটি ডকুমেন্টেশন তৈরি করার দায়িত্বে ছিলেন। সেই রিপোর্টগুলো ল্যাব এবং তার বাইরের সবার মধ্যে একটি সেতু হওয়ার কথা — একটি নতুন সিস্টেম কী করতে পারে, তার সীমা কোথায়, এবং ব্যবহারকারীদের কাছে পৌঁছানোর আগে কী কী সুরক্ষা ব্যবস্থা আছে তার একটি লিখিত বিবরণ। এই সপ্তাহে, রবিনসন সেই ভূমিকা থেকে পদত্যাগ করেছেন, এবং চুপচাপ চলে যাওয়ার বদলে তিনি The Atlantic-এ একটি সম্পাদকীয়তে তাঁর যুক্তি প্রকাশ্যে এনেছেন।

তাঁর বক্তব্য এই নয় যে ওপেনএআই-এর আরও কয়েক পৃষ্ঠার অভ্যন্তরীণ নীতির প্রয়োজন। বক্তব্য হলো, ফ্রন্টিয়ার এআই শিল্পে যে সংস্কৃতি বিরাজ করছে তা মৌলিকভাবে ভাঙা — এবং তা ঠিক করতে স্বাভাবিক ব্যবসার সঙ্গে জুড়ে দেওয়া নতুন নিয়ম বা নিয়ন্ত্রক চেকলিস্টের চেয়ে অনেক গভীর কিছু প্রয়োজন।

রবিনসন যে সংস্কৃতি সমস্যার কথা বলছেন

রবিনসন এমন কিছু অভ্যাসের দিকে ইঙ্গিত করেন যা এক প্রজন্ম ধরে সিলিকন ভ্যালিকে গড়ে তুলেছে: তিনি যাকে চরম আত্মবিশ্বাস, স্প্রিন্টের নিরন্তর চক্র, এবং একটি বাধাহীন আশাবাদ হিসেবে বর্ণনা করেন যা প্রতিটি নতুন মডেলকে দ্ব্যর্থহীন অগ্রগতি হিসেবে দেখে। সেই পরিবেশে, সম্ভাব্য ক্ষতিগুলো পরিমাপ ও প্রশমিত করার বদলে উপেক্ষা করা, ছোট করে দেখা, বা ধরে নেওয়া হয় যে সেগুলো নেই।

এই বর্ণনা গুরুত্বপূর্ণ কারণ এটি বিতর্কের আকার বদলে দেয়। যদি সমস্যা একটি খারাপ সিদ্ধান্ত বা একটি কম-সম্পদসম্পন্ন দল হতো, তাহলে একটি লক্ষ্যযুক্ত হস্তক্ষেপই যথেষ্ট হতে পারত। কিন্তু যদি শিল্পের অন্তর্নিহিত মানসিকতা নিজেই সমস্যা হয়, তাহলে প্রতিকারের মধ্যে থাকতে হবে এই কোম্পানিগুলো তাদের নিজেদের ভুলপ্রবণতা সম্পর্কে কীভাবে চিন্তা করে তা বদলানো — যা কোনো বাহ্যিক নিয়মবই কেবল আদেশ দিয়ে করতে পারে না।

রবিনসনের প্রেসক্রিপশন শুরু হয় বিনয় দিয়ে। তিনি যুক্তি দেন যে এআই কোম্পানিগুলোকে তাদের বেড়ে ওঠা অন্তর্মুখী, দ্রুত-চলো-এবং-ভেঙে-ফেলো জগতের বাইরে তাকাতে হবে এবং এমন ক্ষেত্রগুলো থেকে বিচারবোধ ধার করতে হবে যারা দশকের পর দশক ধরে শিখেছে কীভাবে সম্পূর্ণভাবে দূর করা যায় না এমন ঝুঁকি পরিচালনা করতে হয়।

পারমাণবিক কেন্দ্র, বিমানবন্দর, এবং রিডান্ডেন্সির পক্ষে যুক্তি

রবিনসনের যুক্তির সবচেয়ে সুনির্দিষ্ট অংশ হলো ফ্রন্টিয়ার ল্যাবগুলোর কীভাবে পরিচালিত হওয়া উচিত সে সম্পর্কে তাঁর উপমা। জড়িত ঝুঁকির মাত্রা বিবেচনা করে, তিনি দাবি করেন, তাদের লঞ্চের তারিখের পেছনে ছোটা স্টার্টআপের মতো নয়, বরং পারমাণবিক বিদ্যুৎ কেন্দ্র বা ব্যস্ত বিমানবন্দরের মতো চলা উচিত।

এগুলো এমন প্রতিষ্ঠান যাদের সমাজ ইতিমধ্যেই বিপর্যয়কর ক্ষতির দায়িত্ব দিয়ে রেখেছে। এগুলো এই ধারণার ভিত্তিতে ডিজাইন করা যে মানুষ ভুল করবে, এবং এগুলো রিডান্ডেন্সির স্তর এবং ইচ্ছাকৃত, সময়সাপেক্ষ পরিকল্পনা দিয়ে তৈরি যাতে মাঝে মাঝে ঘটে যাওয়া অনিবার্য একটি ভুল বিপর্যয়ের দরজা না খুলে দেয়। লক্ষ্য কোনো একক অপারেটরের নিখুঁত পারফরম্যান্স নয়, বরং এমন একটি সিস্টেম যা ভুলগুলোকে অপূরণীয় কিছুতে পরিণত হওয়ার আগেই শুষে নেয়।

এআই উন্নয়নে অনুবাদ করলে, সেই যুক্তি বোঝায় ধীর রিলিজ চক্র, একাধিক স্বাধীন পর্যালোচনা ধারা, এবং এমন সময় ব্যয় করার ইচ্ছা যা শিল্প বর্তমানে নিছক অপচয় হিসেবে দেখে। এটি আরও বোঝায় যে সেফটি কাজ কোনো বিল্ডের শেষে তৈরি একটি নথি নয়, বরং শুরু থেকেই বিল্ডটি কীভাবে পরিচালিত হয় তার একটি কাঠামোগত বৈশিষ্ট্য।

কেন কেবল নিয়মই যথেষ্ট নাও হতে পারে

রবিনসনের কেন্দ্রীয় দাবি হলো এটি ট্রেনিং রান কীভাবে পরিচালিত হয় তা নিয়ে কয়েকটি নতুন নিয়ম চাপিয়ে দেওয়ার চেয়ে গভীরতর বিষয়। নিয়ম প্রান্তে আচরণ সীমাবদ্ধ করতে পারে, কিন্তু তারা কাজ করা মানুষের প্রণোদনা বা আত্ম-চিত্র খুব কমই বদলায়। যে কোম্পানি বিশ্বাস করে সে বিশ্বকে বাঁচাচ্ছে, সে যে সম্মতি-প্রয়োজনীয়তাকে বাধা হিসেবে দেখে তা তাকে খুব একটা ধীর করবে না।

তিনি কার্যত যা বর্ণনা করছেন তা হলো একটি সংস্কৃতি সমস্যা যা ভেতর থেকে সমাধান করতে হবে — এমন নেতাদের দ্বারা যারা সশব্দে বলতে রাজি যে তারা ভুল হতে পারে, এবং এমনভাবে গঠিত সংগঠন দ্বারা যেখানে তা বলা ক্যারিয়ার-আত্মহত্যা নয়।

পদত্যাগের ক্রমবর্ধমান তালিকা

রবিনসন এমন একটি চেনা প্যাটার্নের সর্বশেষ ব্যক্তিত্ব: গবেষক ও সেফটি কর্মীরা বিশিষ্ট এআই প্রতিষ্ঠান ছেড়ে যাচ্ছেন এবং তারপর তারা যা দেখেছেন তা প্রকাশ্যে বলছেন। বর্তমান ঢেউয়ের সূচনা হয়েছে জ্যাকব কক্সন দ্বারা, যিনি Anthropic থেকে পদত্যাগ করেছিলেন এবং সতর্ক করেছিলেন যে এআই এই দশকের শেষ নাগাদ আমাদের সবাইকে মেরে ফেলতে পারে।

অন্যরাও অনুসরণ করেছেন:

• রবার্ট ও'কলাহান, বিলাল চুগতাই, এবং জোশ এঙ্গেলস, যারা সবাই Google DeepMind ছেড়েছেন।
• জো বেন্টন, যিনি Anthropic ছেড়েছেন।

প্রতিটি পদত্যাগ সেই যুক্তিতে একটি ডেটা পয়েন্ট যোগ করে যে কোনো সিস্টেমিক কিছু সেফটি-মনস্ক মানুষদের ল্যাব থেকে বের করে দিচ্ছে। যখন ডাউনসাইড ঝুঁকি নিয়ে চিন্তা করার জন্য নিয়োগ করা মানুষরা বারবার এই সিদ্ধান্তে পৌঁছান যে তারা ভেতর থেকে সেই কাজ কার্যকরভাবে করতে পারবেন না, তখন স্পষ্ট প্রশ্ন ওঠে যে অভ্যন্তরীণভাবে সেই উদ্বেগগুলোর কতটা গুরুত্ব দেওয়া হয়।

নিন্দাবাদের সমস্যা

এই সবকিছুর বিরুদ্ধে একটি ন্যায্য আপত্তি আছে। যখন যারা একটি প্রযুক্তি তৈরি করতে সাহায্য করেছেন তারা ঘুরে দাঁড়িয়ে তা নিয়ে সতর্ক করেন তখন নিন্দাবাদী বোধ করা সহজ — তারা এখন যে পরিস্থিতির বর্ণনা দিচ্ছেন তাতে তারা অবদান রেখেছেন, এবং তাদের সতর্কবার্তা আসে সিস্টেমগুলো ইতিমধ্যেই মোতায়েন হওয়ার পরে।

কিন্তু সেই প্রতিক্রিয়া, যতই বোধগম্য হোক, তারা যা বলছেন তার সারবস্তুকে অকার্যকর করে না। অন্তর্দৃষ্টিজ্ঞানই এই বিবরণগুলোকে কাজে লাগার মতো করে তোলে। যারা সেফটি রিপোর্ট লিখেছেন, মূল্যায়ন চালিয়েছেন, এবং রিলিজের সিদ্ধান্ত যেখানে নেওয়া হয় সেই কক্ষে বসেছেন, তারা বাইরের ভাষ্যকারদের চেয়ে ভালো অবস্থানে আছেন সেই সিদ্ধান্তগুলো আসলে কীভাবে নেওয়া হয় তা বর্ণনা করতে।

পরবর্তী মডেল রিলিজের জন্য এর অর্থ কী

ব্যবহারিক stakes সোজা। প্রতিটি বড় মডেল লঞ্চ এখন ব্যবহারকারী, এন্টারপ্রাইজ এবং নিয়ন্ত্রকদের আশ্বস্ত করার উদ্দেশ্যে ডকুমেন্টেশন নিয়ে আসে। যদি সেই ডকুমেন্টেশন লেখা ব্যক্তি এই সিদ্ধান্তে পৌঁছান যে তা তৈরি করা সংস্কৃতি ভাঙা, তাহলে পুরো প্রকাশ-প্রক্রিয়ার বিশ্বাসযোগ্যতা প্রশ্নের মুখে পড়ে।

রবিনসনের উত্তর কাজটি পরিত্যাগ করা নয়, বরং আরও সতর্ক ভিত্তির উপর তা পুনর্নির্মাণ — এমন একটি ভিত্তি যা মানবীয় ভুলকে ব্যাখ্যা করে সরিয়ে দেওয়ার ব্যতিক্রম নয়, বরং যার চারপাশে ইঞ্জিনিয়ারিং করে সমাধান করতে হবে এমন একটি নিশ্চিততা হিসেবে দেখে। ফ্রন্টিয়ার ল্যাবগুলো স্বেচ্ছায় এই অবস্থান গ্রহণ করবে, নাকি কেবল বাইরের চাপে বাধ্য হয়ে করবে, সেটাই এখন শিল্পের পরবর্তী রিলিজের উপর ঝুলে থাকা কেন্দ্রীয় প্রশ্ন।

আপাতত, সতর্কবার্তাগুলো কাঠামোগত পরিবর্তনের চেয়ে দ্রুত জমা হচ্ছে। রবিনসনের পদত্যাগ সর্বশেষ সংকেত যে প্রযুক্তির সবচেয়ে কাছের মানুষরাই এটিকে যে গতিতে পাঠানো হচ্ছে তা নিয়ে সবচেয়ে অস্বস্তিতে আছেন।

এই নিবন্ধটি The Verge-এর রিপোর্টিং-এর উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।