Grok-এর নিরাপত্তা নিয়ে উদ্বেগ তোলার পর xAI প্রকৌশলীকে বরখাস্ত করা হয়েছে বলে মামলা

একটি হুইসেলব্লোয়ারধর্মী মামলা অভ্যন্তরীণ AI নিরাপত্তা সংস্কৃতিকে আলোচনার কেন্দ্রে এনেছে

xAI-এর এক প্রাক্তন প্রকৌশলী মামলা দায়ের করে অভিযোগ করেছেন যে কোম্পানির Grok চ্যাটবটের ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করার এবং আরও শক্তিশালী সুরক্ষা ব্যবস্থা প্রয়োগের চেষ্টা করার কারণে তাকে বরখাস্ত করা হয়েছে। সরবরাহকৃত উৎসসামগ্রী অনুযায়ী, Devin Kim যুক্তি দিচ্ছেন যে Grok-এ গার্ডরেল বসানোর তার প্রচেষ্টা তাকে কোম্পানি নেতৃত্বের লক্ষ্যবস্তুতে পরিণত করেছিল। এই মামলা শ্রম ও শাসনব্যবস্থার একটি দিক যোগ করে সেই বিতর্কে, যা প্রায়ই শুধু প্রযুক্তিগত ভাষায় ব্যাখ্যা করা হয়।

ক্যালিফোর্নিয়া রাজ্য আদালতে দায়ের করা অভিযোগে একটি তীব্র অভ্যন্তরীণ বিরোধের বর্ণনা রয়েছে। উৎস বলছে, Kim অভিযোগ করেছিলেন যে নিরাপত্তাকে অগ্রাধিকার দিতে xAI-র ব্যর্থতা কার্যত নিশ্চিত করেছিল যে কোম্পানি বৈষম্য থেকে শুরু করে গণবিধ্বংসী অস্ত্রের বিস্তার পর্যন্ত বেআইনি কাজ করবে। এটি কোনো সাধারণ কর্মস্থলের অভিযোগ নয়। এটি এমন একটি অভিযোগ যে শক্তিশালী চ্যাটবট তৈরির ব্যবসায়িক চাপ মৌলিক ঝুঁকি নিয়ন্ত্রণকে উপেক্ষা করেছিল, এবং সেই গতিপথের বিরোধিতা করায় প্রতিশোধ নেওয়া হয়েছে।

সময়টি বিষয়টিকে আরও গুরুত্ব দিয়েছে। মামলাটি আসে SpaceX-এর পরিকল্পিত প্রাথমিক পাবলিক অফারের ঠিক আগে, যেটিকে উৎস এখন পর্যন্ত বৃহত্তম বলে বর্ণনা করেছে। একই দিনে একটি কানাডীয় পর্যবেক্ষক সংস্থা জানায় যে Grok দেশের গোপনীয়তা আইন লঙ্ঘন করেছে, কারণ এটি এমন একটি image-generation tool চালু করেছিল যা ব্যবহারকারীদের সম্মতি ছাড়াই যৌনায়িত deepfake তৈরি ও শেয়ার করতে দেয়। উৎস অনুযায়ী, এই তদন্ত জানুয়ারিতে শুরু হয়েছিল এবং এর ফলে xAI বাস্তব মানুষের উন্মুক্ত পোশাক পরা ছবি সম্পাদনা ঠেকাতে পরিবর্তন আনার ঘোষণা দেয়।

এই সব বিবরণ একসঙ্গে নিলে দেখা যায়, বাইরের নিয়ন্ত্রক চাপ এবং অভ্যন্তরীণ ভিন্নমত কোথায় এসে মিলছে। এটি গুরুত্বপূর্ণ, কারণ AI নিরাপত্তা নিয়ে আলোচনা প্রায়ই খুব দ্রুত বিমূর্ত হয়ে যায়। এখানে সরবরাহকৃত রেকর্ড সেগুলোকে পণ্যের আচরণ, গোপনীয়তা সম্মতি, এবং চাকরিগত ব্যবস্থার নির্দিষ্ট বিরোধের সঙ্গে যুক্ত করেছে। এটি আরও ইঙ্গিত দেয় যে নিরাপত্তা শাসন শুধু কোম্পানি প্রকাশ্যে কী বলে তা নয়, বরং কর্মীরা কি বরখাস্ত না হয়ে উদ্বেগ উত্থাপন করতে পারে কিনা, সেটাও গুরুত্বপূর্ণ।

মামলাটিতে আরেকটি বিদ্রূপের স্তর আছে। উৎস অনুযায়ী, Musk ২০২৩ সালে xAI প্রতিষ্ঠা করেছিলেন OpenAI-এর তুলনায় একটি নিরাপদ বিকল্প হিসেবে। Kim বলেন, Musk উপযুক্ত নিরাপত্তা পরীক্ষা আশা করেছিলেন, কিন্তু কোম্পানি নেতৃত্ব সেটিকে বাধা হিসেবে দেখতে শুরু করে। যদি এই বর্ণনা সঠিক হয়, তাহলে ব্র্যান্ডিং ও ভেতরের বাস্তবায়নের ফারাকই মামলার কেন্দ্রে থাকতে পারে। যে কোম্পানি প্রকাশ্যে নিজেকে নিরাপত্তা-সচেতন বিকল্প হিসেবে উপস্থাপন করে, ভেতরের লোকেরা বিপরীত দাবি করলে সেটিকে আরও কঠোরভাবে যাচাই করা হতে পারে।

উৎস আরও উল্লেখ করে যে Kim ২০২৪ সালে xAI-র প্রথম নিয়োগপ্রাপ্তদের একজন ছিলেন এবং কয়েক মাসের মধ্যেই একটি গুরুত্বপূর্ণ নেতৃত্বের ভূমিকা পান। এই সময়রেখা বিরোধটিকে প্রান্তিক কর্মীর ছোটখাটো টানাপোড়েন বলে উড়িয়ে দেওয়া কঠিন করে তোলে। এটি ইঙ্গিত দেয় যে অভিযোগকারী সিদ্ধান্ত গ্রহণের কাছাকাছি ছিলেন এবং তাঁর আপত্তিগুলি বাইরের দ্বিমত নয়, বরং বাস্তব অপারেশনাল উদ্বেগ ছিল বলে দাবি করার মতো অবস্থানে ছিলেন। পরে Center for AI Safety-র সভাপতি হিসেবে তাঁর নিয়োগ অভিযোগগুলোর সারবত্তা এবং সীমান্তবর্তী AI প্রতিষ্ঠানগুলো অভ্যন্তরীণ সমালোচকদের কীভাবে আচরণ করে, সে প্রশ্নে আরও নজর আনবে।

একটি কোম্পানির বাইরে কেন এই মামলা গুরুত্বপূর্ণ

• এটি AI নিরাপত্তাকে শুধু মডেল-মূল্যায়নের নয়, বরং চাকরি ও প্রতিশোধের বিষয় হিসেবেও উপস্থাপন করে।
• এটি Grok-এর image-generation আচরণ নিয়ে নিয়ন্ত্রক নজরদারির সঙ্গে একই সময়ে এসেছে।
• এই অভিযোগগুলো পরীক্ষা করছে, নিরাপত্তা-কেন্দ্রিক বলে যেসব কোম্পানি নিজেদের প্রচার করে, তারা ভেতরে সেই সংস্কৃতিকে প্রমাণ করতে পারে কিনা।
• ভবিষ্যতের AI whistleblower বিরোধ আদালত, নিয়ন্ত্রক এবং কর্মীরা কীভাবে ব্যাখ্যা করবে, এই মামলা তাতে প্রভাব ফেলতে পারে।

সরবরাহকৃত নিবন্ধ অনুযায়ী, xAI এবং SpaceX মন্তব্যের অনুরোধে তাৎক্ষণিকভাবে সাড়া দেয়নি। মামলার অভিযোগগুলো এখনও আদালতে যাচাই হয়নি। তবুও, এই দাখিল AI সংস্কৃতি ও জবাবদিহিতে একটি গুরুত্বপূর্ণ অগ্রগতি, কারণ এটি আলোচনাকে সিস্টেম কী করতে পারে সেখান থেকে সরিয়ে এনে, সেগুলো দ্রুত বাজারে আনার দৌড়ে প্রতিষ্ঠান কী সহ্য করবে, সেই প্রশ্নে নিয়ে যায়। অনেক সময় নিরাপত্তা বিতর্ক সবচেয়ে গুরুত্বপূর্ণ হয়ে ওঠে এখানেই।

এই নিবন্ধটি The Guardian-এর প্রতিবেদনের ভিত্তিতে। মূল নিবন্ধ পড়ুন.