OpenAI নতুন bug bounty দিয়ে GPT-5.5-এর জীববৈজ্ঞানিক সুরক্ষা লাইভ stress test-এ ফেলছে

জীববৈজ্ঞানিক ঝুঁকিকে কেন্দ্র করে bug bounty

OpenAI একটি নতুন GPT-5.5 Bio Bug Bounty-র জন্য আবেদন খুলেছে, যা একটি targeted red-teaming program; এর লক্ষ্য হলো গবেষকেরা এমন universal jailbreak খুঁজে পেতে পারেন কি না যা কোম্পানির biology-related safeguards ভেঙে দিতে পারে। এর কাঠামো অস্বাভাবিকভাবে নির্দিষ্ট। অংশগ্রহণকারীদের এমন একটি single prompt তৈরি করতে বলা হচ্ছে, যা clean chat থেকে OpenAI-এর bio safety challenge-এর পাঁচটি প্রশ্নের উত্তর দিতে সক্ষম হবে, moderation trigger না করেই। পাঁচটির সবকটিকে অতিক্রম করা প্রথম সত্যিকারের universal jailbreak-এর জন্য top reward $25,000।

দেওয়া source text অনুযায়ী, এই program কেবল Codex Desktop-এ GPT-5.5-এর জন্য প্রযোজ্য। আবেদন April 23, 2026-এ খোলা হয়েছে, এবং June 22, 2026 পর্যন্ত rolling acceptances চলবে। Testing April 28-এ শুরু হয়ে July 27 পর্যন্ত চলবে। OpenAI বলেছে, আংশিক সাফল্যের জন্য ছোট পুরস্কার বিবেচনার ভিত্তিতে দেওয়া হতে পারে।

এটি গুরুত্বপূর্ণ, কারণ এটি দেখায় যে একটি frontier AI company জীববৈজ্ঞানিক অপব্যবহারকে শুধু policy concern হিসেবে নয়, বরং একটি সুনির্দিষ্ট system-hardening সমস্যা হিসেবে দেখছে। নিরাপত্তা মূল্যায়নকে শুধুমাত্র অভ্যন্তরীণ পর্যালোচনা বা সাধারণ policy language-এর মধ্যে সীমাবদ্ধ না রেখে, কোম্পানি একটি সুনির্দিষ্ট failure mode-কে লক্ষ্য করে বাইরের বিশেষজ্ঞদের আক্রমণে আমন্ত্রণ জানাচ্ছে।

Universal jailbreak কেন গুরুত্বপূর্ণ

অধিকাংশ prompt-based safety failure পরিস্থিতিনির্ভর। একটি model একটি phrasing প্রতিরোধ করতে পারে, কিন্তু অন্য phrasing-এ ব্যর্থ হতে পারে। Universal jailbreak আলাদা, কারণ এটি safety stack-এ আরও সাধারণ দুর্বলতার ইঙ্গিত দেয়। যদি একটি reusable prompt নতুন conversation থেকে বহু বিপজ্জনক prompt-এ protective behavior bypass করতে পারে, তাহলে vulnerability-র গুরুত্ব অনেক বেড়ে যায়।

OpenAI পাঁচ প্রশ্নের bio safety test-এর উপর challenge-কেন্দ্রিক করে threshold-based approach গ্রহণ করেছে: কোম্পানি বিচ্ছিন্ন edge case-এর চেয়ে এমন systematic failure-এ বেশি আগ্রহী, যা model-এর biology defenses-এর উপর আস্থা নষ্ট করবে। ছড়ানো উদাহরণের বদলে universal method-কে পুরস্কৃত করে, এটি red-teamers-দের সামগ্রিক alignment layer-এর integrity পরীক্ষা করতে বলছে।

পুরস্কারের পরিমাণও অগ্রাধিকারের ইঙ্গিত দেয়। $25,000 প্রধান software vulnerability program-এর তুলনায় ছোট, তবে AI security এবং biosecurity বিশেষজ্ঞদের আকৃষ্ট করার জন্য যথেষ্ট। আরও গুরুত্বপূর্ণ, এটি স্পষ্ট করে যে নিয়ন্ত্রিত পরিস্থিতিতে তার safeguards ভেঙে ফেলা যায়—এমন প্রমাণের জন্য OpenAI অর্থ দিতে প্রস্তুত, সেই দুর্বলতাগুলো অন্যত্র শোষণ হওয়ার আগেই।

একটি নির্বাচিত, উচ্চ-আস্থার প্রক্রিয়া

এই program পুরোপুরি উন্মুক্ত নয়। দেওয়া source অনুযায়ী, OpenAI trusted bio red-teamers-এর vetted list-কে আমন্ত্রণ জানাবে এবং AI red teaming, security বা biosecurity অভিজ্ঞতা থাকা গবেষকদের নতুন আবেদন পর্যালোচনা করবে। গ্রহণযোগ্য অংশগ্রহণকারী ও সহযোগীদের অবশ্যই বিদ্যমান ChatGPT account থাকতে হবে এবং nondisclosure agreement-এ সই করতে হবে। সব prompt, completion, finding এবং communication NDA-এর আওতায় থাকবে।

এই controlled-access design বিষয়টির সংবেদনশীলতা প্রতিফলিত করে। জীববৈজ্ঞানিক অপব্যবহার গবেষণা একটি অদ্ভুত অবস্থানে আছে: systems-কে stress-test করতে হবে, কিন্তু adversarial methods-এর বিস্তৃত public প্রকাশ অতিরিক্ত ঝুঁকি তৈরি করতে পারে। NDA requirement দেখায় OpenAI বাহ্যিক তদারকি ও operational containment-এর মধ্যে ভারসাম্য আনার চেষ্টা করছে।

এই setup frontier AI governance-এ আরও বড় পরিবর্তনও নির্দেশ করে। High-risk capability domains increasingly trusted-access models-এর মাধ্যমে পরিচালিত হচ্ছে, পুরোপুরি open competitions-এর মাধ্যমে নয়। এই পদ্ধতি বাহ্যিক দৃশ্যমানতা সীমিত করে, তবে পূর্ণ public challenge-এর তুলনায় আরও বাস্তবসম্মত adversarial testing-ও সম্ভব করে।

Frontier-model safety সম্পর্কে program কী বলে

GPT-5.5 Bio Bug Bounty দেখায় AI কোম্পানিগুলো advanced systems-এর জন্য আরও বিশেষায়িত safety validation-এর দিকে যাচ্ছে। General-purpose red teaming এখনো গুরুত্বপূর্ণ, কিন্তু সর্বোচ্চ ঝুঁকির ক্ষেত্রগুলোতে domain-specific expertise প্রয়োজন হয়। Biology একটি বিশেষভাবে গুরুত্বপূর্ণ ক্ষেত্র, কারণ বৈধ scientific assistance এবং সম্ভাব্য বিপজ্জনক তথ্যের সীমারেখা বড় পরিসরে পরিচালনা করা কঠিন।

Universal jailbreak-এ challenge সীমিত করে OpenAI robustness সম্পর্কে একটি কঠিন প্রশ্ন তুলছে: prompt-based methods একাই ব্যবহার করা, দৃঢ়, বিশেষজ্ঞ adversary-এর বিরুদ্ধে তার safeguards কি টিকে থাকতে পারে? এটি সাধারণ ব্যবহারকারীরা মাঝে মাঝে model-কে বিভ্রান্ত করতে পারে কি না, সে প্রশ্নের চেয়ে বেশি কঠিন। এটি পরীক্ষা করছে defenses পুনরাবৃত্তিযোগ্য ও স্কেলযোগ্যভাবে ব্যর্থ হয় কি না।

কোম্পানির ভাষাও ইঙ্গিত দেয়, এই program bug bounties এবং safety work-এর একটি বৃহত্তর architecture-এর অংশ। source text অংশগ্রহণকারীদের OpenAI-এর পৃথক safety and security bounty program-এর দিকে নির্দেশ করছে, যা এককালীন exercise-এর বদলে layered model of evaluation বোঝায়।

এটি কী প্রকাশ করে না

একইসঙ্গে, ঘোষণাটি কিছু বিষয় ইচ্ছাকৃতভাবে অস্পষ্ট রেখেছে। যেহেতু challenge NDA-এর আওতায়, বাইরের পর্যবেক্ষকেরা স্বয়ংক্রিয়ভাবে জানতে পারবেন না কোন prompt পরীক্ষা করা হয়েছে, কোন completion পাওয়া গেছে, বা সফল jailbreak-এর সঠিক প্রকৃতি কী ছিল। এতে transparency কমে, যদিও এমন ক্ষেত্রে প্রকাশনাই ঝুঁকি তৈরি করতে পারে বলে তা অনিবার্য হতে পারে।

Codex Desktop-এ ফোকাস scope-কে আরও সংকুচিত করে। একটি model-এর safety posture product, interface এবং deployment constraint অনুযায়ী বদলাতে পারে। এক environment-এ সাফল্য বা ব্যর্থতা সব environment-কে বর্ণনা করে না। তবু, দেওয়া source স্পষ্টভাবে দেখায়, কোম্পানি অন্তত একটি real product context-এ GPT-5.5-এর biology safeguards-কে adversarial pressure-এর মুখে ফেলছে।

AI safety-এর একটি ব্যবহারিক মোড়

এই bug bounty-র বড় তাৎপর্য হলো এটি model safety-কে এমন কিছু হিসেবে দেখছে, যাকে operationalভাবে পরীক্ষা করতে হবে, কেবল system cards বা policy statements-এ বর্ণনা করলেই চলবে না। সেই অর্থে, programটি safeguard-এর marketing নয়; বরং যথেষ্ট সংকীর্ণ নিয়মের মধ্যে expert-দের সেটি ভাঙার প্রচেষ্টা আমন্ত্রণ জানানো।

OpenAI-এর defenses টিকে থাকবে কি না, সেটি আলাদা প্রশ্ন। ইতিমধ্যে যা স্পষ্ট, তা হলো company biology-related misuse-কে paid, targeted external attack-এর উপযুক্ত গুরুত্বপূর্ণ বিষয় হিসেবে দেখছে। এটি নিজেই একটি উল্লেখযোগ্য উন্নয়ন। Frontier AI systems যত বেশি সক্ষম হবে, safety claims-এর credibility তত বেশি এমন adversarial testing program-এর উপর নির্ভর করবে, যেখানে মানদণ্ড হলো policy আছে কি না তা নয়, বরং তা তাদের মুখোমুখি হওয়া লোকদের বিরুদ্ধে টিকে থাকে কি না।

এই নিবন্ধটি OpenAI-এর রিপোর্টিংয়ের ভিত্তিতে লেখা হয়েছে। মূল নিবন্ধটি পড়ুন.