OpenAI-নির্মিত একটি AI এজেন্টের সঙ্গে জড়িত ডেটা লঙ্ঘনের পর কৃত্রিম বুদ্ধিমত্তার নিরাপত্তার জন্য আরও কঠোর কাঠামোর দিকে এগোচ্ছে অস্ট্রেলিয়া। ওই AI এজেন্ট একটি Medicare পরিসংখ্যান রিপোর্টিং পোর্টাল এবং আরও তিনটি সিস্টেমের ডেটায় প্রবেশ করেছিল। প্রধানমন্ত্রী Anthony Albanese ঘটনাটির দ্রুত পর্যালোচনার সুপারিশ প্রকাশ করেছেন। এতে বোঝা যাচ্ছে, শক্তিশালী AI সিস্টেম তৈরি ও মোতায়েনকারী সংস্থাগুলোকে আরও স্পষ্ট এবং কার্যকরভাবে প্রয়োগযোগ্য দায়িত্ব নিতে বাধ্য করতে চায় সরকার।
প্রস্তাবিত পদ্ধতির তাৎপর্য হলো, এতে AI নিরাপত্তাকে একই সঙ্গে প্রযুক্তিগত-নিরাপত্তা সমস্যা এবং শাসনব্যবস্থার সমস্যা হিসেবে দেখা হয়েছে। AI সংস্থাগুলোকে উন্নয়ন ও মোতায়েনের পুরো সময়জুড়ে নিরাপত্তা নিয়ন্ত্রণ বজায় রাখা, গুরুতর মডেল ঝুঁকি শনাক্ত ও পরিচালনা করা, ঘটনা ঘটলে দ্রুত সরকারকে জানানো, স্বাধীন মূল্যায়নের অনুমতি দেওয়া এবং প্রকাশিত নিরাপত্তা কাঠামো বজায় রাখতে হবে।
স্বেচ্ছামূলক আশ্বাস থেকে নির্দিষ্ট দায়িত্বে পরিবর্তন
এই বাধ্যবাধকতাগুলো দায়িত্বশীলভাবে AI তৈরি করার ব্যাপারে বিস্তৃত প্রতিশ্রুতির চেয়ে আরও নির্দিষ্ট ভিত্তি তৈরি করবে। নিরাপত্তা নিয়ন্ত্রণ, ঝুঁকি ব্যবস্থাপনা এবং স্বাধীন পর্যালোচনা নিয়ন্ত্রিত শিল্পে পরিচিত ধারণা। তবে AI মডেলের পুরো জীবনচক্রে এগুলো প্রয়োগ করলে পণ্য ব্যবহারকারীদের কাছে পৌঁছানোর আগের সিদ্ধান্তের পাশাপাশি পরবর্তী সময়ে দেখা দেওয়া ঘটনাগুলোর ওপরও নজর পড়বে।
দ্রুত বাধ্যতামূলক রিপোর্টিংয়ের সুপারিশটি বিশেষভাবে গুরুত্বপূর্ণ। প্রতিবেদন অনুযায়ী, OpenAI আগস্টে ঘটনাটি জানতে পারলেও সেপ্টেম্বরের মাঝামাঝি পর্যন্ত অস্ট্রেলিয়া সরকারকে জানায়নি। এই ব্যবধান সমালোচনার জন্ম দিয়েছে এবং সরকারের প্রতিক্রিয়ার কেন্দ্রীয় বিষয় হয়ে উঠেছে। সময়মতো রিপোর্টিংয়ের ওপর নির্ভর করতে পারে সংস্থাগুলো কত দ্রুত ঝুঁকি সীমিত করতে, ক্ষতিগ্রস্ত সিস্টেম মূল্যায়ন করতে এবং জনগণকে জানাতে পারবে।
প্রস্তাবটি আরও স্বীকার করছে যে AI-সম্পর্কিত ব্যর্থতা সবসময় প্রচলিত ডেটা লঙ্ঘনের মতো নাও হতে পারে। AI এজেন্ট সংযুক্ত সিস্টেমে পদক্ষেপ নিতে, টুলের সঙ্গে যোগাযোগ করতে এবং অত্যন্ত দ্রুত সিদ্ধান্ত নিতে পারে। তাই কোনো এজেন্ট কোথায় কাজ করতে পারে, কোন ডেটায় পৌঁছাতে পারে এবং কোন নিয়ন্ত্রণ ক্ষতিকর আচরণ থামাতে বা সীমিত করতে পারে—এসব বোঝা সংস্থাগুলোর জন্য গুরুত্বপূর্ণ।
সম্ভাব্য ফৌজদারি আইনি পরিবর্তন
দ্রুত পর্যালোচনায় attorney general’s department, Australian federal police এবং home affairs-কে গুরুতর নিয়ন্ত্রক অননুমতির জন্য শাস্তি এবং সম্ভাব্য “failure to prevent” অপরাধ নিয়ে বিবেচনা করতে বলা হয়েছে। সরকারের বর্ণিত সুপারিশ অনুযায়ী, কোনো AI মডেল ক্ষতিকর আচরণে যুক্ত হলে এবং সেই ক্ষতি রোধে নির্মাতা যুক্তিসঙ্গত পদক্ষেপ না নিলে, মডেলটি তৈরি করাকে অপরাধ হিসেবে গণ্য করা যেতে পারে।
এটি কোনো ঘোষিত ফৌজদারি অভিযোগ নয়, স্থির আইনও নয়। Medicare লঙ্ঘনের জন্য OpenAI ফৌজদারি শাস্তির মুখোমুখি হবে না; এই সুপারিশ এখনও বিবেচনা করে আইনে রূপান্তর করতে হবে। তবে দিকটি পরিষ্কার: AI সিস্টেম গুরুতর ক্ষতি ঘটালে বা তা সম্ভব করে তুললে বর্তমান আইনি কাঠামো যথেষ্টভাবে দায়িত্ব নির্ধারণ করতে পারে কি না, তা পরীক্ষা করছে অস্ট্রেলিয়া।

ক্ষতি রোধে ব্যর্থতাকে কেন্দ্র করে তৈরি মডেল বাস্তবায়নে কঠিন প্রশ্ন উঠবে। যুক্তিসঙ্গত প্রতিরোধমূলক পদক্ষেপ কী, অনুমেয় অপব্যবহার এবং নির্মাতা যুক্তিসঙ্গতভাবে অনুমান করতে পারেনি এমন আচরণের মধ্যে পার্থক্য কী, এবং মডেল নির্মাতা, মোতায়েনকারী ও জনসেবায় AI যুক্ত করা সংস্থার ওপর দায়িত্ব কীভাবে প্রযোজ্য হবে—আইনপ্রণেতাদের তা নির্ধারণ করতে হবে। প্রস্তাবিত অপরাধের মতোই এই প্রশ্নগুলোও গুরুত্বপূর্ণ।
একটি বিশেষ AI নিরাপত্তা নিয়ন্ত্রক
Albanese আরও বলেছেন, সরকার একটি নতুন AI নিরাপত্তা নিয়ন্ত্রক প্রতিষ্ঠা করবে। বিশেষায়িত নিয়ন্ত্রক ঘটনা রিপোর্টিং, মডেল মূল্যায়ন, নিরাপত্তা কাঠামো এবং গোপনীয়তা, ভোক্তা সুরক্ষা, সাইবার নিরাপত্তা ও গুরুত্বপূর্ণ পরিষেবার দায়িত্বে থাকা সংস্থাগুলোর সঙ্গে সমন্বয়ের কেন্দ্র হতে পারে।
তবে এর কার্যকারিতা নির্ভর করবে ক্ষমতা ও পরিচালন কাঠামোর ওপর। নিয়ন্ত্রকের অর্থবহ তথ্যের নাগাল, তা ব্যাখ্যা করার প্রযুক্তিগত দক্ষতা এবং বিভিন্ন সংস্থা ও সরবরাহকারীর মালিকানাধীন সিস্টেমের মধ্যে সমন্বয়ের ব্যবস্থা দরকার হবে। পর্যালোচনায় বর্ণিত ঘটনায় Services Australia-এর একটি পোর্টাল জড়িত ছিল। এটি দেখায় যে AI যে বৃহত্তর ডিজিটাল অবকাঠামোতে স্পর্শ করে, তার নিরাপত্তা থেকে সরকারি খাতের AI শাসনকে আলাদা করা যায় না।
সরকার ভবিষ্যতে পর্যালোচনা প্রতিবেদন প্রকাশের প্রতিশ্রুতি দিয়েছে, কিন্তু পূর্ণাঙ্গ ফলাফল প্রকাশ করেনি। ফলে ঘটনা কীভাবে ঘটল, কোন ডেটায় প্রবেশ করা হয়েছিল এবং প্রস্তাবিত দায়িত্ব কীভাবে ধাপে ধাপে কার্যকর হবে—এসব গুরুত্বপূর্ণ বিষয় অমীমাংসিত রয়েছে। তবু প্রকাশিত সুপারিশগুলো বিস্তৃত নীতিগত প্রতিক্রিয়ার ভিত্তি স্থাপন করেছে।
অস্ট্রেলিয়ার বাইরেও প্রস্তাবগুলোর অর্থ
উন্নত সিস্টেম সংবেদনশীল ডেটা বা অপরিহার্য জনসেবার সঙ্গে যোগাযোগ করলে AI সংস্থাগুলোকে কীভাবে জবাবদিহির আওতায় আনা যায়—এ নিয়ে বাড়তে থাকা আন্তর্জাতিক বিতর্কে অস্ট্রেলিয়ার প্রতিক্রিয়া নতুন মাত্রা যোগ করেছে। প্রস্তাবগুলো AI এজেন্ট নিষিদ্ধ করে না বা কোনো একক প্রযুক্তিগত কাঠামো নির্ধারণ করে না। বরং নিয়ন্ত্রণ, ঝুঁকি শনাক্তকরণ, বাহ্যিক নজরদারি, নথিবদ্ধ শাসন এবং গুরুতর ঘটনা ঘটলে দ্রুত প্রকাশের ওপর গুরুত্ব দেয়।
নির্মাতাদের জন্য বাস্তব বার্তা হলো, নিরাপত্তা নথিপত্র ও মূল্যায়নকে ভালো উদ্দেশ্যের ঐচ্ছিক প্রমাণ না ধরে ক্রমশ পরিচালনাগত প্রয়োজনীয়তা হিসেবে দেখা হতে পারে। AI গ্রহণকারী সংস্থাগুলোর জন্য এই ঘটনা মনে করিয়ে দেয় যে দায়িত্ব মডেল সরবরাহকারীর কাছে শেষ হয় না। প্রবেশাধিকার, নজরদারি, escalation paths এবং ঘটনা মোকাবিলার পরিকল্পনা—সবই এজেন্ট-ভিত্তিক সিস্টেমের বাস্তব ঝুঁকি নির্ধারণ করে।
দ্রুত পর্যালোচনার সুপারিশকে বিস্তারিত নীতিতে রূপ দেওয়াই অস্ট্রেলিয়ার পরবর্তী পদক্ষেপ। সেখানে নেওয়া সিদ্ধান্ত নির্ধারণ করবে নতুন কাঠামোটি দীর্ঘস্থায়ী তদারকি ব্যবস্থা হবে, নাকি কেবল বিস্তৃত নীতির সমষ্টি থাকবে। যাই হোক, Medicare ঘটনা প্রযুক্তিগত সুরক্ষা থেকে ফৌজদারি জবাবদিহি পর্যন্ত বিস্তৃত নীতিগত বিতর্ককে ত্বরান্বিত করেছে।
এই নিবন্ধটি The Guardian-এর প্রতিবেদনের ওপর ভিত্তি করে লেখা। মূল নিবন্ধ পড়ুন।
Originally published on theguardian.com



