AI নিরাপত্তায় নিয়ন্ত্রণকে অগ্রাধিকার দেওয়ার দৃষ্টিভঙ্গি তুলে ধরলেন Microsoft CEO
Microsoft-এর CEO সত্য নাদেলা বলেছেন, উন্নত AI সিস্টেম এমন ধারণার ভিত্তিতে তৈরি করা উচিত যে সেগুলো আপসকৃত হতে পারে। সিস্টেম চালু থাকা অবস্থায় একজন যোগ্য মানুষ যেন সেগুলো থামাতে বা বন্ধ করতে পারেন, সেই সক্ষমতা থাকা দরকার।
X-এ প্রকাশিত একটি দীর্ঘ পোস্টে নাদেলা এমন এক ভবিষ্যতের কথা বলেছেন, যেখানে AI-কে এমন কিছু অস্বচ্ছ সিস্টেমের সমষ্টি হিসেবে দেখা যাবে না, যাদের সুপারিশ ও কর্মকাণ্ড মানুষ শুধু গ্রহণ বা প্রত্যাখ্যান করে। এর পরিবর্তে, তিনি এমন আরও স্বচ্ছ সিস্টেমের আহ্বান জানিয়েছেন, যেগুলো পর্যবেক্ষণ ও নিয়ন্ত্রণ করা যায় এবং যা কী ঘটেছে তার ছ tamper-proof, মানব-পাঠযোগ্য প্রমাণ রেখে যায়।
তাঁর বক্তব্য অত্যন্ত সক্ষম মডেল নিয়ে চলমান আলোচনার কেন্দ্রে কার্যকরী নিয়ন্ত্রণ ও অডিটযোগ্যতাকে স্থান দেয়। একই সঙ্গে, AI নিরাপত্তাকে কোনো মডেলের অভিপ্রেত আচরণের ওপর আস্থা রাখার প্রশ্ন হিসেবে না দেখে এমন সিস্টেম তৈরির প্রশ্ন হিসেবে তুলে ধরে, যেখানে সেই আস্থা ভুল প্রমাণিত হলেও নিয়ন্ত্রণ বজায় থাকে।
শুরু থেকেই নিয়ন্ত্রণ
নাদেলার সবচেয়ে সরাসরি প্রস্তাব হলো, নিয়ন্ত্রণকে ব্যতিক্রমী সুরক্ষা ব্যবস্থা নয়, বরং একটি মৌলিক শর্ত হিসেবে বিবেচনা করা। তিনি এই ধারণার তুলনা করেছেন জরুরি ব্রেকের সঙ্গে: অনুমোদিত একজন ব্যক্তি যেন কোনো কাজের মাঝপথে একটি মডেলকে বাধা দিতে বা থামাতে পারেন।
মডেলগুলো দীর্ঘমেয়াদি বা বেশি গুরুত্বপূর্ণ কাজে ব্যবহৃত হলে এই নীতিটি সবচেয়ে বেশি গুরুত্বপূর্ণ হয়ে ওঠে। যে সিস্টেম পদক্ষেপ নিতে, টুল ব্যবহার করতে বা বহু-ধাপের কাজ চালিয়ে যেতে পারে, তা এমন ঝুঁকি তৈরি করতে পারে যার মোকাবিলা ফলাফল ঘটে যাওয়ার পর কঠিন হয়ে পড়ে। কাজ চলাকালীন মানবিক হস্তক্ষেপ বজায় রাখাই পজ বা শাটডাউন ব্যবস্থার উদ্দেশ্য।
নাদেলা আরও বলেছেন, উন্নততর সিস্টেমের জন্য উন্নততর নিয়ন্ত্রণ প্রযুক্তি প্রয়োজন হবে এবং সেই প্রযুক্তিগুলোর মান নির্ধারণ করা উচিত। বিবৃতিতে কোনো নির্দিষ্ট প্রযুক্তিগত নকশা উল্লেখ করা হয়নি, তবে এটি একটি বৃহত্তর প্রত্যাশার দিকে ইঙ্গিত করে: প্রতিটি মডেল বা ডিপ্লয়মেন্টের জন্য নিরাপত্তা নিয়ন্ত্রণ আলাদাভাবে তাৎক্ষণিকভাবে তৈরি করা উচিত নয়।
স্বচ্ছতা, প্রমাণ এবং বাইরের নজরদারি
Microsoft নেতার সুপারিশগুলো AI শাসনব্যবস্থা নিয়ে চলমান বিতর্কে ইতিমধ্যে গুরুত্বপূর্ণ হয়ে ওঠা ধারণাগুলোর সঙ্গে মিলে যায়। এর মধ্যে রয়েছে সময়মতো ঘটনা প্রকাশ, স্বাধীন অডিট, যাচাইযোগ্য ডেটা এবং প্রযুক্তিগত নিয়ন্ত্রণ।
সমষ্টিগতভাবে, এই পদক্ষেপগুলো জবাবদিহিতার সমস্যার বিভিন্ন দিক মোকাবিলা করে। ঘটনা প্রকাশ ব্যবহারকারী, ডেভেলপার এবং নিয়ন্ত্রকদের ব্যর্থতা সম্পর্কে সতর্ক করতে পারে। স্বাধীন অডিট AI ডেভেলপারদের করা দাবিগুলো পরীক্ষা করতে পারে। যাচাইযোগ্য ডেটা কোনো সিস্টেমের আউটপুট বা কর্মকাণ্ডের ভিত্তি খতিয়ে দেখা সহজ করতে পারে। কোনো সিস্টেম অপ্রত্যাশিত আচরণ করলে বা অপব্যবহার হলে ক্ষতি সীমিত করার উপায় দেয় নিয়ন্ত্রণ।
ছ tamper-proof, মানব-পাঠযোগ্য প্রমাণের ওপর নাদেলার জোর বিশেষভাবে উল্লেখযোগ্য, কারণ এটি প্রযুক্তিগত সুরক্ষার সঙ্গে বাস্তব নজরদারিকে যুক্ত করে। শুধু প্রমাণ থাকা যথেষ্ট নয়; কোনো সিস্টেম কী করেছে এবং সিদ্ধান্ত কেন নেওয়া হয়েছে তা নির্ধারণের সময় মানুষ যেন তা পরীক্ষা করতে পারে, এমন রূপে প্রমাণটি উপলভ্য থাকতে হবে।
গ্রহণযোগ্যতা থেকে নিয়ন্ত্রণের দিকে পরিবর্তন
মূল যুক্তিটি হলো, উন্নত AI উপকারী হতে পারে বলেই তাকে ব্ল্যাক বক্স হিসেবে মেনে নেওয়া উচিত নয়। নাদেলার বক্তব্য ইঙ্গিত করে, গুরুত্বপূর্ণ সিদ্ধান্তে প্রভাব ফেলতে পারে বা জটিল পরিবেশে কাজ করতে পারে—এমন সিস্টেমের ক্ষেত্রে শুধু নির্ভরযোগ্যতার দাবি যথেষ্ট নয়।
এর বদলে, গুরুত্ব দেওয়া হচ্ছে মডেলকে ঘিরে থাকা শর্তগুলোর ওপর: তাকে পর্যবেক্ষণ করা যায় কি না, তার কার্যকলাপ নথিভুক্ত করা যায় কি না, বাইরের পক্ষগুলো তাকে মূল্যায়ন করতে পারে কি না এবং উপযুক্ত ক্ষমতাসম্পন্ন কোনো ব্যক্তি তাকে থামাতে পারেন কি না। এই পদ্ধতি সক্ষম মডেল তৈরি করার চ্যালেঞ্জ দূর করে না, তবে নিয়ন্ত্রণের বৈশিষ্ট্যকে ডিপ্লয়যোগ্য সিস্টেমের সংজ্ঞার অংশ করে।
নাদেলা বারবার “super intelligence”-এর সম্ভাবনার কথা বলেছেন, যা তাঁর হস্তক্ষেপের উচ্চ-ঝুঁকির প্রেক্ষাপটকে প্রতিফলিত করে। তবে তাঁর নির্দিষ্ট সুপারিশগুলো বর্তমান সময়ের শাসনব্যবস্থার সিদ্ধান্ত নিয়ে: অডিট, রিপোর্টিং, যাচাইযোগ্যতা এবং মানবিক হস্তক্ষেপের ব্যবস্থা।
প্রস্তাবটির অর্থ
এই প্রস্তাব সম্পূর্ণ কোনো প্রযুক্তিগত বা নিয়ন্ত্রক নকশা নয়। তবে কোনো সিস্টেম কাজে লাগানোর আগে আপস, ব্যর্থতা বা অপব্যবহারের জন্য পরিকল্পনা করতে AI ডেভেলপার ও ব্যবহারকারীদের প্রতি এটি স্পষ্ট আহ্বান।
AI গ্রহণকারী প্রতিষ্ঠানগুলোর জন্য ব্যবহারিক অর্থটি সরল: সিস্টেম পর্যবেক্ষণ করা যায় কি না, কার্যকলাপ পরিদর্শনযোগ্যভাবে রেকর্ড হয় কি না, কারা হস্তক্ষেপের অনুমতি পায় এবং হস্তক্ষেপ যথেষ্ট দ্রুত করা যায় কি না—তা মূল্যায়ন করতে হবে। AI সিস্টেম আরও সক্ষম হয়ে উঠলে, এই প্রশ্নগুলো নিরাপত্তা চেকলিস্ট থেকে ব্যবহারের মৌলিক শর্তে পরিণত হতে পারে।
এই নিবন্ধটি The Verge-এর প্রতিবেদনের ভিত্তিতে তৈরি। মূল নিবন্ধটি পড়ুন।
Originally published on theverge.com