স্কুলে হামলার পর US টার্গেটিং সিস্টেমে নজরদারি তীব্র

AI যুগের সামরিক প্রক্রিয়া এবং পুরোনো অবকাঠামো

ইরানে একটি স্কুলে ক্ষেপণাস্ত্র হামলার একটি প্রতিবেদন US সামরিক বাহিনীর টার্গেটিং সিস্টেমগুলি কি কৃত্রিম বুদ্ধিমত্তা যুদ্ধ-পরিকল্পনায় আরও বড় ভূমিকা নেওয়ার সঙ্গে সঙ্গে নিরাপদভাবে বিকশিত হচ্ছে কি না, সে প্রশ্নগুলিকে আরও তীব্র করেছে। সরবরাহকৃত উৎস পাঠ্য অনুযায়ী, তদন্তকারীরা দেখেছেন যে স্থাপনাটিকে একটি প্রাথমিক স্কুল হিসেবে চিহ্নিত করা একটি গুরুত্বপূর্ণ নোট কমান্ডারদের কাছে পৌঁছায়নি, কারণ সংশ্লিষ্ট ইন্টেলিজেন্স টুলটি অফিসিয়াল টার্গেটিং ডাটাবেসের সঙ্গে সংযুক্ত ছিল না।

উৎসে ঘটনাটিকে কেবল একটি সাধারণ সফটওয়্যার বাগ হিসেবে উপস্থাপন করা হয়নি। এটিকে একাধিক স্তরে ভাঙনের ফল হিসেবে দেখানো হয়েছে: পুরোনো ইমেজারি, সাইলোভুক্ত ইন্টেলিজেন্স সিস্টেম, ম্যানুয়াল ডেটা হ্যান্ডলিং, এবং সিদ্ধান্ত-শৃঙ্খলে AI টুলগুলির দ্রুত অপারেশনাল ব্যবহার, যা এখনও অসম্পূর্ণ রেকর্ডের ওপর নির্ভরশীল। এর ফলে সৃষ্ট টানাপোড়েন উপেক্ষা করা কঠিন। AI দ্রুত লক্ষ্য প্রস্তাব করতে পারে, কিন্তু ভাঙা উৎস ডেটা বা পরস্পর-অসংযুক্ত ডাটাবেসের ক্ষতিপূরণ করতে পারে না।

মামলার কেন্দ্রে হারিয়ে যাওয়া নোট

সরবরাহকৃত উপাদানে সংক্ষেপিত বিবরণ অনুযায়ী, দক্ষিণ-পূর্ব ইরানের মিনাব শহরের ওই স্থানটি আগে US-এর কাছে একটি ইরানি সামরিক নৌঘাঁটি হিসেবে শ্রেণিবদ্ধ ছিল। তবে 2019 সালে, এক বিশ্লেষক নাকি এমন পরিবর্তন চিহ্নিত করেন যাতে দেখা যায়, ভবনটি একটি প্রাথমিক স্কুলে রূপান্তরিত হয়েছে। ওই টীকা একটি ডিজিটাল ইন্টেলিজেন্স টুলে প্রবেশ করানো হয়েছিল, কিন্তু সেটি সেই কর্তৃত্বপূর্ণ টার্গেট ডাটাবেসের সঙ্গে যুক্ত ছিল না, যা হামলার লক্ষ্য তৈরি করতে ব্যবহৃত হয়।

ফলে, আপডেট করা তথ্য কখনও সেই সিস্টেমে পৌঁছায়নি যার ওপর কমান্ডাররা নির্ভর করছিলেন। উৎস পাঠ্য অনুযায়ী, ভবনটি বহুবার পর্যালোচনা করা হয়েছিল, কিন্তু ডাটাবেস সংশোধন করা হয়নি। একই উপাদানে বলা হয়েছে, পর্যালোচনায় ব্যবহৃত ইমেজারি ছিল সাত বছরের পুরোনো। সব মিলিয়ে, এগুলো একটি মৌলিক ডেটা-শাসন ব্যর্থতার ইঙ্গিত দেয়: তথ্য ছিল, কিন্তু প্রক্রিয়াটি নিশ্চিত করেনি যে সেটি সেই সিস্টেমে পৌঁছাতে পারবে যেখানে এর সবচেয়ে বেশি দরকার ছিল।

এর পরিণতি ছিল বিপর্যয়কর। উৎস বলছে, ফেব্রুয়ারির শেষের সেই হামলায় আনুমানিক 120 শিশু নিহত হয়। তদন্তকারীরা ইতিমধ্যেই US বাহিনীকে সম্ভাব্য দায়ী বলে মনে করেছিলেন, এবং সরবরাহকৃত পাঠ্যে বর্ণিত পরবর্তী প্রতিবেদনগুলো সেই সিদ্ধান্তকে নির্দিষ্ট প্রযুক্তিগত ও প্রক্রিয়াগত ব্যর্থতার সঙ্গে যুক্ত করেছে।

AI-এর ভূমিকা: প্রসঙ্গের নিশ্চয়তা ছাড়া মাত্রা

একই সংঘাতে US সামরিক বাহিনী AI-সহায়িত টার্গেটিং ব্যাপকভাবে ব্যবহার করছিল বলে প্রতিবেদন থাকায় এই মামলা বিশেষভাবে সংবেদনশীল এক সময়ে এসেছে। উৎস পাঠ্য বলছে, Anthropic-এর Claude মডেল Palantir-এর Maven Smart System-এ এম্বেড করা হয়েছিল এবং প্রথম দিনে প্রায় 1,000টি লক্ষ্য প্রস্তাব করেছিল। এতে আরও আগের প্রতিবেদন উদ্ধৃত করা হয়েছে যে অভিযান শুরুর প্রথম কয়েক দিনে 3,000-এর বেশি লক্ষ্যে আঘাত করা হয়েছিল।

এই সংখ্যাগুলোর গুরুত্ব প্রযুক্তিগত জটিলতার পরিমাপ হিসেবে কম, আর গতি বোঝার পরিমাপ হিসেবে বেশি। সেই মাত্রায়, অন্তর্নিহিত ডেটা পরিবেশের যেকোনো দুর্বলতা আরও বিপজ্জনক হয়ে ওঠে। AI ট্রায়াজ, র‌্যাঙ্কিং, এবং সুপারিশকে দ্রুত করতে পারে। কিন্তু এটি system of record-এ কখনও আপডেট না হওয়া রেকর্ড নির্ভরযোগ্যভাবে সংশোধন করতে পারে না, অথবা একে অপরের সঙ্গে যোগাযোগ না করা ডাটাবেসে লুকিয়ে থাকা বিরোধ মেটাতে পারে না।

এই পার্থক্যটাই নীতিগত সমস্যাটি বোঝার জন্য অপরিহার্য। সামরিক AI নিয়ে জনপর্যায়ের বিতর্ক অনেক সময় এই প্রশ্নে কেন্দ্রীভূত হয় যে, কোনো মডেলকে প্রাণঘাতী লক্ষ্য সুপারিশ বা অগ্রাধিকার দিতে দেওয়া উচিত কি না। এই ঘটনা একটি নীরব কিন্তু সমান গুরুত্বপূর্ণ বিষয় তুলে ধরে: একটি কঠোরভাবে তত্ত্বাবধানে থাকা মডেলও অসম্পূর্ণ, পুরোনো, বা কাঠামোগতভাবে খণ্ডিত তথ্যের ওপর কাজ করলে খারাপ ফলাফলে অবদান রাখতে পারে।

পুরোনো সিস্টেমের বোঝা

সরবরাহকৃত উৎস পাঠ্য একটি কেন্দ্রীয় ডাটাবেস MIDB-এর কথা বলছে, যা 1980-এর দশকে তৈরি এবং এখনও ব্যাপকভাবে ম্যানুয়াল ইনপুটের ওপর নির্ভরশীল। এতে বলা হয়েছে MIDB-কে MARS নামের একটি স্বয়ংক্রিয় সিস্টেম দিয়ে প্রতিস্থাপন করা হওয়ার কথা, কিন্তু সেই রূপান্তর বছরের পর বছর পিছিয়ে আছে। একই উপাদান অনুযায়ী, Government Accountability Office 2020 সালে ইতিমধ্যেই দীর্ঘদিনের ত্রুটি চিহ্নিত করেছিল।

এই স্থাপত্যটি ব্যাখ্যা করে কেন সমস্যা একটি হারিয়ে যাওয়া নোটের চেয়ে বড়। একটি সামরিক সংস্থা তার ওয়ার্কফ্লোর কিছু অংশে উন্নত machine learning স্থাপন করতে পারে, অথচ এখনও এমন একটি মূল ডেটা ব্যাকবোনের ওপর নির্ভর করতে পারে যা ভিন্ন যুগের জন্য তৈরি। সেই পরিবেশে, AI বাস্তব সিস্টেম পুনর্নকশার বদলে প্রাতিষ্ঠানিক খণ্ডিততার ওপর একটি আবরণে পরিণত হয়।

ঝুঁকিটি হলো, অপারেটররা এই প্রক্রিয়াকে বাস্তবের চেয়ে বেশি আধুনিক, সমন্বিত, এবং নির্ভরযোগ্য বলে ভাবতে পারেন। একটি উচ্চপ্রোফাইল কমান্ড প্ল্যাটফর্মে এম্বেড করা মডেল প্রযুক্তিগত সামঞ্জস্যের ধারণা তৈরি করতে পারে, যদিও নির্ধারক ডেটা এখনও ভঙ্গুর, আংশিক ম্যানুয়াল পাইপলাইনের মধ্য দিয়ে প্রবাহিত হচ্ছে।

মানব পর্যালোচনা শুধু একটি স্লোগান নয়

উৎস পাঠ্য আরও জানায়, প্রাণঘাতী সিদ্ধান্তে মানব পর্যালোচনার জন্য নজরদারি ব্যবস্থাগুলো পর্যাপ্ত অর্থায়ন পায়নি। এটি গুরুত্বপূর্ণ, কারণ AI নীতি আলোচনায় “human in the loop” প্রায়ই যথেষ্ট সুরক্ষা হিসেবে ধরা হয়। বাস্তবে, মানব পর্যালোচনা তখনই কাজ করে যখন পর্যালোচনাকারীদের সময়, প্রসঙ্গ, এবং সঠিক ডেটার প্রবেশাধিকার থাকে। ডাটাবেস বিচ্ছিন্ন হলে, ইমেজারি পুরোনো হলে, এবং ওয়ার্কফ্লো গতি-নির্ভর হলে, মানব পর্যালোচনা অর্থবহ নিয়ন্ত্রণের বদলে একটি আনুষ্ঠানিক চেকপয়েন্টে পরিণত হতে পারে।

এই ঘটনা দেখায়, মানব বিচার সিস্টেম ডিজাইন থেকে আলাদা নয়। সিস্টেম যা দেখায় না, তা পর্যালোচনাকারী যাচাই করতে পারেন না। আর একটি আনলিংকড টুলে লুকানো স্কুল-নির্ধারণ একজন কমান্ডারও খুঁজে পেতে পারেন না। এখানে বর্ণিত মূল ব্যর্থতা মানুষের অনুপস্থিতি নয়, বরং মানব জ্ঞানকে কর্তৃত্বপূর্ণ টার্গেটিং প্রক্রিয়ায় পৌঁছানোর নির্ভরযোগ্য পথের অনুপস্থিতি।

এই ঘটনায় কী বদলায়

সবচেয়ে তাৎক্ষণিক প্রভাব সম্ভবত AI ব্যবহার করা উচিত কি না সেই সাধারণ বিতর্কের বদলে সামরিক ডেটা ইন্টিগ্রেশনের ওপর নতুন করে নজরদারি। সরবরাহকৃত উপাদান নিজেই সেই সিদ্ধান্তের দিকে ইঙ্গিত করে, কারণ এতে এমন সিস্টেমগুলোর ওপর জোর দেওয়া হয়েছে যেগুলো একে অপরের সঙ্গে কথা বলেনি। সেখানে উদ্ধৃত কিছু বিশেষজ্ঞ আশা করেন, আরও AI এবং ডিজিটাল সিস্টেমগুলোর মধ্যে ভালো সংযোগ ত্রুটি কমাতে পারে। সেটি সত্য হতে পারে, তবে কেবল তখনই যখন ইন্টিগ্রেশনকে অনুমান নয়, অগ্রাধিকার হিসেবে ধরা হয়।

প্রতিরক্ষায় AI-কে কার্যকর করতে দৌড়ানো সরকারগুলোর জন্য আরও গভীর পাঠও আছে। সবচেয়ে গুরুতর ব্যর্থতা frontier-model আচরণ থেকে নয়, বরং সাধারণ প্রাতিষ্ঠানিক অবহেলা থেকে আসতে পারে: পুরোনো ডাটাবেস, বিলম্বিত আধুনিকায়ন, অসম্পূর্ণ মাইগ্রেশন পরিকল্পনা, এবং এমন প্রণোদনা যা যাচাইয়ের চেয়ে throughput-কে পুরস্কৃত করে। AI এই দুর্বলতাগুলোকে আরও বড় করতে পারে, কারণ এটি লক্ষ্য মনোনয়নগুলোর সিস্টেমে অগ্রগতির গতি বাড়ায়।

সামরিক পরিকল্পনাকারী এবং নীতিনির্ধারকদের জন্য এর অর্থ অস্বস্তিকর হলেও স্পষ্ট। AI-সহায়িত টার্গেটিং কোনো স্বতন্ত্র সক্ষমতা নয়। এটি তার নিচের ডেটা অবকাঠামোর শক্তি ও ব্যর্থতা দুটিই উত্তরাধিকারসূত্রে পায়। যদি সেই অবকাঠামো মাঠ পর্যায়ের আপডেট নির্ভরযোগ্যভাবে গ্রহণ করতে, ইন্টেলিজেন্স উৎস মিলিয়ে নিতে, এবং পর্যালোচনা চক্র জুড়ে পরিবর্তন সংরক্ষণ করতে না পারে, তাহলে আরও অটোমেশন কেবল ভুলের পথে গতি বাড়াবে।

স্তরে স্তরে আধুনিকায়নের বিষয়ে সতর্কবার্তা

সরবরাহকৃত রিপোর্টে প্রতিফলিত স্কুল-হামলার তদন্ত, একটি মডেলের বিরুদ্ধে অভিযোগের চেয়ে বেশি, স্তরে স্তরে আধুনিকায়নের বিরুদ্ধে সতর্কবার্তার মতো পড়া যায়। নতুন AI টুলগুলো এমন একটি প্রক্রিয়ায় যুক্ত করা হয়েছিল যা এখনও পুরোনো সিস্টেম এবং ম্যানুয়াল ওয়ার্কফ্লোর ওপর নির্ভরশীল। এর ফল ছিল নির্বিঘ্ন উন্নয়ন নয়, বরং গণনাগত গতি এবং প্রাতিষ্ঠানিক স্মৃতির মধ্যে একটি বিপজ্জনক অসামঞ্জস্য।

এই অসামঞ্জস্য সম্ভবত এই একটি ঘটনার অনেক বাইরে ভবিষ্যৎ বিতর্ককে আকার দেবে। প্রতিরক্ষা, স্বাস্থ্যসেবা, বা গুরুত্বপূর্ণ অবকাঠামো যাই হোক না কেন, উচ্চ-ঝুঁকির পরিবেশে AI মোতায়েনকারী সংস্থাগুলোর সামনে একই মৌলিক প্রশ্ন থাকে: মডেলটি কি সত্যিই এমন একটি সিস্টেমে যোগ করা হচ্ছে যা সেটিকে সমর্থন করার জন্য প্রস্তুত? এই ক্ষেত্রে, উৎস পাঠ্যে উপস্থাপিত প্রমাণ বলছে উত্তর ছিল না, এবং সেই ব্যবধানের মূল্য চুকাতে হয়েছে অসামরিক প্রাণ দিয়ে।

এই নিবন্ধটি The Decoder-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধটি পড়ুন.