এআই-এর ভুল তথ্যে মার্কিন সামরিক বাহিনী প্রায় চীনা জাহাজে উঠে পড়েছিল

২০২৬ সালের বসন্তে, মার্কিন সামরিক বাহিনী একটি চীনা জাহাজে ওঠার কয়েক মিনিটের মধ্যে পৌঁছে গিয়েছিল কারণ একটি এআই চ্যাটবট ভুলভাবে জাহাজটির পণ্যসম্ভারকে পারমাণবিক অস্ত্রের উপাদান হিসেবে চিহ্নিত করেছিল। সশস্ত্র সৈন্যরা অবস্থান নিয়েছিল এবং বিমানগুলো ইতিমধ্যেই আকাশে ছিল যখন কেউ ত্রুটিটি ধরতে পারে, সিএনএন-এর একটি এক্সক্লুসিভ প্রতিবেদন অনুসারে।

এই প্রায়-দুর্ঘটনাটি কোনো পরীক্ষাগারে, যুদ্ধ-অভ্যাসে বা রেড-টিম মহড়ায় ঘটেনি। এটি একটি বাস্তব গোয়েন্দা কার্যপ্রবাহের ভেতরে ঘটেছিল, যা একটি টুল দ্বারা চালিত হয়েছিল যার সাহায্যে একজন বিশ্লেষক ডেটা ব্যাখ্যা করতে সহায়তা চেয়েছিলেন — এবং এটি একটি মাত্র ধরার মাধ্যমে একটি মেশিনের ভুলকে আন্তর্জাতিক ঘটনায় পরিণত হওয়া থেকে রক্ষা পেয়েছিল।

কীভাবে একটি চ্যাটবট বাণিজ্যিক পণ্যসম্ভারকে পারমাণবিক হুমকিতে পরিণত করল

বিশ্লেষকটি মার্কিন স্পেশাল অপারেশন্স কমান্ডের অধীনে কাজ করতেন। সিএনএন-এর প্রতিবেদন অনুসারে, প্রশ্নবিদ্ধ টুলটি ওপেন-সোর্স ইন্টেলিজেন্সের সাথে সরকারি সিস্টেমে সংরক্ষিত গোপন সিগন্যালস ইন্টেলিজেন্স মিলিয়েছিল — এমন একটি মিশ্রণ যা চ্যাটবটের আউটপুটকে একটি চূড়ান্ত, কর্তৃত্বপূর্ণ মূল্যায়নের রূপ দিয়েছিল।

কিন্তু এটি যা উৎপাদন করেছিল তা ছিল একটি ভুল শনাক্তকরণ। পণ্যসম্ভারটি পারমাণবিক উপাদান ছিল না। কিন্তু ত্রুটিটি এমন একটি আকারে এসেছিল যা গোয়েন্দা তথ্যের মতো দেখাচ্ছিল: সূত্রযুক্ত, সংশ্লেষিত এবং একজন সিদ্ধান্ত-গ্রহণকারীর জন্য প্যাকেজ করা। সৈন্যদের সতর্ক করা হয়েছিল, বিমানগুলো উড্ডয়ন করানো হয়েছিল, এবং একটি জাহাজে ওঠার অভিযান কার্যকর হওয়ার প্রাক্কালে পৌঁছেছিল যখন একজন মানুষ বুঝতে পারেন যে অন্তর্নিহিত দাবিটি মিথ্যা।

এই ঘটনাটি একটি পাঠ্যপুস্তকীয় উদাহরণ যে কী ঘটে যখন একটি জেনারেটিভ সিস্টেম এমন শ্রেণিগুলো মিশিয়ে ফেলে যা আলাদা করার কোনো নির্ভরযোগ্য উপায় তার নেই: পাবলিক রিপোর্টিং, শ্রেণীবদ্ধ সিগন্যাল এবং অনুমান। আউটপুটটি মসৃণভাবে পড়া যায় কারণ সাবলীলতাই এই সিস্টেমগুলোকে অপ্টিমাইজ করা হয়েছে। বিশ্ব সম্পর্কে নির্ভুলতা সম্পূর্ণ আলাদা একটি সমস্যা।

কেন ভুলটি এত বিশ্বাসযোগ্য ছিল

সিএনএন-এর বিবরণ অনুসারে, বেশ কয়েকটি কারণ ত্রুটিটিকে আরও জটিল করে তুলেছিল বলে মনে হয়:

• মিশ্র সোর্সিং। চ্যাটবট ওপেন-সোর্স উপাদানের সাথে সরকারি সংগ্রহে থাকা গোপন সিগন্যালস ইন্টেলিজেন্স মিলিয়ে দিয়েছিল, যা বিশ্লেষকদের আলাদা রাখতে প্রশিক্ষণ দেওয়া হয় এমন সীমারেখাগুলো ঝাপসা করে দিয়েছিল।
• আত্মবিশ্বাসী উপস্থাপনা। মিথ্যা সংকেতটি একটি খোলা প্রশ্নের পরিবর্তে একটি সিদ্ধান্ত হিসেবে প্যাকেজ করা হয়েছিল, যা অনিশ্চয়তার কোনো দৃশ্যমান ইঙ্গিত রাখেনি।
• গতির চাপ। যে টুল বিশ্লেষণকে ত্বরান্বিত করে তা যে কোনো সিদ্ধান্তের দিকেই গতিবিধি ত্বরান্বিত করে, তা সঠিক হোক বা না হোক।
• সীমিত যাচাইকরণ। প্রতিবেদন অনুসারে, এআই-উৎপন্ন গোয়েন্দা তথ্য অপারেশনে যাওয়ার আগে যাচাই করার জন্য সামরিক বাহিনীজুড়ে কোনো অভিন্ন মানদণ্ড নেই।

যাচাইকরণের ভিত্তি ছাড়াই গ্রহণের চাপ

এই ঘটনাটি মার্কিন সামরিক বাহিনীজুড়ে এআই ব্যবহার সম্প্রসারণের একটি সচেতন প্রচেষ্টার মাঝখানে ঘটেছে। প্রতিরক্ষা সচিব পিট হেগসেথ একটি ত্বরণ কৌশল এগিয়ে নিচ্ছেন যার লক্ষ্য প্রতিরক্ষা কার্যপ্রবাহে এআই গ্রহণকে আরও গভীরে নিয়ে যাওয়া। উচ্চাকাঙ্ক্ষাটি সোজা: দ্রুততর বিশ্লেষণ, আরও ডেটা প্রক্রিয়াকরণ, সংক্ষিপ্ত সিদ্ধান্ত চক্র।

সিএনএন-এর প্রতিবেদন যা ইঙ্গিত করে তা হলো, সুরক্ষা-বেষ্টনীগুলো এই রোলআউটের সাথে তাল মেলাতে পারেনি। সূত্রগুলো ব্যবহারে থাকা অভ্যন্তরীণ সিস্টেমগুলোকে বেশিরভাগ ক্ষেত্রে বাণিজ্যিক পণ্যের "লিপস্টিক-লাগানো" সংস্করণ হিসেবে বর্ণনা করেছে — শ্রেণীবদ্ধ গোয়েন্দা কাজ এবং তার যাচাইকরণের প্রয়োজনীয়তার জন্য মাটি থেকে তৈরি সিস্টেমের পরিবর্তে সরকারি রঙের প্রলেপ দেওয়া বাণিজ্যিক টুল।

একই সূত্রগুলো টুলগুলোকে কীভাবে দেখা হয় তার একটি বিভাজনের দিকে ইঙ্গিত করেছে। তারা বলেছে, তরুণ বিশ্লেষকরা এআই আউটপুটকে প্রশ্ন না করে বিশ্বাস করার প্রবণতা রাখেন — যা একটি সার্চ ইঞ্জিনের ক্ষেত্রে যুক্তিসঙ্গত অভ্যাস যা লিঙ্ক ফেরত দেয়, এবং একটি বিপজ্জনক অভ্যাস যখন টুলটি এমন সিদ্ধান্ত ফেরত দেয় যা চূড়ান্ত গোয়েন্দা তথ্যের মতো পড়া যায়।

প্রকৃত ঝুঁকি হয়তো সাধারণ, অস্তিত্বগত নয়

এই প্রায়-জাহাজে-ওঠার ঘটনাটি জনসাধারণ্যে এআই ঝুঁকি নিয়ে সাধারণত যে বিতর্ক হয় তার বিপরীত। সবচেয়ে জোরালো Arguments সাধারণত সুপারইন্টেলিজেন্ট সিস্টেমের মানব নিয়ন্ত্রণ থেকে পালিয়ে যাওয়া নিয়ে। এই ঘটনাটি আরও সাধারণ কিছু নিয়ে: একটি ত্রুটিপূর্ণ টুল, সময়ের চাপে ব্যবহৃত, এমন মানুষদের দ্বারা যারা এর কথা বিশ্বাস করতে ঝুঁকেছেন, এমন একটি প্রতিষ্ঠানের ভেতরে যেখানে উত্তর যাচাইয়ের জন্য অভিন্ন নিয়ম নেই।

একটি সূত্র এই গতিশীলতাকে স্পষ্টভাবে সংক্ষেপে বলেছে, সিএনএন-কে বলেছে যে এআই "আপনাকে একটি খারাপ ধারণায় দ্রুততর পৌঁছাতে দেয়।" এই বাক্যটি নির্দিষ্ট বিপদটি ধরে। প্রযুক্তিটিকে ক্ষতিকর বা সচেতন হতে হবে না বিপজ্জনক হওয়ার জন্য। এটিকে কেবল একটি ভুল সিদ্ধান্তে পৌঁছানো সহজতর, ছড়িয়ে দেওয়া সহজতর এবং তার উপর কাজ করা সহজতর করতে হবে।

যে সমর্থকরা বছরের পর বছর ধরে অসতর্ক বা অসদিচ্ছা সম্পন্ন অপারেটরদের হাতে ঢিলেঢালা সিস্টেম নিয়ে সতর্ক করে আসছেন, তাদের এখন একটি সুনির্দিষ্ট উদাহরণ রয়েছে। তারা যে পরিস্থিতি বর্ণনা করেছিলেন — ঈশ্বরসদৃশ মেশিন নয়, বরং অসতর্ক মেশিন — ঠিক সেটিই ঘটেছে বলে মনে হচ্ছে।

গোয়েন্দা কাজে এআই সম্পর্কে এই প্রায়-দুর্ঘটনা কী প্রকাশ করে

সবচেয়ে অস্বস্তিকর বিবরণটি হলো ত্রুটিটি ধরা পড়ার আগে কতদূর পর্যন্ত পৌঁছেছিল। একটি মিথ্যা সংকেত চ্যাট উইন্ডোর ভেতরে থাকেনি। এটি একটি সামরিক অবস্থানে পরিণত হয়েছিল: সৈন্যরা প্রস্তুত, বিমান আকাশে, জাহাজে ওঠার অভিযান কয়েক মিনিটের মধ্যে। এটি একটি হ্যালুসিনেশন এবং একটি সংকটের মধ্যে দূরত্ব, এবং এটি একটি একক কার্যপ্রবাহের ভেতরে অতিক্রান্ত হয়েছিল।

এই ঘটনাটি জবাবদিহিতার একটি প্রশ্নও তুলে ধরে যা প্রতিষ্ঠানগুলো এখনও সমাধান করছে। যখন একটি এআই-সহায়ক মূল্যায়ন একটি অপারেশনাল সিদ্ধান্তে অবদান রাখে, দায়িত্ব মডেলের কাছে হস্তান্তরিত হয় না। যাচাইকরণের বাধ্যবাধকতা এর আশেপাশের মানুষ এবং প্রক্রিয়াগুলোর কাছেই থাকে। যদি সেই যাচাইকরণের জন্য কোনো অভিন্ন মান না থাকে, তবে বাধ্যবাধকতাটি কার্যত বরাদ্দহীন থাকে।

এর পরের ব্যবহারিক প্রশ্নগুলো

• এআই-উদ্ভূত একটি গোয়েন্দা অনুসন্ধান অপারেশনকে প্রভাবিত করার আগে কে তা অনুমোদন করেন?
• একটি মডেলের অনুমান এবং একটি নিশ্চিত তথ্যের মধ্যে পার্থক্য কী, এবং সেই পার্থক্যটি বিশ্লেষকের কাছে কীভাবে প্রদর্শিত হয়?
• শ্রেণীবদ্ধ গোয়েন্দা কাজের জন্য বাণিজ্যিক-উদ্ভূত অভ্যন্তরীণ টুলগুলো কীভাবে বৈধতা পায়?
• কোন প্রশিক্ষণ বিশ্লেষকদের একটি আত্মবিশ্বাসী, সাবলীল এবং ভুল আউটপুটকে চ্যালেঞ্জ করার জন্য প্রস্তুত করে?

এই প্রশ্নগুলোর কোনোটিই অদ্ভুত নয়। এগুলো যেকোনো গোয়েন্দা প্রক্রিয়ার সাধারণ প্রয়োজনীয়তা যা সোর্সিং এবং নিশ্চিতকরণের উপর নির্ভর করে। জটিলতাটি হলো জেনারেটিভ টুলগুলো সেই প্রক্রিয়ার বেশ কয়েকটি ধাপকে একটি একক সাবলীল উত্তরে সংকুচিত করে, এবং সংকোচনটি অদৃশ্য থাকে যদি কেউ সচেতনভাবে তা খুঁজে না দেখে।

ঠিক সময়ে আসা একটি সতর্কবার্তা

ঘটনাটি কোনো জাহাজে ওঠা ছাড়াই শেষ হয়েছিল, যা এটিকে একটি বিপর্যয়ের পরিবর্তে একটি সতর্কবার্তা করে তোলে। এটি এটিকে একটি নিকট-দুর্ঘটনা হিসেবে ফাইল করে এগিয়ে যাওয়াও সহজ করে তোলে। সিএনএন-এর প্রতিবেদন সেই প্রবণতার বিরুদ্ধে যুক্তি দেয়: যে পরিস্থিতিগুলো ত্রুটিটি তৈরি করেছিল — মিশ্র ডেটা সোর্স, বাণিজ্যিক-মানের টুলিং, গ্রহণের চাপ এবং অসমালোচনামূলক বিশ্বাস — সেগুলো এখনও বিদ্যমান।

২০২৬ সালের বসন্তে যা ঘটেছিল তা এমন এক ধরনের ব্যর্থতা যা একবার ধরা পড়ে এবং তারপর, যদি কিছু না বদলায়, আর ধরা পড়ে না। এই প্রায়-দুর্ঘটনাটি যাচাইকরণের মানদণ্ডের জন্য একটি মোড় ঘোরানো বিন্দু হয়ে ওঠে কি না তা নির্ভর করে এখন যে সিদ্ধান্তগুলো নেওয়া হচ্ছে তার উপর, যখন বিমানগুলো মাটিতে ফিরে এসেছে এবং কোনো জাহাজে ওঠা হয়নি।

এই নিবন্ধটি The Decoder-এর প্রতিবেদনের উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।