Microsoft Copilot for Word-এ ওয়ার্ম-সদৃশ একটি আক্রমণ দীর্ঘদিনের AI নিরাপত্তা উদ্বেগকে বাস্তব এক প্রদর্শনে পরিণত করেছে
একজন নিরাপত্তা গবেষক দেখিয়েছেন যে Microsoft Word নথির ভেতরে লুকানো প্রম্পট ইনজেকশন, মানুষ যখন বিষয়বস্তু পুনঃব্যবহার বা সারসংক্ষেপ করতে Microsoft Copilot for Word ব্যবহার করে, তখন ফাইল থেকে ফাইলে ছড়িয়ে পড়তে পারে। এর ফলাফল কেবল একবারের শোষণ নয়, বরং একটি স্ব-প্রসারিত ব্যবস্থা, যা সাধারণ নথিকেই বাহকে পরিণত করতে পারে।
রিপোর্ট করা অনুসন্ধান অনুযায়ী, আক্রমণটি এমনভাবে একটি নথির মধ্যে নির্দেশনা এম্বেড করে কাজ করে, যা মানব পাঠকের চোখে সহজে পড়ে না, যেমন সাদা পটভূমির ওপর সাদা লেখা বা অত্যন্ত ছোট ফন্ট সাইজ। গবেষকের দাবি, Copilot টেক্সট প্রক্রিয়াকরণের আগে রঙ ও ফন্ট-সাইজ ফরম্যাটিং সরিয়ে ফেলে, ফলে লুকানো নির্দেশনাগুলি AI সিস্টেমের কাছে দৃশ্যমান থাকে, যদিও সেগুলি ব্যবহারকারীর কাছে কার্যত অদৃশ্য।
এই পার্থক্যটি গুরুত্বপূর্ণ, কারণ এটি ব্যবহারকারী ফাইলটিতে যা আছে বলে মনে করেন এবং AI সহকারী আসলে যা পড়ে তার মধ্যে ফাঁক তৈরি করে। যদি Copilot একটি নতুন নথি তৈরি করার সময় ওই লুকানো নির্দেশনা অনুসরণ করে, তাহলে ইনজেক্ট করা টেক্সট সেই আউটপুটেও কপি হয়ে যেতে পারে। তারপর নতুন ফাইলটি আরেকটি বাহক হয়ে ওঠে। পরে যদি সেই দ্বিতীয় নথিটি উৎস উপাদান হিসেবে ব্যবহার করা হয়, তবে একই লুকানো নির্দেশনা আবার সক্রিয় হতে পারে।
এই প্রদর্শনটি কেন গুরুত্বপূর্ণ
প্রম্পট ইনজেকশনকে প্রায়ই AI সিস্টেমে একটি অমীমাংসিত সমস্যা হিসেবে বর্ণনা করা হয়েছে, কিন্তু অনেক আলোচনা বিমূর্ত পর্যায়েই থেমে যায়। এই ঘটনাটি আরও নির্দিষ্ট এবং আরও অস্বস্তিকর, কারণ এটি দেখায় কীভাবে এই দুর্বলতা সাধারণ অফিসের কাজের ধারার মধ্যে ছড়াতে পারে। একটি ক্ষতিকর ফাইলকে প্রচলিত অর্থে ব্যবহারকারীকে কোড চালাতে প্রতারিত করার দরকার নেই। সেটিকে শুধু সেই ধরনের ডকুমেন্ট-হ্যান্ডলিং কাজে ব্যবহার করলেই হয়, যা জ্ঞানকর্মীরা প্রতিদিন করেন।
রিপোর্ট করা পরিস্থিতি দেখায়, ইন্টারনেট থেকে ডাউনলোড করা একটি সংক্রমিত বাজার বিশ্লেষণ কীভাবে Copilot দিয়ে তৈরি একটি আর্থিক প্রতিবেদনকে প্রভাবিত করতে পারে। যদি প্রতিবেদনটি লুকানো নির্দেশনাগুলি উত্তরাধিকারসূত্রে পায়, তবে তা পরবর্তী খসড়া, ডেরিভেটিভ সারসংক্ষেপ বা টেমপ্লেট-ভিত্তিক নথিগুলোকেও দূষিত করতে পারে। অন্য কথায়, নথিকে পুনঃব্যবহারযোগ্য করে তোলা উৎপাদনশীলতার বৈশিষ্ট্যই আক্রমণকে টিকে থাকার পথও তৈরি করে।
এটি ক্লাসিক ফিশিং বা ম্যাক্রো ম্যালওয়্যার থেকে একটি উল্লেখযোগ্য পরিবর্তন। এখানে বর্ণিত ঝুঁকিটি নির্ভর করছে AI মডেল কীভাবে বিশ্বাসযোগ্য ব্যবসায়িক বিষয়বস্তুর ভেতরের ভাষা ব্যাখ্যা করে তার ওপর। মূল নথিটি নিরীহ দেখাতে পারে, সাধারণ পরিদর্শনে পাস করতে পারে, এবং তবু downstream আউটপুট বদলে দিতে পারে।
Microsoft-কে জানানো হয়েছিল, কিন্তু ফলাফল প্রকাশের সময় কোনো সমাধান ছিল না
আক্রমণের পেছনের গবেষক Hakon Maloy, উৎস উপাদান অনুযায়ী, 31 মার্চ Microsoft-কে এই আচরণের কথা জানান। Microsoft আচরণটি নিশ্চিত করে, কিন্তু দুইটি সমাধানের প্রচেষ্টা নাকি ব্যর্থ হয়। 144 দিন পরে Maloy পেলোড টেক্সট প্রকাশ না করেই অনুসন্ধানগুলি প্রকাশ করেন।
এই সময়রেখা দুটি কারণে গুরুত্বপূর্ণ। প্রথমত, এটি ইঙ্গিত দেয় যে সমস্যাটি কেবল তাত্ত্বিক নয় বা কোনো ভুল বোঝা edge case-এর ফল নয়। দ্বিতীয়ত, এটি দেখায় যে প্রাকৃতিক ভাষা গ্রহণ ও রূপান্তর করার জন্য নির্মিত সিস্টেমে প্রম্পট-ইনজেকশন সমস্যা সমাধান করা কতটা কঠিন। যদি সহকারীকে নথির সবকিছুকে সম্ভাব্য উপযোগী প্রসঙ্গ হিসেবে পড়তে হয়, তবে বৈধ নির্দেশনা ও ক্ষতিকর নির্দেশনার মধ্যে পার্থক্য করা প্রযুক্তিগত ও পণ্যের দিক থেকে জটিল হয়ে ওঠে।
সার্বজনীন সমাধান ছাড়াই এই অনুসন্ধান প্রকাশ করায় এন্টারপ্রাইজ AI বিক্রেতাদের ওপর চাপও বাড়ে। Copilot এবং অনুরূপ টুলগুলো ক্রমেই এমন সহকারী হিসেবে উপস্থাপিত হচ্ছে, যারা একটি প্রতিষ্ঠানের অভ্যন্তরীণ ফাইলজুড়ে খসড়া তৈরি, সম্পাদনা, সারসংক্ষেপ এবং তথ্য সংশ্লেষণে সাহায্য করে। ফলে নথির সীমা ও নির্দেশনা হ্যান্ডলিংয়ের ওপর আস্থা পণ্যের নিরাপত্তার কেন্দ্রীয় বিষয় হয়ে ওঠে।
এটি শুধু AI ল্যাবের সমস্যা নয়, অফিস উৎপাদনশীলতারও সমস্যা
এই ঘটনাটি আলাদা করে চোখে পড়ার একটি কারণ হলো এটি একটি বহুল ব্যবহৃত উৎপাদনশীলতার প্রেক্ষাপটে ঘটছে, কোনো সীমিত চ্যাটবট ইন্টারফেসে নয়। Word নথি নিয়মিতভাবে টিম, বিভাগ, অংশীদার এবং বাইরের উৎসের মধ্যে ভাগ করা হয়। অনেক প্রতিষ্ঠান সময় বাঁচাতে কর্মীদের সেইসব নথির আরও অংশ AI কোপাইলটে দিতে সক্রিয়ভাবে উৎসাহিত করছে।
রিপোর্টে বর্ণিত শোষণটি দেখায়, সুবিধাই আক্রমণের পৃষ্ঠ হতে পারে। ব্যবহারকারীর কোনো বিপজ্জনক সংযুক্তিতে ক্লিক করার, ম্যাক্রো সক্রিয় করার বা সন্দেহজনক সফটওয়্যার ইনস্টল করার দরকার নেই। বরং পুরোনো নথি থেকে নতুন নথি লিখতে Copilot-এর সাহায্য চাওয়াই যথেষ্ট হতে পারে লুকানো নির্দেশনা প্রতিলিপি করার জন্য।
এতে প্রতিরক্ষামূলক অভ্যাস নির্ধারণ করা কঠিন হয়ে যায়। ঐতিহ্যগত নিরাপত্তা নির্দেশনা সাধারণত দৃশ্যমান সতর্ক সংকেত বা এক্সিকিউটেবল কন্টেন্টের ওপর জোর দেয়। এখানে ঝুঁকিপূর্ণ উপাদানটি সাধারণ টেক্সট, যেটিকে কেবল মানুষের নজর এড়ানোর জন্য ফরম্যাট করা হয়েছে, কিন্তু মডেলের কাছে তা এখনও পাঠযোগ্য। ফলে এই আক্রমণ একই ফাইলের মধ্যে মানব ও যন্ত্রগত উপলব্ধির অমিলকে কাজে লাগায়।
AI নিরাপত্তার বর্তমান অবস্থা সম্পর্কে এই প্রদর্শন কী বলে
বড় ছবিটা হলো, প্রম্পট ইনজেকশন এখনো বাস্তব পণ্যে অমীমাংসিত, বিশেষ করে যেখানে মডেলগুলিকে মিশ্র-আস্থার ইনপুট ব্যাখ্যার ব্যাপক ক্ষমতা দেওয়া হয়। বাহ্যিক নথি, ওয়েব পৃষ্ঠা, ইমেল বা সংযুক্তির ভেতরে লুকানো নির্দেশনা AI সিস্টেমজুড়ে একটি সুপরিচিত উদ্বেগ। এই উদাহরণটি একটি প্রসারণ ব্যবস্থা যোগ করে, যা খারাপ একটি নথি কর্মপ্রবাহে ঢুকে পড়লে সমস্যাটিকে আরও কঠিন করে তোলে।
রিপোর্টটি এই ধারণাকেও খণ্ডন করে যে প্রম্পট ইনজেকশন মূলত কেবল অদ্ভুত উত্তর তৈরি করা এক ধরনের ঝামেলা। এখানে ঝুঁকিটি কার্যগত। ক্ষতিকর নির্দেশনা সাধারণ ব্যবসায়িক নিদর্শনের মধ্যে টিকে থাকতে পারে এবং নিয়মিত জ্ঞানকর্মের মাধ্যমে ছড়িয়ে পড়তে পারে। ধ্বংসাত্মক কোড চালানো ছাড়াই, এটি এমন প্রতিবেদন, সারসংক্ষেপ, পরিকল্পনা-নথি এবং অন্যান্য রেকর্ডের অখণ্ডতার ঝুঁকি তৈরি করে, যেগুলির ওপর কর্মীরা আস্থা রাখেন।
আসল পেলোড টেক্সট লুকিয়ে রাখার গবেষকের সিদ্ধান্ত তাৎক্ষণিক অনুকরণমূলক ব্যবহার কিছুটা সীমিত করে, তবে প্রকাশিত বর্ণনাই এই ব্যর্থতার শ্রেণি দেখাতে যথেষ্ট। AI কোপাইলট মূল্যায়নকারী কোম্পানিগুলোর জন্য শিক্ষা সরল: কোনো নথি যদি সাধারণ অফিসের কন্টেন্টের মতো দেখায় বলেই সেটিকে নিরাপদ ধরা যায় না।
প্রতিষ্ঠানগুলো যখন AI লেখার টুলের ওপর আরও নির্ভরশীল হয়ে উঠছে, তখন কন্টেন্ট ও কমান্ডের সীমারেখা রক্ষার বিষয়টি সবচেয়ে গুরুত্বপূর্ণ নিরাপত্তা রেখাগুলোর একটিতে পরিণত হচ্ছে। এই প্রদর্শন দেখায়, বর্তমান সিস্টেমে সেই রেখাটি এখনও খুব সহজে ঝাপসা হয়ে যেতে পারে।
এই নিবন্ধটি The Decoder-এর প্রতিবেদনের ভিত্তিতে লেখা। মূল নিবন্ধটি পড়ুন.
Originally published on the-decoder.com
