পেন্টাগন AI কোম্পানিগুলিকে শ্রেণীবদ্ধ ডেটায় প্রশিক্ষণ দেওয়ার পরিকল্পনা করছে

তথ্যাগার খোলা

যুক্তরাষ্ট্র প্রতিরক্ষা বিভাগ কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলিকে তাদের মডেলগুলি শ্রেণীবদ্ধ সামরিক ডেটায় প্রশিক্ষিত করার অনুমতি দেওয়ার পরিকল্পনা করছে, MIT Technology Review দ্বারা উদ্ধৃত একজন প্রতিরক্ষা আধিকারিক অনুযায়ী। এই উদ্যোগটি, যদি বাস্তবায়িত হয়, সংবেদনশীল সরকারী তথ্যে AI অ্যাক্সেসের সবচেয়ে উল্লেখযোগ্য সম্প্রসারণ হবে এবং বাণিজ্যিক AI সিস্টেম এবং সেগুলি তৈরি করে এমন কোম্পানিগুলিতে শ্রেণীবদ্ধ ডেটা প্রকাশের ঝুঁকি থেকে সুবিধা পাওয়ার একটি সচেতন পদক্ষেপ হবে।

আধিকারিক একটি বিকাশমান কাঠামো বর্ণনা করেছেন যা পরীক্ষিত AI কোম্পানিগুলিকে সুরক্ষিত কম্পিউটিং পরিবেশে শ্রেণীবদ্ধ ডেটাসেটে অ্যাক্সেস করার অনুমতি দেবে, নির্দিষ্ট প্রতিরক্ষা প্রয়োগের জন্য মডেলগুলি প্রশিক্ষণ এবং সূক্ষ্ম-সুর করার জন্য সেই ডেটা ব্যবহার করে। শ্রেণীবদ্ধ ডেটা সরকার-নিয়ন্ত্রিত অবকাঠামোর মধ্যে থাকবে — AI কোম্পানিগুলি ডেটা অফসাইট নেবে না — তবে তাদের কর্মীদের এবং তাদের মডেল প্রশিক্ষণ পাইপলাইনগুলি সাধারণত উপযুক্ত নিরাপত্তা ক্লিয়ারেন্স সহ কর্মীদের সীমাবদ্ধ এমন তথ্যে অ্যাক্সেস দেওয়া হবে।

পেন্টাগন এটি কেন চায়

সামরিক যুক্তি সরল: প্রতিরক্ষার জন্য সবচেয়ে মূল্যবান AI প্রয়োগের জন্য ডেটার অ্যাক্সেস প্রয়োজন যা শুধুমাত্র সামরিক বাহিনীর কাছে রয়েছে। একটি AI মডেলকে স্যাটেলাইট চিত্রে নির্দিষ্ট সামরিক হার্ডওয়্যার সনাক্ত করতে, সংকেত বুদ্ধিমত্তা বিশ্লেষণ করতে, শ্রেণীবদ্ধ উত্স থেকে বুদ্ধিমত্তা সংশ্লেষণ করতে বা শ্রেণীবদ্ধ অপারেশনের জন্য লজিস্টিক অপ্টিমাইজ করতে প্রশিক্ষণ দিতে প্রশিক্ষণ ডেটার প্রয়োজন যা সেই নির্দিষ্ট ডোমেনগুলি প্রতিফলিত করে — এবং সেই ডেটা, সংজ্ঞা অনুযায়ী, শ্রেণীবদ্ধ।

জনসাধারণের কাছে উপলব্ধ ডেটায় প্রশিক্ষিত বাণিজ্যিক AI মডেলগুলি অনেক প্রতিরক্ষা প্রয়োগের জন্য উপযোগী তবে মৌলিকভাবে সেই ডোমেনগুলিতে সীমাবদ্ধ যেখানে শ্রেণীবিভাগ সবচেয়ে গুরুত্বপূর্ণ সক্ষমতা ফাঁকগুলি তৈরি করে। খোলা উত্সের স্যাটেলাইট চিত্রে প্রশিক্ষিত একটি মডেল শ্রেণীবদ্ধ ওভারহেড বুদ্ধিমত্তায় প্রশিক্ষিত মডেলের কর্মক্ষমতার সাথে কখনও মিলবে না। শ্রেণীবদ্ধ প্রশিক্ষণ ডেটায় পেন্টাগনের আগ্রহ একটি স্বীকৃতি প্রতিফলিত করে যে বাণিজ্যিক AI উন্নয়ন সেই ফাঁকগুলি বন্ধ করতে পারে না যদি না ডেটায় অ্যাক্সেস থাকে যা শুধুমাত্র সরকার নিয়ন্ত্রণ করে।

ঝুঁকিগুলি

এই পদ্ধতির সাথে যুক্ত ঝুঁকিগুলি উল্লেখযোগ্য এবং বেশ কয়েকটি বিভাগে বিস্তৃত। সবচেয়ে স্পষ্ট অভ্যন্তরীণ হুমকি এবং ডেটা এক্সফিল্ট্রেশন: AI কোম্পানি কর্মী এবং সিস্টেমগুলিকে শ্রেণীবদ্ধ ডেটায় অ্যাক্সেস দেওয়া সম্ভাব্য লিকের জন্য সারফেস এরিয়া প্রসারিত করে, তা ইচ্ছাকৃত চুরি, দুর্ঘটনাজনিত প্রকাশ বা AI কোম্পানি অবকাঠামোর বিরুদ্ধবর্তী আপস হোক না কেন।

দ্বিতীয় ঝুঁকি হল মডেল ইনভার্সন এবং সদস্যপদ অনুমান আক্রমণ — কৌশল যার দ্বারা একটি প্রতিদ্বন্দ্বী যারা একটি প্রশিক্ষিত মডেলে অ্যাক্সেস করেছে সেই ডেটা সম্পর্কে তথ্য আহরণ করতে পারে যা এটি প্রশিক্ষণের জন্য ব্যবহৃত হয়েছিল। যদি শ্রেণীবদ্ধ ডেটা একটি AI মডেলকে প্রশিক্ষণ দিতে ব্যবহার করা হয় এবং সেই মডেল বা এর আউটপুটগুলি পরবর্তীতে এমন প্রসঙ্গে স্থাপন করা হয় যেখানে বিরুদ্ধবর্তীরা এটির সাথে যোগাযোগ করতে পারে, তখন মডেলের শেখা উপস্থাপনা থেকে সংবেদনশীল তথ্য পুনরুদ্ধার করার একটি সম্ভাব্য পথ রয়েছে।

তৃতীয়ত, AI কোম্পানিগুলির নিজস্ব নিরাপত্তা মুদ্রা সম্পর্কে উল্লেখযোগ্য প্রশ্ন রয়েছে। এমনকি বৃহত্তম AI ডেভেলপারদেরও নিরাপত্তা ঘটনা হয়েছে এবং তাদের উন্নয়ন পরিবেশগুলি শ্রেণীবদ্ধ জাতীয় নিরাপত্তা তথ্য পরিচালনার জন্য প্রয়োজনীয় মানদণ্ডে নির্মিত নয়। সেই ব্যবধান পূরণ করা খরচ এবং জটিলতা যোগ করে যা সেই সক্ষমতার বিকাশকে ধীর করতে পারে যা উদ্যোগটি ত্বরান্বিত করার জন্য ডিজাইন করা হয়েছিল।

প্রতিযোগিতামূলক বাধ্যবাধকতা

এই পুশটি প্রকৃত জরুরিতার প্রসঙ্গে আসে। চীনের সামরিক AI প্রোগ্রাম দ্রুত অগ্রসর হচ্ছে এবং চীনা রাষ্ট্র-সমর্থিত AI উন্নয়ন PLA ডেটায় অ্যাক্সেস করতে পারে আইনি এবং প্রাতিষ্ঠানিক বাধাগুলি ছাড়াই যা বাণিজ্যিক কোম্পানিগুলিকে US শ্রেণীবদ্ধ সিস্টেম থেকে আলাদা করে। পেন্টাগন বাণিজ্যিক AI ক্ষমতা এবং শ্রেণীবদ্ধ-ডেটা-প্রশিক্ষিত AI ক্ষমতার মধ্যে ফাঁকটি একটি কৌশলগত দুর্বলতা হিসাবে দেখে — এমন একটি যা আরও অনুমোদনযোগ্য ডেটা-শেয়ারিং ফ্রেমওয়ার্ক সম্বোধন করার জন্য অভিপ্রায়।

উদ্যোগটি বাস্তবায়নের চেয়ে উন্নয়নে রয়েছে এবং এর চূড়ান্ত ফর্ম আইনি পর্যালোচনা, শ্রেণীবিভাগ কর্তৃপক্ষ সিদ্ধান্ত এবং অংশগ্রহণকারী কোম্পানিগুলির সাথে নিরাপত্তা চুক্তি আলোচনার উপর নির্ভর করবে। কিন্তু ভ্রমণের দিকটি স্পষ্ট: পেন্টাগন এমন একটি মডেলের দিকে এগিয়ে যাচ্ছে যেখানে শ্রেণীবদ্ধ সামরিক ডেটা এবং বাণিজ্যিক AI উন্নয়নের মধ্যে সীমানা কৌশলগত প্রতিযোগীদের উপর AI আধিপত্য বজায় রাখার সেবায় আরও ছিদ্রপূর্ণ হয়ে ওঠে।

এই নিবন্ধটি MIT Technology Review দ্বারা রিপোর্টিং এর উপর ভিত্তি করে। মূল নিবন্ধ পড়ুন।