AI এর হৃদয়ে শক্তি সংকট
কৃত্রিম বুদ্ধিমত্তার বিস্ফোরক বৃদ্ধি একটি শক্তি ব্যবহার সমস্যা তৈরি করেছে যা ক্রমবর্ধমান উপেক্ষা করা কঠিন হয়ে উঠছে। বড় ভাষা মডেলের প্রশিক্ষণের জন্য বিশাল কম্পিউটেশনাল সম্পদ প্রয়োজন, কিন্তু আরও ব্যাপক চ্যালেঞ্জ হল অনুমান — উৎপাদনে AI মডেলগুলি চালানো যাতে প্রশ্নের উত্তর দেওয়া, ছবি বিশ্লেষণ করা বা সেন্সর ডেটা প্রক্রিয়া করা যায় — যা বৃহৎ স্কেলে প্রশিক্ষণের চেয়ে বেশি মোট শক্তি খরচ করে। ডেটা সেন্টার অপারেটর এবং ডিভাইস নির্মাতারা এমন কম্পিউটিং আর্কিটেকচার খোঁজার জন্য ক্রমবর্ধমান চাপে রয়েছেন যা বর্তমান শক্তি খরচের একটি অংশে AI কর্মক্ষমতা প্রদান করতে পারে।
বিজ্ঞানীদের একটি দল এমন ফলাফল প্রকাশ করেছেন যা দেখায় যে একটি নিউরোমর্ফিক চিপ — জৈব নিউরাল সার্কিটের স্পাইক-ভিত্তিক, ইভেন্ট-চালিত তথ্য প্রক্রিয়াকরণ অনুকরণ করার জন্য ডিজাইন করা — প্রচলিত গ্রাফিক্স প্রসেসিং ইউনিট বা অ্যাপ্লিকেশন-নির্দিষ্ট AI ত্বরকের তুলনায় 70 শতাংশ কম শক্তিতে AI অনুমান কর্মক্ষমতা চালাতে পারে। এই ফলাফলটি নিউরোমর্ফিক কম্পিউটিংকে বহুলাংশে একটি তাত্ত্বিক প্রস্তাবনা থেকে AI হার্ডওয়্যার স্থাপনার সাথে সরাসরি প্রাসঙ্গিকতা সহ একটি প্রদর্শিত প্রকৌশল ক্ষমতায় এগিয়ে নিয়ে যায়।
নিউরোমর্ফিক কম্পিউটিং কীভাবে আলাদা
প্রচলিত কম্পিউটিং মেমরি এবং প্রক্রিয়াকরণ ইউনিটের মধ্যে ডেটার বড় ব্লক স্থানান্তর করে তথ্য প্রক্রিয়া করে, ঘন ম্যাট্রিক্স অপারেশন সম্পাদন করে যার জন্য উচ্চ ব্যান্ডউইথ এবং ক্রমাগত বিদ্যুৎ সরবরাহ প্রয়োজন। এই পদ্ধতিটি অত্যন্ত সমান্তরাল, সিঙ্ক্রোনাস কম্পিউটেশনের জন্য দক্ষ যা নিউরাল নেটওয়ার্ক অনুমানে জড়িত, তবে এটি ডেটা আন্দোলন, ঘড়ি বিতরণ এবং সার্কিট উপাদানগুলিতে সক্রিয় অবস্থা বজায় রাখার প্রয়োজনীয়তা থেকে অন্তর্নিহিত শক্তি খরচ বহন করে যা বর্তমানে গণনায় অবদান রাখছে না।
জৈব নিউরাল সার্কিটগুলি তথ্য সম্পূর্ণ ভিন্নভাবে পরিচালনা করে। নিউরন্স বেশিরভাগ সময় নিষ্ক্রিয় থাকে, শুধুমাত্র যখন একটি সংকেত থ্রেশহোল্ড অতিক্রম করে এবং গণনা নেটওয়ার্ক জুড়ে বিতরণ করা হয় না বরং কেন্দ্রীভূত প্রক্রিয়াকরণ ইউনিটে। মস্তিষ্ক প্রায় 20 ওয়াট ক্রমাগত বিদ্যুৎ শক্তিতে উল্লেখযোগ্য জ্ঞানীয় কর্মক্ষমতা অর্জন করে — একটি বেঞ্চমার্ক যা বর্তমান AI হার্ডওয়্যার তুলনামূলক কাজ সম্পাদন করার সময় পৌঁছাতে পারে না।
নিউরোমর্ফিক চিপগুলি সিলিকনে এই স্পাইক-ভিত্তিক, ইভেন্ট-চালিত আর্কিটেকচারের শক্তি দক্ষতা ক্যাপচার করার চেষ্টা করে। ক্রমাগত ঘড়ি গণনার পরিবর্তে, নিউরোমর্ফিক প্রসেসরগুলি তখনই অগ্নিসংযোগ করে যখন ইনপুটগুলি থ্রেশহোল্ড অতিক্রম করে, সক্রিয় প্রক্রিয়াকরণের জন্য শক্তি ব্যবহার করে সম্পূর্ণ শক্তিতে নিষ্ক্রিয় থাকার পরিবর্তে গণনা পদক্ষেপের মধ্যে।
70 শতাংশ দক্ষতা লাভ
গবেষণা দল চিত্র শ্রেণীবিভাগ, প্রাকৃতিক ভাষা অনুমান এবং সেন্সর সংমিশ্রণ সহ বেশ কয়েকটি মানক AI বেঞ্চমার্ক কাজে 70 শতাংশ শক্তি হ্রাস অর্জন করেছেন — AI অপারেশনের প্রকার যা প্রতিদিন এজ ডিভাইসে, সার্ভার ফার্মে এবং মোবাইল অ্যাপ্লিকেশনে বিলিয়ন বার চলে। শক্তির সুবিধা বিরল, ইভেন্ট-চালিত ইনপুটের জন্য সবচেয়ে উচ্চারিত ছিল — সেন্সর ডেটা, অডিও স্ট্রীম এবং বিরাত প্রশ্নের প্যাটার্ন — যেখানে নিউরোমর্ফিক চিপের ইভেন্ট জুড়ে নিষ্ক্রিয় থাকার ক্ষমতা ইনপুট হার নির্বিশেষে ঘড়ি কার্যকলাপ বজায় রাখা প্রসেসরের উপর একটি কাঠামোগত সুবিধা প্রদান করে।
চিপটি একটি পরিবর্তিত মান সেমিকন্ডাক্টর প্রক্রিয়া ব্যবহার করে তৈরি করা হয়েছিল, যা পূর্ববর্তী নিউরোমর্ফিক গবেষণা প্ল্যাটফর্মগুলি থেকে একটি গুরুত্বপূর্ণ ব্যবহারিক পার্থক্য যার জন্য বিদেশী উৎপাদন প্রয়োজন ছিল। মান সেমিকন্ডাক্টর অবকাঠামো ব্যবহার করা মানে প্রযুক্তি সম্ভবত নিবেদিত উৎপাদন বিনিয়োগের প্রয়োজন ছাড়াই বিদ্যমান চিপ fab এর মাধ্যমে স্কেল করা যেতে পারে।
অ্যাপ্লিকেশন এবং সীমাবদ্ধতা
সবচেয়ে তাৎক্ষণিক আবেদন লক্ষ্যগুলি হল এজ AI পরিস্থিতি: শিল্প IoT এ সেন্সর নোড, শ্রবণ সহায়ক এবং চিকিৎসা প্রবেশাধিকার, ভোক্তা ইলেকট্রনিক্সে সর্বদা চালু কীওয়ার্ড সনাক্তকরণ এবং স্বায়ত্তশাসিত যানবাহন উপলব্ধি সিস্টেম যেখানে ব্যাটারি জীবন বা তাপীয় সীমাবদ্ধতা AI অনুমানের জন্য উপলব্ধ শক্তি বাজেট সীমিত করে। এই অ্যাপ্লিকেশনগুলি এই বৈশিষ্ট্য ভাগ করে যে তারা বিরল, বাস্তব-বিশ্বের সেন্সর ডেটায় ক্রমাগত বা উচ্চ ফ্রিকোয়েন্সিতে অনুমান চালায় — ঠিক এমন শাসন যেখানে নিউরোমর্ফিক দক্ষতা সুবিধা বৃহত্তম।
ডেটা সেন্টার AI কর্মক্ষমতার জন্য — বিশেষত বড় ভাষা মডেল অনুমানের জন্য যেখানে প্রশ্নগুলি ঘন এবং ব্যাচ প্রক্রিয়াকরণ সাধারণ — শক্তির সুবিধাগুলি কম নাটকীয়। উল্লেখযোগ্য সফ্টওয়্যার ইকোসিস্টেম কাজ অবশিষ্ট থাকে যতক্ষণ না নিউরোমর্ফিক প্রসেসরগুলি AI ফ্রেমওয়ার্ক এবং মডেলগুলির সম্পূর্ণ পরিসীমা চালাতে পারে যা প্রচলিত GPU গুলিতে চলে, যা ব্যাপক গ্রহণের জন্য প্রাথমিক ব্যবহারিক বাধা প্রতিনিধিত্ব করে।
প্রতিযোগিতামূলক ল্যান্ডস্কেপ
বেশ কয়েকটি প্রধান প্রযুক্তি কোম্পানি এবং গবেষণা প্রতিষ্ঠানের সক্রিয় নিউরোমর্ফিক প্রোগ্রাম রয়েছে। Intel এর Loihi চিপ নির্দিষ্ট কাজে শক্তি দক্ষতা লাভ প্রদর্শন করেছে এবং IBM এর TrueNorth এক দশকেরও বেশি সময় ধরে গবেষণা অ্যাপ্লিকেশনের জন্য ব্যবহৃত হয়েছে। Innatera, SpiNNcloud এবং BrainChip এর মতো স্টার্টআপগুলি এজ অ্যাপ্লিকেশনগুলিকে লক্ষ্য করে বাণিজ্যিক নিউরোমর্ফিক পণ্য তৈরি করেছে। 70 শতাংশ শক্তি হ্রাসের চিত্র হাইপারস্কেল ডেটা সেন্টার অপারেটরদের কাছ থেকে উল্লেখযোগ্য আগ্রহ তৈরি করবে যারা AI অবকাঠামোর সাথে যুক্ত জ্যোতির্বিজ্ঞান-আকারের বিদ্যুতের বিল কমাতে পারে এমন কোনও প্রযুক্তির সক্রিয়ভাবে খোঁজ করছেন — একটি খরচ যা বৃহৎ আকারে AI চালায়নকারী প্রতিটি প্রধান প্রযুক্তি কোম্পানির জন্য একটি কেন্দ্রীয় কৌশলগত উদ্বেগে পরিণত হয়েছে।
এই নিবন্ধটি Interesting Engineering দ্বারা রিপোর্টিংয়ের উপর ভিত্তি করে। মূল নিবন্ধ পড়ুন।
Originally published on interestingengineering.com