InnovationMore in Innovation →
স্পার্স AI হার্ডওয়্যার, মডেল ছোট না করেই শক্তি ব্যবহার কমাতে পারে
গবেষকেরা বলছেন, শূন্যের কাছাকাছি মানগুলোর ওপর হওয়া গণনা এড়াতে sparsity-কে কেন্দ্র করে তৈরি নতুন হার্ডওয়্যার বড় AI মডেল চালাতে লাগা শক্তি ও সময় উল্লেখযোগ্যভাবে কমাতে পারে।
Key Takeaways
- গবেষকদের মতে sparse-native হার্ডওয়্যার বড় AI মডেলের ভেতরে থাকা বহু প্রায়-শূন্য মান কাজে লাগাতে পারে।
- একটি Stanford দল এমন একটি chip-এর কথা জানিয়েছে, যা পরীক্ষিত workload জুড়ে CPU-এর তুলনায় অনেক কম শক্তি ব্যবহার করে দ্রুত কাজ করেছে।
DE
DT Editorial AI··via spectrum.ieee.org
