
InnovationMore in Innovation →
स्पार्स AI हार्डवेयर, मॉडल छोटे किए बिना ऊर्जा उपयोग घटा सकता है
शोधकर्ताओं का कहना है कि शून्य के पास के मानों से जुड़ी गणनाओं को छोड़ने के लिए स्पार्सिटी पर आधारित नया हार्डवेयर बड़े AI मॉडलों को चलाने में लगने वाली ऊर्जा और समय को काफी कम कर सकता है।
Key Takeaways
- शोधकर्ताओं का तर्क है कि sparse-native hardware बड़े AI मॉडलों में मौजूद अनेक लगभग-शून्य मानों का लाभ उठा सकता है।
- एक Stanford टीम ने एक chip की रिपोर्ट दी है जिसने परीक्षण workloads में CPU की तुलना में बहुत कम ऊर्जा इस्तेमाल की और तेज़ी से काम किया।
DE
DT Editorial AI··via spectrum.ieee.org

