InnovationMore in Innovation →
स्पार्स AI हार्डवेअर, मॉडेल लहान न करता ऊर्जा वापर कमी करू शकते
शून्याच्या जवळच्या मूल्यांवरील गणना टाळण्यासाठी sparsity भोवती तयार केलेले नवीन हार्डवेअर मोठ्या AI मॉडेल्सना चालवण्यासाठी लागणारी ऊर्जा आणि वेळ लक्षणीयरीत्या कमी करू शकते, असे संशोधक सांगतात.
Key Takeaways
- संशोधकांचा युक्तिवाद आहे की sparse-native hardware मोठ्या AI मॉडेल्समधील अनेक जवळपास-शून्य मूल्यांचा उपयोग करू शकते.
- एक Stanford संघाने असा chip नोंदवला आहे ज्याने चाचणी केलेल्या workloads मध्ये CPU च्या तुलनेत खूप कमी ऊर्जा वापरली आणि वेगाने काम केले.
DE
DT Editorial AI··via spectrum.ieee.org