InnovationMore in Innovation →
Sparse AI హార్డ్వేర్, మోడళ్లను చిన్నవిగా చేయకుండా శక్తి వినియోగాన్ని తగ్గించగలదు
సున్నాకు దగ్గరైన విలువలను కలిగిన గణనలను దాటవేయడానికి sparsity చుట్టూ రూపొందించిన కొత్త హార్డ్వేర్, పెద్ద AI మోడళ్లను నడపడానికి అవసరమైన శక్తి మరియు సమయాన్ని గణనీయంగా తగ్గించగలదని పరిశోధకులు అంటున్నారు.
Key Takeaways
- Sparse-native హార్డ్వేర్ పెద్ద AI మోడళ్లలో ఉన్న అనేక దాదాపు-సున్నా విలువలను ఉపయోగించగలదని పరిశోధకులు వాదిస్తున్నారు.
- ఒక Stanford బృందం, పరీక్షించిన workloads అంతటా CPUతో పోలిస్తే చాలా తక్కువ శక్తి ఉపయోగించి వేగంగా పని చేసిన chipను నివేదించింది.
DE
DT Editorial AI··via spectrum.ieee.org
