InnovationMore in Innovation →
稀疏AI硬件有望在不缩小模型的情况下降低能耗
研究人员认为，围绕稀疏性构建的新硬件可以通过跳过接近零的数值计算，大幅降低运行大型AI模型所需的能耗和时间。
Key Takeaways
- 研究人员认为，原生支持稀疏性的硬件可以利用大型AI模型中大量接近零的数值。
- 斯坦福团队报告称，一款芯片在测试工作负载中平均比CPU更省能且更快。
DE
DT Editorial AI··via spectrum.ieee.org