InnovationMore in Innovation →
スパースAIハードウェアは、モデルを小さくせずに消費電力を削減できる可能性がある
研究者たちは、スパース性を前提に設計された新しいハードウェアによって、ゼロに近い値に関わる計算を省くことで、大規模AIモデルの実行に必要な電力と時間を大幅に減らせると主張している。
Key Takeaways
- 研究者たちは、スパースネイティブなハードウェアが大規模AIモデル内の多数のゼロ近傍値を活用できると主張している。
- スタンフォードのチームは、テストしたワークロードでCPUよりはるかに少ないエネルギーで動作し、しかも高速だったチップを報告している。
DE
DT Editorial AI··via spectrum.ieee.org