InnovationMore in Innovation →
El Hardware de IA Escaso Podría Reducir el Consumo de Energía Sin Reducir los Modelos
Los investigadores sostienen que el nuevo hardware construido en torno a la esparsidad podría reducir drásticamente la energía y el tiempo necesarios para ejecutar grandes modelos de IA al omitir cálculos con valores cercanos a cero.
Key Takeaways
- Los investigadores sostienen que el hardware nativo para esparsidad puede aprovechar los muchos valores cercanos a cero dentro de los grandes modelos de IA.
- Un equipo de Stanford informa de un chip que promedió un consumo energético muy inferior al de una CPU y además corrió más rápido en las cargas evaluadas.
DE
DT Editorial AI··via spectrum.ieee.org