Die Energiekrise im Kern der AI

Das explosive Wachstum der künstlichen Intelligenz hat ein Energieverbrauchsproblem geschaffen, das immer schwerer zu ignorieren ist. Das Training großer Sprachmodelle erfordert enorme Rechenressourcen, aber die häufigere Herausforderung ist Inferenz — das Ausführen von AI-Modellen in der Produktion, um Anfragen zu beantworten, Bilder zu analysieren oder Sensordaten zu verarbeiten — die in großem Maßstab mehr Gesamtenergie verbraucht als das Training. Betreiber von Rechenzentren und Gerätehersteller stehen unter zunehmendem Druck, Rechenarchitekturen zu finden, die AI-Leistung bei einem Bruchteil der derzeitigen Energiekosten liefern können.

Ein Team von Wissenschaftlern hat Ergebnisse veröffentlicht, die zeigen, dass ein neuromorphic Chip — einer, der auf spike-basierte, ereignisgesteuerte Informationsverarbeitung biologischer Neuronenkreisläufe ausgelegt ist — AI-Inferenz-Workloads mit 70 Prozent niedrigerem Energieverbrauch als herkömmliche Grafikprozessoren oder anwendungsspezifische AI-Beschleuniger ausführen kann. Das Ergebnis bringt neuromorphic Computing von einer weitgehend theoretischen Proposition zu einer bewiesenen Ingenieurfähigkeit mit direkter Relevanz für die Bereitstellung von AI-Hardware.

Wie sich neuromorphic Computing unterscheidet

Herkömmliches Computing verarbeitet Informationen durch Verschieben großer Datenblöcke zwischen Speicher und Verarbeitungseinheiten und führt dichte Matrixoperationen aus, die sowohl hohe Bandbreite als auch kontinuierliche Stromversorgung erfordern. Dieser Ansatz ist effizient für die hochparallelen, synchronen Berechnungen, die Neural-Network-Inferenz beinhaltet, aber er trägt inhärente Energiekosten durch Datenbewegung, Taktverteilung und die Notwendigkeit, einen aktiven Zustand in Schaltungselementen aufrechtzuerhalten, die derzeit nicht zur Berechnung beitragen.

Biologische Neuronenkreisläufe verarbeiten Informationen sehr unterschiedlich. Neuronen sind größtenteils ruhig und feuern nur, wenn ein Signalschwellenwert überschritten wird, und die Berechnung ist über das Netzwerk verteilt, anstatt in zentralisierten Verarbeitungseinheiten konzentriert zu sein. Das Gehirn erreicht bemerkenswerte kognitive Leistungen mit etwa 20 Watt kontinuierlicher Stromversorgung — ein Benchmark, den derzeitige AI-Hardware bei vergleichbaren Aufgaben nicht erreichen kann.

Neuromorphic Chips versuchen, die Energieeffizienz dieser spike-basierten, ereignisgesteuerten Architektur im Silizium zu erfassen. Anstelle von kontinuierlicher getakteter Berechnung feuern neuromorphic Prozessoren, wenn und wo Eingaben Schwellenwerte überschreiten, und verbrauchen Energie nur für aktive Verarbeitung, anstatt im Leerlauf zwischen Berechnungsschritten mit voller Leistung zu laufen.

Der 70-Prozent-Effizienzgewinn

Das Forschungsteam erzielte die 70-Prozent-Energiereduktion über mehrere Standard-AI-Benchmark-Aufgaben, einschließlich Bildklassifizierung, Natural-Language-Inferenz und Sensorfusion — die Arten von AI-Operationen, die täglich Milliarden Male in Edge-Geräten, Serverfarmen und mobilen Anwendungen ausgeführt werden. Der Energievorteil war am stärksten bei spärlichen, ereignisgesteuerten Eingaben — Sensordaten, Audioströme und intermittierende Abfragemuster — wo die Fähigkeit des neuromorphic Chips, zwischen Ereignissen im Leerlauf zu laufen, einen strukturellen Vorteil gegenüber Prozessoren bietet, die unabhängig von der Eingaberate Taktaktivität aufrechterhalten müssen.

Der Chip wurde mit einem modifizierten Standard-Halbleiterprozess hergestellt, was eine kritische praktische Unterscheidung von früheren neuromorphic Forschungsplattformen ist, die exotische Fertigung erforderten. Die Verwendung konventioneller Halbleiterinfrastruktur bedeutet, dass die Technologie potenziell über bestehende Chip-Fabriken skaliert werden könnte, anstatt dedizierte Fertigungsinvestitionen zu erfordern.

Anwendungen und Einschränkungen

Die unmittelbarsten Anwendungsziele sind Edge-AI-Szenarien: Sensorknoten in industriellem IoT, Hörgeräte und medizinische Implantate, ständige Schlüsselworterkennung in Verbraucherelektronik und autonome Fahrzeugwahrnehmungssysteme, bei denen Batterielebensdauer oder thermische Einschränkungen das für AI-Inferenz verfügbare Strombudget begrenzen. Diese Anwendungen teilen das Merkmal, dass sie kontinuierlich oder mit hoher Frequenz Inferenz auf spärlichen, realen Sensordaten ausführen — genau das Regime, in dem neuromorphic Effizienzvorteile am größten sind.

Für Rechenzentrum-AI-Workloads — insbesondere Large-Language-Model-Inferenz, bei der Abfragen dicht sind und Batch-Verarbeitung üblich ist — sind die Energievorteile weniger dramatisch. Erhebliche Softwareökosystem-Arbeit bleibt erforderlich, bevor neuromorphic Prozessoren die gesamte Palette von AI-Frameworks und -Modellen ausführen können, die auf herkömmlichen GPUs laufen, was die primäre praktische Barriere für breite Akzeptanz darstellt.

Wettbewerbslandschaft

Mehrere große Technologieunternehmen und Forschungsinstitutionen haben aktive neuromorphic Programme. Intels Loihi-Chip hat Energieeffizienzvorteile in spezifischen Aufgaben demonstriert, und IBMs TrueNorth wird seit über einem Jahrzehnt für Forschungsanwendungen verwendet. Startups, einschließlich Innatera, SpiNNcloud und BrainChip, haben kommerzielle neuromorphic Produkte entwickelt, die auf Edge-Anwendungen abzielen. Die 70-Prozent-Energiereduktion wird großes Interesse von Hyperscale-Datenzenterbetreibern generieren, die aktiv nach Technologien suchen, die die astronomischen Stromrechnungen, die mit AI-Infrastruktur verbunden sind, reduzieren können — ein Kostenfaktor, der sich zu einer zentralen strategischen Sorge für jedes große Technologieunternehmen entwickelt hat, das AI in großem Maßstab betreibt.

Dieser Artikel basiert auf Berichterstattung von Interesting Engineering. Lesen Sie den ursprünglichen Artikel.