Schwerpunkte

Neue Speicherarchitektur mit KI

Zweifache Leistung, 70 % weniger Energieaufnahme

18. Februar 2021, 12:00 Uhr   |  Heinz Arnold

Zweifache Leistung, 70 % weniger Energieaufnahme
© Samsung

Samsung hat den HBM-PIM mit einer eigenen Recheneinheit ausgestattet, um den Datenverkehr zwischen Prozessor und Speicher drastisch zu reduzieren.

Samsung hat erstmals KI in ein High Bandwidth Memory integriert, was die Systemperformance verdoppelt und die Leistungsaufnahme um 70 Prozent senkt.

Als einen »Durchbruch« feiert Samsung den neuen HBM-Speicher, den die Ingenieure mit einer Processing-in-Memory-Architektur (PIM) und KI kombiniert haben. Die KI bringt leistungsfähige Rechenleistung in das High Bandwidth Memory (HBM), um die Datenverarbeitung in großen Datenzentren, im High Performance Computing (HPC) und in KI-gestützten mobilen Geräten zu beschleunigen.

Details zum neuen HBM-PIM wird Samsung in einem Paper auf der International Solid-State Circuits Virtual Conference (ISSCC) präsentieren.

»Es handelt sich um das weltweit erste programmierbare HBM-PIM, das speziell für den Einsatz im KI-Umfeld entwickelt wurde. Dazu zählen HPC, Training und Inferference«, sagt Kwangil Park, Senior Vice President of Memory Product Planning von Samsung Electronics. »Wir werden eng mit den Herstellern von KI-Systemen zusammenarbeiten, um auf Basis dieses Durchbruchs neue auf der PIM-Architektur basierende HBM-Typen zu entwickeln.«

In Computern auf Basis der heute vorwiegend verwendeten von-Neumann-Architektur arbeiten Prozessor und Speicher getrennt voneinander. Deshalb müssen ständig Daten zwischen Prozessor und Speicher hin- und hergeschoben werden. Dies hat sich wegen der stetig steigenden Datenmengen als entscheidender Flaschenhals erwiesen.

Dagegen bringt der neue HBM-PIM die Rechenleistung direkt dorthin, wo die Daten gespeichert sind: Denn in jeder Speicherbank ist ein DRAM-optimierte KI-Einheit integriert, do dass die Daten nicht erst n den Prozessor geschickt werden müssen. Das ermöglicht die parallele Verarbeitung und verringert die Anzahl der auszutauschenden Daten. Das Ergebnis: erhebliche Leistungssteigerung und deutlich reduzierte Leistungsaufnahme: Eingebaut in den »HBM2 Aquabolt« von Samsung steigert das HBM-PIM die System-Perfomance um mehr als das Doppelte, die Leistungsaufnahme fällt sogar um mehr als 70 Prozent. Der HBM-PIM lässt sich einfach gegen vorhandene Speicher austauschen, weil keine Hard- oder Software-Änderungen erforderlich sind.  

Den HBM-PIM testet Samsung gerade in den KI-Beschleunigern führender AI-Solution-Partners. Die Validierungen werden voraussichtlich in der ersten Hälfte dieses Jahres abgeschlossen sein.

Auf Facebook teilenAuf Twitter teilenAuf Linkedin teilenVia Mail teilen

Das könnte Sie auch interessieren

Performance plus Flexibiliät - neue Klasse von KI-ASICs
KI gibt Chiplets Schwung
Apple kauft Smartphone-Modem-Geschäft von Intel
Hoffnungsträger heterogene Integration
Chiplets – Chance für die europäische Industrie
Künstliche Intelligenz fordert Speicher

Verwandte Artikel

SAMSUNG Semiconductor Europe GmbH