HBM unterscheidet sich vom herkömmlichen DDR-Speicher durch sein vertikales 3D-TSV (Through-Silicon Via)-Verbindungsdesign. Mehrere DRAM-Dies werden vertikal gestapelt und über Siliziumdurchgänge verbunden. Anschließend werden sie zusammen mit einem Logik-Die (in der Regel eine GPU oder ein KI-Beschleuniger) auf einem Silizium-Interposer verpackt.

Öffentlichen Berichten zufolge hat der Flash-Speicherriese SanDisk für November eine deutliche Erhöhung der NAND-Flash-Vertragspreise angekündigt, die bis zu 50% betragen. Diese Nachricht erregte sofort die Aufmerksamkeit der gesamten Speicherlieferkette und veranlasste die Branche, die künftigen Markttrends zu überdenken.

Wir können uns eine SSD als eine effizient betriebene intelligente Stadt vorstellen. Die NAND-Flash-Chips, die Daten speichern, sind wie Grundstücke und Gebäude in der Stadt, die physischen Raum für die Datenspeicherung bieten. Der SSD-Controller ist wie die Stadtverwaltung und die Verkehrsleitstelle.

High-Bandwidth Flash ist kein völlig neues Speichermedium, sondern vielmehr eine clevere architektonische Innovation. Der Kerngedanke besteht darin, den 3D-NAND-Flash-Speicher, der in unserem täglichen Leben häufig vorkommt (in Handys und Solid-State-Laufwerken), mit der fortschrittlichen Verpackungs- und Verbindungstechnologie von HBM zu kombinieren, die üblicherweise in der Hochleistungsinformatik eingesetzt wird.

m Jahr 2025 hat die künstliche Intelligenz (KI) die Phase der frühen Experimente und der anfänglichen Einführung hinter sich gelassen und tritt nun in eine Phase der breiten Anwendung und des großtechnischen Einsatzes ein. Ob es sich um das Training von Modellen in extrem großem Maßstab oder um Schlussfolgerungen mit geringer Latenz in Geschäftsanwendungen handelt, die Anwendungsszenarien und Datenmengen von KI wachsen explosionsartig.