Marvell Structera X: CXL-Controller für bis zu 9 TByte RAM
Mit den neuen Speicher-Controllern lassen sich Server um bis zu 9 TByte Arbeitsspeicher erweitern. Bis zu vier Server können sich die zusätzliche Kapazität teilen. Dafür unterstützt die neue Marvell Structera-X-Serie DDR4 und DDR5 sowie die Schnittstellen CXL 3.2 und PCIe 6.0. Erste Muster sind für Anfang 2027 geplant.
Marvell hat zwei neue Speicher-Controller für Compute Express Link (CXL) vorgestellt. Der Structera X 3406 soll bis zu neun TByte DDR4 über 18 RDIMM-Steckplätze anbinden. Der Structera X 3506 unterstützt bis zu sechs TByte DDR5 über zwölf Steckplätze. Beide nutzen CXL 3.2 und PCIe 6.0. Sie bieten jeweils sechs Speicherkanäle statt bisher vier. Mit 256-GByte-RDIMMs lassen sich derzeit allerdings nur 4,5 TByte DDR4 bzw. drei TByte DDR5 bestücken.
Bis zu vier Hosts sollen auf den Speicher eines Controllers zugreifen können. Für die PCIe-6.0-x16-Anbindung nennt Marvell eine gesamte Bandbreite von bis zu 256 GByte/s. Die Kapazität lässt sich so mehreren Servern bereitstellen. Das ist etwas anderes, als den bereits eingebauten Arbeitsspeicher dieser Server untereinander zu teilen.
Die Controller unterstützen außerdem die verlustfreie LZ4-Kompression. Je nach Daten sollen damit zwei- bis dreimal so viele Informationen in den verfügbaren Speicher passen. Für das Komprimieren und Dekomprimieren nennt Marvell bis zu 250 GByte/s. Wie viel Kapazität sich tatsächlich einsparen lässt, hängt von den Daten ab.
CXL-Speicher für KI-Inferenz und KV-Cache
Ein Einsatzgebiet ist die KI-Inferenz. Große Sprachmodelle speichern im sogenannten KV-Cache bereits berechnete Informationen, um sie bei weiteren Antworten wiederzuverwenden. Lange Kontexte benötigen dafür viel RAM. Laut Marvell soll sich die Zeit bis zum ersten ausgegebenen Token gegenüber der ersten Structera-X-Generation bei gleicher Kontextlänge um 40 bis 50 Prozent verkürzen. Unabhängige Tests liegen noch nicht vor.
Der DDR4-Controller könnte auch für Betreiber interessant sein, die geeignete ältere Speichermodule weiterverwenden wollen. Ob sich das lohnt, hängt von der vorhandenen Hardware und den Kosten ab. CXL-Speicher ist zudem nicht für jede Anwendung ein Ersatz für direkt angebundenen RAM. Der zusätzliche Übertragungsweg erhöht die Latenz.
Erste Muster der Structera X 3406 und 3506 sollen im ersten Quartal 2027 verfügbar sein. Preise und ein Termin für den Serienstart stehen noch nicht fest.