Huawei stellt den „OceanStor M900 Context Memory Storage" vor, um die KI-Inferenz in Hyperscale-Rechenzentren zu beschleunigen

SHANGHAI, 17. September 2026 /PRNewswire/ -- Auf der HUAWEI CONNECT 2026 stellte David Wang, stellvertretender Vorstandsvorsitzender und rotierender Vorsitzender von Huawei, in seiner Keynote offiziell den OceanStor M900 Context Memory Storage vor. Das Produkt wurde für KI-Inferenz in Hyperscale-Rechenzentren entwickelt und stellt SuperPoDs einen vollständig gemeinsam genutzten Speicherbereich zur Verfügung, der eine Kapazität im PB-Bereich und eine Leistung im TB/s-Bereich bietet. Dies markiert einen Wandel in der KI-Infrastruktur weg von einem rechenzentrierten Modell hin zu einer engen Zusammenarbeit zwischen Rechenleistung, Netzwerk und Speicher. Dies wird dazu beitragen, die Rechenleistung von SuperPoDs voll auszuschöpfen.

2026 hat sich der Übergang der KI von technologischen Durchbrüchen hin zur groß angelegten Implementierung beschleunigt. KI-Anwendungen haben sich von Chatbots zu Agenten weiterentwickelt, die in der Lage sind, komplexe Aufgaben autonom zu erledigen. Diese Agenten finden in kritischen Sektoren breite Anwendung und markieren den Beginn des Zeitalters der agentenbasierten KI.

Da große Modelle auf eine Größenordnung von 10 Billionen Parametern anwachsen, werden SuperPoDs zur optimalen Wahl für die KI-Infrastruktur. Gängige große Modelle unterstützen bereits Kontextfenster mit mehr als einer Million Tokens; Multi-Turn-Inferenz und komplexe Aufgaben sind zur Norm geworden, und die während der Inferenz generierten KV-Cache-Daten nehmen weiter zu. Diese Trends haben On-Chip-Speicher und DRAM hinsichtlich Kapazität und Kosteneffizienz an ihre Grenzen gebracht. Es hat sich in der Branche als Konsens etabliert, ein mehrschichtiges Speichersystem aufzubauen, das On-Chip-Speicher, DRAM und SSDs koordiniert, um einen vollständig gemeinsam genutzten Speicherbereich mit enormer Kapazität zu schaffen.

Huawei hat den „OceanStor M900 Context Memory Storage" eingeführt, um die Engpässe bei der Speicherkapazität bei Inferenz mit extrem langem Kontext und Multi-Turn-Inferenz zu überwinden. OceanStor M900 nutzt das UnifiedBus-Netzwerk, um einen globalen, mehrstufigen KV-Cache im PB-Maßstab mit One-Hop-Verbindungen aufzubauen. Dadurch wird das Rechenleistungspotenzial von SuperPoDs voll ausgeschöpft und die KI-Inferenz in Hyperscale-Rechenzentren beschleunigt. Der OceanStor M900 Context Memory Storage verfügt über drei Schlüsselfunktionen:

Kapazitätsgrenzen überwinden, um groß angelegte KI mit massivem Speicher zu ermöglichen

Angetrieben durch das hochgeschwindigkeitsfähige UnifiedBus-Verbindungsnetzwerk erreicht der KV-Cache eine globale Bündelung und gemeinsame Nutzung mit mehrstufigem Speicher. Der KV-Cache der SuperPoDs wird von On-Chip-Speicher und DRAM auf SSDs erweitert, wodurch ein einzelner Cluster eine Kapazität von 64 PB bereitstellen kann. Die verfügbare KV-Cache-Kapazität pro NPU wird von Gigabyte auf Terabyte erhöht, wodurch mehr Kontext gespeichert, gemeinsam genutzt und wiederverwendet werden kann. Dies steigert die Trefferquote des KV-Caches erheblich.

Steigerung der Inferenzleistung zur vollen Ausschöpfung der Rechenleistung

OceanStor M900 ist die branchenweit erste Architektur, die CPU, Netzwerkcontroller und NAND-Controller integriert. Sie bietet native KV-Semantik, um eine One-Hop-Verbindung von der NPU des SuperPoDs zu den SSDs zu ermöglichen. Dadurch entfallen Protokollkonvertierung und CPU-Weiterleitung, wodurch die Zugriffslatenz von Millisekunden auf 60 Mikrosekunden sinkt – eine Reduzierung um 90 %. Ein einzelner Cluster liefert eine aggregierte Zugriffsbandbreite von 40 TB/s, was 1,5-mal höher ist als bei vergleichbaren Lösungen. In typischen KI-Programmierszenarien verdoppelt diese Architektur den Token-Durchsatz des Inferenzclusters und halbiert die Zeit bis zum ersten Token, wodurch Rechenleistung in Produktivität umgewandelt wird.

Senkung der Token-Kosten für eine kostengünstige Einführung von KI in großem Maßstab

OceanStor M900 nutzt die branchenweit erste KV-bewusste adaptive Speichertechnologie, die den Lebenszyklus des KV-Caches anhand des Datenwerts vorhersagt und Daten intelligent auf die Speichermedien verteilt. Diese Technologie ermöglicht bis zu 24 Laufwerksschreibvorgänge pro Tag (DWPD), wodurch die Lebensdauer der SSDs um das 16-Fache verlängert und die Stabilität über drei Jahre gewährleistet wird. Durch die Reduzierung der Kosten für den Medienaustausch sowie für Betrieb und Wartung senkt sie die langfristigen Kosten einer groß angelegten KI-Inferenzinfrastruktur und ermöglicht eine schnellere Einführung von KI.

Da KI in alle möglichen Branchen und deren wichtige Produktionssysteme vordringt, entwickelt sich die KI-Infrastruktur von einem rechenzentrierten Modell hin zu einer engeren Zusammenarbeit zwischen Rechenleistung, Netzwerk und Speicher. Ein Kontextspeicher wird unerlässlich sein, um die Kapazität und Zugriffseffizienz von Hyperscale-Inferenz-KV-Caches kontinuierlich zu verbessern.