화웨이, 초대형 데이터센터 AI 추론 가속 위한 OceanStor M900 Context Memory Storage 공개

상하이 2026년 9월 18일 /PRNewswire/ -- 데이비드 왕(David Wang) 화웨이(Huawei) 부회장 겸 순환 회장이 화웨이 커넥트 2026(HUAWEI CONNECT 2026)에서 기조연설을 통해 OceanStor M900 Context Memory Storage를 공식 공개했다. 초대형 데이터센터의 AI 추론을 위해 설계된 제품으로 SuperPoD에 PB급 용량과 TB/s급 성능의 완전 공유형 메모리 공간을 제공한다. 이는 AI 인프라가 컴퓨팅 중심 모델에서 컴퓨팅, 네트워크, 스토리지 간 협업 강화로 전환되고 있음을 보여주는 것이다. 이를 통해 SuperPoD의 컴퓨팅 성능을 최대한 끌어낼 수 있다.

2026년에는 AI가 기술적 혁신 단계에서 대규모 구축 단계로 빠르게 전환되고 있다. AI 애플리케이션은 챗봇에서 복잡한 작업을 자율적으로 완료할 수 있는 에이전트로 진화했다. 이 에이전트들이 핵심 산업 분야에 폭넓게 도입되면서 에이전틱 AI 시대가 시작되고 있다.

대규모 모델의 파라미터 수가 10조 개 규모로 늘어나면서 SuperPoD가 AI 인프라의 최적 선택지로 부상하고 있다. 주류 대규모 모델은 이미 100만 토큰이 넘는 컨텍스트 윈도를 지원하고 있으며, 멀티턴 추론과 복잡한 작업이 일반화되고 추론 과정에서 생성되는 KV 캐시 데이터도 지속적으로 증가하고 있다. 이러한 추세로 인해 온칩 메모리와 DRAM은 용량과 비용 대비 효율성 측면에서 한계에 직면했다. 온칩 메모리, DRAM, SSD를 연계하는 다계층 스토리지 시스템을 구축해 대용량의 완전 공유형 메모리 공간을 조성하는 것이 업계의 공통 방향으로 자리 잡았다.

화웨이는 초장문 컨텍스트와 멀티턴 추론에서 발생하는 메모리 용량 병목 현상을 해소해 주는 OceanStor M900 Context Memory Storage를 공개했다. OceanStor M900은 UnifiedBus 네트워크를 활용해 원홉 연결 방식의 PB급 글로벌 다계층 KV 캐시를 구축한다. 이를 통해 SuperPoD의 컴퓨팅 성능 잠재력을 최대한 끌어내고 초대형 데이터센터의 AI 추론을 가속한다. OceanStor M900 Context Memory Storage는 다음과 같은 세 가지 핵심 역량을 갖췄다.

용량 한계를 돌파해 대규모 AI에 방대한 메모리 제공

KV 캐시는 고속 UnifiedBus 인터커넥트 네트워크를 기반으로 계층형 스토리지를 통해 글로벌 풀링과 공유를 구현한다. SuperPoD의 KV 캐시는 온칩 메모리와 DRAM에서 SSD까지 확장되며, 단일 클러스터에서 64PB의 용량을 제공할 수 있다. NPU당 사용 가능한 KV 캐시 용량도 기가바이트급에서 테라바이트급으로 확대돼 더 많은 컨텍스트를 저장, 공유, 재사용할 수 있다. 이를 통해 KV 캐시 적중률이 크게 향상된다.

추론 성능 향상으로 컴퓨팅 성능 극대화

OceanStor M900은 CPU, 네트워크 컨트롤러 유닛, NAND 컨트롤러 유닛을 통합한 업계 최초의 아키텍처다. 네이티브 KV 시맨틱을 제공해 SuperPoD의 NPU에서 SSD까지 원홉 연결을 지원한다. 이에 따라 프로토콜 변환과 CPU 포워딩이 필요하지 않아 액세스 지연 시간이 밀리초 단위에서 60마이크로초로 줄어들며 90% 감소한다. 클러스터 하나가 총 40TB/s의 액세스 대역폭을 제공하는데, 이는 동종 솔루션보다 1.5배 높은 수준이다. 일반적인 AI 프로그래밍 시나리오에서 이 아키텍처는 추론 클러스터의 토큰 처리량을 2배로 높이고 첫 토큰 생성 시간을 절반으로 단축해 컴퓨팅 성능을 실질적인 생산성으로 전환해 준다.

토큰 비용 절감으로 경제적인 대규모 AI 도입 지원

OceanStor M900은 업계 최초의 KV 인지형 적응형 스토리지 기술을 적용했다. 이 기술은 데이터 가치를 기반으로 KV 캐시의 수명주기를 예측하고 데이터를 각 스토리지 미디어에 지능적으로 분산해 준다. 이를 통해 하루 최대 24회의 전체 드라이브 쓰기(DWPD)를 지원하고 SSD 내구성을 16배 높여 3년간 안정적인 운영을 보장한다. 미디어 교체 비용과 운영 및 유지보수(O&M) 비용을 줄여 대규모 AI 추론 인프라의 장기 비용을 낮추고 AI 도입 속도를 높여준다.

AI가 다양한 산업에서 주요 생산 시스템으로 확대됨에 따라 AI 인프라는 컴퓨팅 중심 모델에서 컴퓨팅-네트워크-스토리지 협업 강화로 진화하고 있다. 컨텍스트 메모리 스토리지는 초대형 추론용 KV 캐시의 용량과 액세스 효율을 지속적으로 높이는 데 필수 요소가 될 전망이다.

SOURCE Huawei