엔비디아GB200 NVL72와 엔비디아HGX B200 시스템이 구동하는 AI 데이터센터를 위한 슈퍼마이크로의 액체 냉각식 슈퍼클러스터, 에너지 효율적인 엑사스케일 컴퓨팅의 새로운 파라다임을 제공
슈퍼마이크로의 엔드투엔드 액체 냉각식 솔루션들은 업계로 하여금 엔비디아 블랙웰 플랫폼을 통해 지속 가능한 AI 데이터센터로 전환하도록 견인
산호세, 캘리포니아주, 2024년 10월 17일 /PRNewswire/ -- AI, 클라우드, 스토리지 및 5G/엣지를 공급하는 토탈 IT 솔루션 공급업체 슈퍼마이크로(Supermicro, Inc.)(나스닥: SMCI)는 새로운 AI 인프라의 폭발적으로 늘어나는 에너지 수요에 새로운 파라다임의 에너지 효율을 구현하기 위해 엔비디아 블랙웰 플랫폼을 통해 업계의 액체 냉각식 데이터센터로의 전환을 가속하고 있다. 슈퍼마이크로의 업계 최고의 엔드투엔드 액체 냉각식 솔루션들은 하나의 랙에서 엑사스케일 컴퓨팅을 위한 엔비디아 GB200 NVL72 플랫폼으로 구동되며, 4분기 말 본격 생산을 위한 고객을 선정하기 위해 샘플링을 시작했다. 또한 최근 발표된 슈퍼마이크로 X14 및 H14 4U 액체 냉각식 시스템과 10U 공냉식 시스템은 엔비디아 HGX B200 8GPU 시스템을 위한 생산 준비가 되어 있다.
슈퍼마이크로의 사장 겸 CEO인 찰스 량(Charles Liang)은 "우리는 지속 가능한 AI 컴퓨팅의 미래를 견인하고 있으며, 우리의 액체 냉각식 AI 솔루션들은 2024년 6월 이후 출하된 2천개 이상의 액체 냉각식 랙들을 통해 전 세계에서 가장 야심찬 몇몇 AI 인프라 프로젝트들이 빠르게 채택하고 있다"면서 "슈퍼마이크로의 엔드투엔드 액체 냉각식 솔루션은 엔비디아 블랙웰 플랫폼을 통해 하나의 랙에 들어 있는 엑사스케일 컴퓨터인 엔비디아 GB200 NVL72의 일부인 차세대 GPU의 연산 능력, 비용 효율 및 에너지 효율을 높인다. 액체 냉각식 AI 인프라와 종합적인 현장 서비스,관리 소프트웨어와 글로벌 제조 역량을 구축하면서 쌓아온 슈퍼마이크로의 폭넓은 경험은 고객들에게 가장 강력하고 지속 가능한 AI 솔루션들을 통해 데이터센터를 혁신하는 데 있어 확실한 이점을 제공한다"고 말했다.
https://www.supermicro.com/en/solutions/ai-supercluster
엔비디아 GB200 NVL72 플랫폼을 위한 슈퍼마이크로의 액체 냉각식 슈퍼클러스터(SuperClusters)는 새로운 첨단 인랙 또는 인로우 냉각액 분배 장치(CDU)와 1U 폼 팩터에 두 개의 엔비디아 GB200 그레이스 블랙웰 슈퍼칩을 수용하는 컴퓨팅 트레이용으로 설계된 맞춤형 콜드 플레이트를 갖추고 있다. 슈퍼마이크로의 엔비디아 GB200 NVL72는 슈퍼마이크로의 엔드투엔드 액체 냉각식 솔루션이 탑재된 하나의 랙에 엑사스케일 AI 컴퓨팅 기능을 제공한다. 이 랙 솔루션에는 72개의 엔비디아 블랙웰 GPU와 32개의 엔비디아 그레이스 CPU가 적용되어 있으며, 엔비디아의 5세대 NV링크 네트워크로 상호 연결되어 있다. 엔비디아 NV링크 스위치 시스템은 극도로 짧은 지연 시간을 통해 초당 130테라바이트(TB/s)의 총 GPU 통신을 실현하여 AI와 고성능 컴퓨팅(HPC) 워크로드의 성과를 향상시킨다. 이 외에도 슈퍼마이크로는 최근 발표된 엔비디아 GB200 NVL2 플랫폼, 두 개의 엔비디아 블랙웰 GPU와 두 개의 엔비디아 그레이스 CPU가 타이트하게 결합되고 대규모 LLM 추론, RAG, 데이터 처리, HPC 애플리케이션과 같은 다양한 워크로드에 쉽게 전개할 수 있는 2U 공냉식 시스템을 지원한다.
슈퍼마이크로 최고의 4U 액체 냉각식 시스템과 새로운 10U 공냉식 시스템은 이제 엔비디아 HGX B200 8-GPU 시스템을 지원하며 생산 준비가 완료되었다. 새로 개발된 콜드 플레이트와 250kW 용량의 인랙 냉각액 분배 장치는 8GPU 시스템의 성능과 효율을 극대화하여 하나의 48U 랙에 64개의 1000W 엔비디아 블랙웰 GPU와 16개의 500W CPU를 제공한다. 새로운 10U 공냉식 시스템 최대 4개까지를 하나의 랙에 설치하여 완전히 통합할 수 있는데 이는 이전 세대와 동일한 밀도이면서도 최대 15배의 추론과 3배의 훈련 성능을 제공한다.
슈퍼마이크로의 종합적인 데이터센터 관리 플랫폼인 슈퍼클라우드 컴포저(SuperCloud Composer) 소프트웨어는 압력, 습도, 펌프 및 밸브 상태 등 액체 냉각식 시스템과 랙, 냉각액 분배 장치, 냉각 타워에 대한 핵심 정보를 모니터링할 수 있는 강력한 도구를 제공한다. 슈퍼클라우드 컴포저의 액체 냉각식 컨설트 모듈(LCCM)은 운영 비용을 최적화하고 액체 냉각식 데이터센터들의 무결성을 관리한다.
수 조 단위의 매개변수 AI 모델을 위해 인프라를 확장하는 슈퍼마이크로는 엔비디아 블루필드(BlueField®)-3 슈퍼NIC와 400Gb/s의 엔비디아 커넥트X(ConnectX®)-7, 엔비디아 커넥트X®-8, 스펙트럼(Spectrum™)-4, 엔비디아 퀀텀(Quantum)-3을 포함하여 인피니밴드와 이더넷 모두에 네트워킹 혁신을 채택하는 데 앞장서서 엔비디아 블랙웰 플랫폼을 위한 800Gb/s의 네트워킹을 구현한다. 슈퍼마이크로의 4U 액체 냉각식 및 8U 공냉식 엔비디아 HGX H100과 H200 시스템 클러스터가 탑재된 엔비디아 스펙트럼-X™ 이더넷은 이제 현재까지 전개된 최대의 AI 중 하나를 구동한다.
슈퍼마이크로는 개념 증명(PoC)부터 본격적인 전개에 이르기까지 필요한 모든 기술, 액체 냉각, 네트워킹 솔루션, 현장 설치 서비스를 제공하는 원스톱 숍이다. 슈퍼마이크로는 다양한 GPU, CPU, 메모리 모듈에 최적화된 맞춤형 콜드 플레이트와 복수의 CDU 폼 팩터 및 용량, 매니폴드, 호스, 커넥터, 냉각 타워, 모니터링 및 관리 소프트웨어를 모두 아우르는 종합적인 자체 설계 액체 냉각 생태계를 구현한다. 이 엔드투엔드 솔루션은 랙 수준의 구성에 원활하게 통합되어 시스템 효율을 크게 높이고 시스템 과열 현상을 완화하며, 이와 동시에 AI 시대에 데이터센터 운영에 들어가는 총소유비용(TCO)과 환경 영향 둘 모두를 줄인다.
2024 OCP 글로벌 서밋에 전시한 슈퍼마이크로 시스템
- 엔비디아HGX B200 8-GPU 시스템이 탑재된 새로운 X14 4U 액체 냉각식 시스템
- 슈퍼마이크로의 슈퍼클러스터 엔비디아 GB200 NVL72 플랫폼 4
- 엔비디아HGX H200 8-GPU 시스템이 탑재된 H13 4U 액체 냉각식 시스템
- X14 JBOF 시스템
- OCP DC-MHS 설계가 적용된 X14 1U 클라우드DC
2024년 10월 15-17일에 캘리포니아 산호세에서 열리는 OCP 글로벌 서밋 부스 #21에서 상세 정보를 입수하기 바란다. .
슈퍼마이크로컴퓨터
슈퍼마이크로(나스닥: SMCI)는 애플리케이션에 최적화된 토탈 IT 솔루션 분야 글로벌 리더이다. 캘리포니아 산호세에서 설립되어 운영되고 있는 슈퍼마이크로는 엔터프라이즈, 클라우드, AI 및 5G 통신사/엣지 IT 인프라를 위한 혁신 제품을 최초로 출시하고자 하는 의지를 갖고 있다. 당사는 서버, AI, 스토리지, IoT, 스위치 시스템, 소프트웨어와 지원 서비스를 공급하는 토탈 IT 솔루션 공급업체이다. 슈퍼마이크의 마더보드, 전원 및 섀시 설계 전문 지식은 또한 당사의 개발 및 생산을 가능하게 하며 전세계 고객들을 위해 클라우드에서 엣지에 이르는 차세대 혁신을 실현한다. 당사 제품들은 사내(미국, 아시아 및 네덜란드)에서 설계 및 제조되며 규모와 효율성을 위해 글로벌 운영을 활용하고 TCO를 개선하고 환경 영향을 줄이도록 최적화되었다(그린 컴퓨팅). 고객들은 수상 경력이 있는 서버 빌딩 블록 솔루션즈(Server Building Block Solutions®)포트폴리오를 통해 폼 팩터, 프로세서, 메모리, GPU, 스토리지, 네트워킹, 전력 및 냉각 솔루션(에어컨, 프리 공냉 또는 액체 냉각)의 종합 세트를 지원하는 당사의 유연하고 재사용 가능한 빌딩 블록으로 구축된 다양한 시스템 제품군 중에서 선택함으로써 자신들의 정확한 워크로드와 애플리케이션을 최적화할 수 있다.
Supermicro, Server Building Block Solutions와 We Keep IT Green은 슈퍼마이크로컴퓨터 주식회사의 상표 및/혹은 등록 상표이다.
기타 모든 브랜드, 명칭과 상표들은 그들 각 소유자들의 재산이다.
사진 - https://mma.prnewswire.com/media/2531103/Supermicro_Nvidia_Blackwell_AI.jpg
로고 - https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg
이 기사 공유