Os sistemas NVIDIA HGX™ B200 são os primeiros do mercado a demonstrar liderança excepcional em desempenho de IA, comprovada pelos resultados do MLPerf® Inference v5.0
Os benchmarks mais recentes mostram que os sistemas Supermicro com o NVIDIA B200 superaram a geração anterior, oferecendo uma taxa de geração de tokens por segundo três vezes maior
SAN JOSE, Califórnia, 3 de abril de 2025 /PRNewswire/ -- A Super Micro Computer, Inc. (SMCI), fornecedora de soluções completas de TI para IA/ML, HPC, nuvem, armazenamento e 5G/Edge, anuncia um desempenho líder do setor no mercado em diversos benchmarks do MLPerf Inference v5.0, utilizando a NVIDIA HGX™ B200 8-GPU. Os sistemas 4U resfriados a líquido e 10U resfriados a ar obtiveram o melhor desempenho em benchmarks selecionados. A Supermicro demonstrou uma geração de tokens por segundo (Token/s) mais de três vezes superior nos benchmarks Llama2-70B e Llama3.1-405B em comparação com os sistemas H200 com 8 GPUs.4o
"A Supermicro continua sendo no setor de IA, como evidenciado pelos primeiros novos benchmarks lançados pela MLCommons em 2025", disse Charles Liang, presidente e CEO da Supermicro. "Nossa arquitetura modular nos permite ser os primeiros no mercado com uma ampla variedade de sistemas otimizados para diversas cargas de trabalho. Continuamos colaborando estreitamente com a NVIDIA para aprimorar nossos sistemas e garantir uma posição de liderança em cargas de trabalho de IA".
Saiba mais sobre os novos benchmarks de inferência do MLPerf v5.0 em: https://mlcommons.org/benchmarks/inference-datacenter/
A Supermicro é o único fornecedor de sistemas a publicar desempenho de inferência MLPerf recorde (em benchmarks selecionados) para sistemas NVIDIA HGX™ B200 de 8 GPUs resfriados a ar e a líquido. Tanto os sistemas resfriados a ar quanto os resfriados a líquido estavam operacionais antes da data de início do benchmark do MLCommons. Os engenheiros da Supermicro otimizaram os sistemas e o software para demonstrar um desempenho excepcional. Dentro da margem operacional, o sistema B200 resfriado a ar da Supermicro apresentou o mesmo nível de desempenho que o sistema B200 resfriado a líquido. A Supermicro tem fornecido esses sistemas aos clientes enquanto realizamos os benchmarks.
O MLCommons enfatiza que todos os resultados devem ser reproduzíveis, que os produtos estejam disponíveis e que os resultados possam ser auditados por outros membros do MLCommons. Os engenheiros da Supermicro otimizaram os sistemas e o software, conforme permitido pelos regulamentos do MLCommons.
O SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) e o SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB) demonstraram liderança de desempenho executando os benchmarks Mixtral 8x7B Inference, Mixture of Experts com 129.000 tokens/segundo. O sistema NVIDIA B200 resfriado a ar e a líquido da Supermicro forneceu mais de 1.000 tokens/segundo de inferência para o grande modelo Llama3.1-405b, enquanto as gerações anteriores de sistemas de GPU tiveram resultados significativamente menores. Para tarefas de inferência menores, usando o benchmark LLAMA2-70b, um sistema Supermicro com o NVIDIA B200 SXM-180GB instalado demonstra o mais alto desempenho de um fornecedor de sistema de Nível 1.
Especificamente:
- Stable Diffusion XL (servidor)
SYS-A21GE-NBRT (8x B200-SXM-180GB)
#1 consultas/s, 28,92 - llama2-70b-interactive-99 (servidor)
SYS-A21GE-NBRT (8x B200-SXM-180GB)
#1 tokens/s, 62.265,70 - Llama3.1-405b (off-line)
SYS-421GE-NBRT-LCC (8xB200-SXM-180GB)
#1 tokens/s 1521,74 - Llama3.1-405b (servidor)
SYS-A21GE-NBRT (8x B200-SXNM-180GB)
#1 tokens/s, 1080.31 (para um nó de 8 GPUs) - mixtral-8x7b (servidor)
SYS-421GE-NBRT-LCC (8x B200-SXM-180GB)
#1 tokens/s, 129.047,00 - mixtral-8x7b (off-line)
SYS-421GE-NBRT-LCC (8x B200-SXM-180GB)
#1 tokens/s, 128.795,00
"O MLCommons parabeniza a Supermicro por sua participação no benchmark MLPerf Inference v5.0. Estamos satisfeitos em ver que seus resultados demonstram ganhos de desempenho significativos em comparação com gerações anteriores de sistemas", disse David Kanter, chefe do MLPerf na MLCommons. "Os clientes ficarão satisfeitos com as melhorias de desempenho alcançadas, validadas pelos resultados neutros, representativos e reproduzíveis do MLPerf".
A Supermicro oferece um portfólio abrangente de IA com mais de 100 sistemas otimizados para GPU, com opções de resfriamento a ar e resfriamento a líquido, com opções de CPUs, desde sistemas otimizados de soquete único até sistemas multiprocessadores de 8 vias. Os sistemas em escala de rack da Supermicro incluem componentes de computação, armazenamento e rede, reduzindo o tempo necessário para a instalação após a entrega ao cliente.
Os sistemas NVIDIA HGX B200 de 8 GPUs da Supermicro utilizam tecnologia de resfriamento a líquido e a ar de última geração. As placas frias recentemente desenvolvidas e a nova unidade de distribuição de líquido de arrefecimento (CDU) de 250 kW mais que dobram a capacidade de resfriamento da geração anterior no mesmo formato 4U. Disponível em configurações de 42U, 48U ou 52U, o design em escala de rack com os novos coletores de distribuição de líquido de arrefecimento verticais (CDM) não ocupa mais unidades de rack valiosas. Isso permite oito sistemas, compreendendo 64 GPUs NVIDIA Blackwell em um rack de 42U, e até 12 sistemas com 96 GPUs NVIDIA Blackwell em um rack de 52U.
O novo sistema NVIDIA HGX B200 10U resfriado a ar apresenta um chassi redesenhado com espaço térmico expandido para acomodar oito GPUs Blackwell de 1000 W TDP. Até 4 dos novos sistemas resfriados a ar de 10U podem ser instalados e totalmente integrados em um rack, a mesma densidade da geração anterior, proporcionando até 15 vezes a inferência e 3 vezes o desempenho de treinamento.
Sobre a Super Micro Computer, Inc.
A Supermicro (NASDAQ: SMCI) é líder mundial em soluções totais de TI otimizadas para aplicativos. Fundada e operando em San Jose, Califórnia, a Supermicro está comprometida em oferecer inovação pioneira no mercado para infraestrutura corporativa, nuvem, IA e TI 5G de telecomunicações/borda. Somos um provedor de soluções totais de TI com servidores, IA, armazenamento, IoT, sistemas de switch, software e serviços de suporte. A experiência da Supermicro em design de placa-mãe, alimentação e chassi permite ainda mais nosso desenvolvimento e produção, possibilitando a inovação de última geração da nuvem à borda para nossos clientes globais. Nossos produtos são projetados e fabricados internamente (nos EUA, Taiwan e Países Baixos), aproveitando as operações internacionais para obter escala e eficiência, sendo otimizados para melhorar o custo total de propriedade (TCO) e reduzir o impacto ambiental (computação ecológica). O premiado portfólio Server Building Block Solutions® permite que os clientes otimizem sua carga de trabalho e aplicação com exatidão ao selecionar entre uma ampla família de sistemas construídos a partir de nossos blocos de construção flexíveis e reutilizáveis, os quais suportam um conjunto abrangente de soluções de fatores de forma, processadores, memória, GPUs, armazenamento, rede, energia e resfriamento (ar-condicionado, resfriamento ao ar livre ou resfriamento a líquido).
Supermicro, Server Building Block Solutions e We Keep IT Green são marcas comerciais ou marcas registradas da Super Micro Computer, Inc.
Todas as outras marcas, nomes e marcas registradas são propriedade de seus respectivos proprietários.
Foto - https://mma.prnewswire.com/media/2657132/Super_Micro_Computer_MLPerf.jpg
Logotipo - https://mma.prnewswire.com/media/1443241/5250409/Supermicro_Logo.jpg
FONTE Super Micro Computer, Inc.
Partilhar este artigo