उद्योग जगत में पहली बार बाज़ार में आने वाले सुपरमाइक्रो NVIDIA HGX™ B200 सिस्टम्स ने MLPerf® Inference v5.0 से संबंधित परिणामों पर एआई की परफ़ॉर्मेंस की लीडरशिप का प्रदर्शन किया
लेटेस्ट बेंचमार्क से पता चलता है कि NVIDIA B200 के साथ सुपरमाइक्रो सिस्टम ने प्रति सेकंड 3X टोकन जेनरेशन के साथ पिछली पीढ़ी के सिस्टम से बेहतर परफ़ॉर्म किया है
सैन जोस, कैलिफ़ोर्निया, 3 अप्रैल, 2025 /PRNewswire/ -- Super Micro Computer, Inc. (SMCI), AI/ML, HPC, क्लाउड, स्टोरेज और 5G/एज के लिए एक संपूर्ण आईटी समाधान प्रदाता, NVIDIA HGX™ B200 8-GPU का उपयोग करके कई MLPerf Inference v5.0 बेंचमार्क पर बाज़ार में पहली बार उद्योग में प्रमुख परफ़ॉर्मेंस की घोषणा कर रहा है। 4U लिक्विड-कूल्ड और 10U एयर-कूल्ड सिस्टम ने चुनिंदा बेंचमार्क में सबसे अच्छी परफ़ॉर्मेंस हासिल की। सुपरमाइक्रो ने H200 8-जीपीयू सिस्टम की तुलना में Llama2-70B और Llama3.1-405B बेंचमार्क के लिए प्रति सेकंड 3 गुना से अधिक टोकन (टोकन/एस) जेनरेशन का प्रदर्शन किया।
Supermicro के अध्यक्ष और सीईओ चार्ल्स लियांग ने कहा, "Supermicro एआई उद्योग में सबसे आगे बना हुआ है, जैसा कि 2025 में MLCommons द्वारा जारी किए गए पहले नए बेंचमार्क से पता चलता है।" "हमारी बिल्डिंग ब्लॉक वास्तुकला हमें अलग-अलग वर्कलोड के लिए अनुकूलित सिस्टम की अलग-अलग रेंज के साथ बाज़ार में प्रथम स्थान पर लाने में सक्षम बनाती है। हम अपने सिस्टम को बेहतर बनाने और AI वर्कलोड में सबसे आगे का स्थान हासिल करने के लिए NVIDIA के साथ मिलकर काम करना जारी रखेंगे।"
नए MLPerf v5.0 इंफ़्रेंस बेंचमार्क के बारे में अधिक जानें: https://mlcommons.org/benchmarks/inference-datacenter/
Supermicro एकमात्र सिस्टम विक्रेता है जो एयर-कूल्ड और लिक्विड-कूल्ड NVIDIA HGX™ B200 8-GPU सिस्टम दोनों के लिए एमएलपर्फ इंफ़रेंस परफ़ॉर्मेंस (चुनिंदा बेंचमार्क पर) का रिकॉर्ड प्रकाशित करता है। MLCommons बेंचमार्क के शुरुआत की तारीख से पहले एयर-कूल्ड और लिक्विड-कूल्ड दोनों सिस्टम प्रचालन में थीं। Supermicro के इंजीनियरों ने प्रभावशाली परफ़ॉर्मेंस प्रदर्शित करने के लिए सिस्टम और सॉफ़्टवेयर को अनुकूलित किया। परिचालन मार्जिन के अंदर, Supermicro एयर-कूल्ड B200 सिस्टम ने लिक्विड-कूल्ड B200 सिस्टम के समान ही परफ़ॉर्मेंस लेवल प्रदर्शित किया। जब हम बेंचमार्क आयोजित कर रहे थे, तब Supermicro इन सिस्टम को ग्राहकों तक पहुँचा रहा था।
MLCommons इस बात पर ज़ोर देता है कि सभी परिणामों को पुनरुत्पादित किया जा सकता हो, उत्पाद उपलब्ध हों और परिणामों का अन्य MLCommons सदस्यों द्वारा ऑडिट किया जा सके। Supermicro के इंजीनियरों ने सिस्टम और सॉफ़्टवेयर को अनुकूलित किया, जैसा कि MLCommons संबंधी नियमों द्वारा अनुमत था।
SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) और SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB) ने मिक्सट्रल 8x7B इंफ़्रेंस, मिक्सचर ऑफ़ एक्सपर्ट्स बेंचमार्क को 129,000 टोकन/सेकंड के साथ चलाने में परफ़ॉर्मेंस लीडरशिप दिखाई। Supermicro के एयर-कूल्ड और लिक्विड-कूल्ड NVIDIA B200 आधारित सिस्टम ने बड़े Llama3.1-405b मॉडल के लिए 1,000 से अधिक टोकन/सेकंड इंफ़्रेंस उपलब्ध कराया, जबकि GPU सिस्टम की पिछली जेनरेशन के परिणाम बहुत कम थे। कम लेवल के अनुमान संबंधी कार्यों के लिए, LLAMA2-70b बेंचमार्क का उपयोग करते हुए, NVIDIA B200 SXM-180GB स्थापित Supermicro सिस्टम, टियर 1 सिस्टम आपूर्तिकर्ता से उच्चतम परफ़ॉर्मेंस दर्शाता है।
विशेष रूप से:
- स्थिर डिफ्यूज़न XL (सर्वर)
SYS-A21GE-NBRT (8x B200-SXM-180GB)
#1 क्वेरीज़/s, 28.92 - llama2-70b-interactive-99 (सर्वर)
SYS-A21GE-NBRT (8x B200-SXM-180GB)
#1 टोकन/s, 62,265.70 - Llama3.1-405b (ऑफ़लाइन)
SYS-421GE-NBRT-LCC (8xB200-SXM-180GB)
#1 टोकन/s 1521.74 - Llama3.1-405b (सर्वर)
SYS-A21GE-NBRT (8x B200-SXNM-180GB)
#1 टोकन/s, 1080.31 (8-GPU नोड के लिए) - मिक्सट्रल-8x7b (सर्वर)
SYS-421GE-NBRT-LCC (8x B200-SXM-180GB)
#1 टोकन/s, 129,047.00 - मिक्सट्रल-8x7b (ऑफ़लाइन)
SYS-421GE-NBRT-LCC (8x B200-SXM-180GB)
#1 टोकन/s, 128,795.00
"MLCommons, Supermicro को MLPerf Inference v5.0 बेंचमार्क में उनके योगदान के लिए बधाई देता है। MLCommons में MLPerf के प्रमुख डेविड कैंटर ने कहा, "हम पिछली जेनरेशन के सिस्टम की तुलना में उनकी परफ़ॉर्मेंस में उल्लेखनीय बढ़ोतरी देखकर खुश हैं।" "ग्राहक परफ़ॉर्मेंस में होने वाले सुधारों से खुश होंगे, जो तटस्थ, प्रतिनिधि और पुनरुत्पादन करने लायक MLPerf से जुड़े परिणामों द्वारा मान्य हैं।"
Supermicro 100 से अधिक GPU-अनुकूलित सिस्टम के साथ एक बड़े स्तर पर एआई पोर्टफ़ोलियो उपलब्ध कराता है, जिसमें एयर-कूल्ड और लिक्विड-कूल्ड दोनों विकल्प हैं, जिसमें CPU का विकल्प है, जो सिंगल-सॉकेट अनुकूलित सिस्टम से लेकर 8-वे मल्टीप्रोसेसर सिस्टम तक है। Supermicro रैक-स्केल सिस्टम में कंप्यूटिंग, स्टोरेज और नेटवर्क घटक शामिल होते हैं, जो ग्राहक साइट पर वितरित होने के बाद उन्हें स्थापित करने के लिए आवश्यक समय को कम करते हैं।
Supermicro के NVIDIA HGX B200 8-GPU सिस्टम अगली पीढ़ी की लिक्विड-कूलिंग और एयर-कूलिंग तकनीक का उपयोग करते हैं। नव विकसित कोल्ड प्लेट्स और नई 250kW कूलेंट डिस्ट्रीब्यूशन यूनिट (CDU), समान 4U फॉर्म फैक्टर में पिछली पीढ़ी की कूलिंग क्षमता से दोगुनी से भी अधिक है। 42U, 48U, या 52U कॉन्फ़िगरेशन में उपलब्ध, नए वर्टिकल कूलेंट डिस्ट्रीब्यूशन मैनिफ़ोल्ड्स (सीडीएम) के साथ रैक-स्केल डिज़ाइन अब मूल्यवान रैक यूनिट को कवर नहीं करता है। इससे आठ सिस्टम सक्षम हो जाते हैं, जिनमें 42U रैक में 64 NVIDIA ब्लैकवेल GPU शामिल हैं, और 52U रैक में 96 NVIDIA ब्लैकवेल GPU के साथ 12 सिस्टम तक सक्षम हो जाते हैं।
नए एयर-कूल्ड 10U NVIDIA HGX B200 सिस्टम में आठ 1000W TDP Blackwell GPUs को समायोजित करने के लिए विस्तारित थर्मल हेडरूम के साथ पुनः डिज़ाइन किया गया चेसिस है। नए 10U एयर-कूल्ड सिस्टमों में से 4 को एक रैक में स्थापित और पूरी तरह से एकीकृत किया जा सकता है, जिसका घनत्व पिछली पीढ़ी के समान ही होता है, और जो 15x इंफरेंस और 3x प्रशिक्षण प्रदर्शन प्रदान करता है।
Super Micro Computer, Inc. का परिचय
Supermicro (NASDAQ: SMCI) Application-Optimized Total IT Solutions की एक वैश्विक अग्रणी कंपनी है। San Jose, कैलिफोर्निया में संस्थापित और संचालित Supermicro Enterprise, क्लाउड, AI और 5G Telco/Edge IT इन्फ्रास्ट्रक्चर के लिए बाजार में सबसे पहले नवाचार प्रदान करने के लिए प्रतिबद्ध है। हम सर्वर, AI, स्टोरेज, IoT, स्विच सिस्टमों, सॉफ्टवेयर और सहायता सेवाओं से युक्त एक संपूर्ण IT समाधान प्रदाता हैं। हमारे वैश्विक ग्राहकों के लिए क्लाउड से लेकर Edge तक अगली पीढ़ी के नवाचार को सक्षम बनाने के लिए Supermicro की मदरबोर्ड, पॉवर और चेसिस डिज़ाइन विशेषज्ञता हमारे विकास और उत्पादन को और अधिक सक्षम बनाती है। हमारे उत्पादों का हमारे कार्यस्थलों के भीतर (अमेरिका, एशिया और नीदरलैंड में) ही डिज़ाइन और निर्माण किया जाता है, जो पैमाने और कार्यकुशलता के लिए वैश्विक संचालन का लाभ उठाते हुए TCO में सुधार और पर्यावरणीय प्रभाव (ग्रीन कंप्यूटिंग) को कम करने के लिए अनुकूलित होते हैं। Server Building Block Solutions® का पुरस्कार-विजेता पोर्टफ़ोलियो हमारे सहज और पुन: प्रयोज्य बिल्डिंग ब्लॉकों से निर्मित सिस्टमों के व्यापक परिवार से चयन करके उनके सटीक कार्यभार और एप्लिकेशन के लिए अनुकूल बनाने में ग्राहकों की सहायता करता है, और फॉर्म फैक्टरों, प्रोसेसरों, मेमोरी, GPUs, भंडारण, नेटवर्किंग, पॉवर और कूलिंग समाधानों (वातानुकूलित, निर्बाध एयर कूलिंग या लिक्विड कूलिंग) के सर्वसमावेशी सैट को सपोर्ट करता है।
Supermicro, Server Building Block Solutions और We Keep IT Green, Super Micro Computer, Inc. के ट्रेडमार्क और/या पंजीकृत ट्रेडमार्क हैं।
अन्य सभी ब्रांड, नाम और ट्रेडमार्क उनके संबंधित स्वामियों की परिसंपत्ति है।
फ़ोटो - https://mma.prnewswire.com/media/2656893/Super_Micro_Computer_MLPerf.jpg
लोगो - https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg
Share this article