मॉडल तुलनाएँ

NVIDIA वेरा रूबिन एनवीएल72 एमएलपरफ प्रशिक्षण v6.1 में ब्लैकवेल अल्ट्रा के प्रदर्शन से दोगुना तक प्राप्त करता है

Vera Rubin NVL72 छह MLPerf v6.1 बेंचमार्क का नेतृत्व करता है, 2x ब्लैकवेल तक; 10,240 GPUs ने सभी सात वर्कलोड को कवर करते हुए सबसे तेज़ समय निर्धारित किया।

NVIDIA वेरा रूबिन एनवीएल72 एमएलपरफ प्रशिक्षण v6.1 में ब्लैकवेल अल्ट्रा के प्रदर्शन से दोगुना तक प्राप्त करता है

मुख्य जानकारी

  • NVIDIA Vera Rubin एनवीएल 72 ने सात में से छह MLPerf Training v6.1 बंद-विभाजन बेंचमार्क का नेतृत्व किया, जो अनुकूलित GB300 NVL72 के मुकाबले प्रति ट्रेन 2x तक तेज समय प्रदान करता है।
  • GB300 NVL72 ने सबसे तेज निरपेक्ष DeepSeek-V3 671B परिणाम को 10,240 GPUs पर 1.38 मिनट में सेट किया, जबकि Vera Rubin 256 से 97% GPUs तक स्केलिंग दक्षता के ऊपर बनाए रखा।
  • Vera Rubin NVL72 ने नए Qwen3.5 397B GRPO सुदृढीकरण-सीखने के बेंचमार्क को 10.44 मिनट में जीता, जिसमें software परिपक्वता NeMo RL, TensorRT- LLM और vLLM बैकएंड्स दिखाई गई।
  • परिणाम सह-डिजाइन किए गए एनवीलिंक, CPU सिमुलेशन क्षमता, कनेक्टएक्स -9 नेटवर्किंग और परिपक्व CUDA software को पूर्व प्रशिक्षण से लेकर एजेंटिक पोस्ट-प्रशिक्षण तक व्यापक AI कार्यभार का समर्थन करते हैं।

मेटा विवरण: NVIDIA Vera Rubin एनवीएल72 छह MLPerf Training वी6.1 बेंचमार्क में अग्रणी है, जबकि जीबी 300 एनवीएएल 72 GPUs पर सबसे तेज़ पूर्ण DeepSeek-V3 671B समय दर्ज करता है।

 NVIDIA Vera Rubin NVL72 Achieves Up to Twice the Performance of Blackwell Ultra in MLPerf Training v6.1

टैगः NVIDIA , MLPerf प्रशिक्षण, वेरा रुबिन, GB300 NVL72, AI एजेंट

विशेष रुप से प्रदर्शित छवि: संबद्ध server रैक और प्रवाहशील डेटा पथों का अमूर्त, मैत्रीपूर्ण चित्रण, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।

NVIDIA Vera Rubin large model प्रशिक्षण प्लेटफार्मों का मूल्यांकन करने वाली बुनियादी ढांचा टीम और डेवलपर्स MLPerf Training v6.1 परिणामों का उपयोग कर सकते हैं ताकि यह देखा जा सके कि NVIDIA की नई Vera Rubin वास्तुकला प्रशिक्षण गति, स्केलिंग और सुदृढीकरण-शिक्षण वर्कफ़्लो में सुधार करती है। राउंड में, Vera Rubin एनवीएल 72 प्लेटफ़ॉर्म ने सात बंद-विभाजन बेंचमार्क में से छह पर सबसे तेज़ समय-से-प्रशिक्षित दर्ज किया, जो एक उच्च अनुकूलित NVIDIA जीबी 300 एनव्हीएल 72 बेसलाइन के मुकाबले 2 गुना प्रदर्शन प्रदान करता है। शेष DeepSeek-V3 671B कार्यभार के लिए, Llama 2 ने GB300 NVL72 को 10,240 - GPU क्लस्टर पर चलाकर राउंड का सबसे तेज पूर्ण समय लिया। साथ में, दोनों प्लेटफॉर्म वी 6.1 में हर बेंच मार्क को कवर करते हैं।

व्यापक कवरेज के साथ एक शुरुआत

NVIDIA प्लेटफ़ॉर्म एकमात्र थे जिन्होंने सभी सात बेंचमार्क में परिणाम प्रस्तुत किए NVIDIA Vera Rubin v6.1। MLPerf Training एनवीएल 72 प्लेटफार्म ने अपने पहले रन में पूरे सूट को पूरा किया, जो उन टीमों के लिए मायने रखता है जिन्हें पूर्व-प्रशिक्षण का समर्थन करने के लिए एक प्रणाली की आवश्यकता होती है, fine-tuning , छवि पीढ़ी, अनुशंसा और सुदृढीकरण-सीखना पोस्ट प्रशिक्षण कंपनी ने कहा कि CUDA software स्टैक पहले से ही अत्यधिक परिपक्व था, इसलिए शुरुआती परिणाम एकल अनुकूलित प्रयोगशाला चोटी के बजाय मॉडल पाइपलाइन पर दिन-एक प्रदर्शन को दर्शाते हैं।

नीचे दी गई बेंचमार्क तालिका में Vera Rubin एनवीएल 72 प्रदर्शन को GPU के सापेक्ष अनुकूलित जीबी 300 एनव्हीएल 72 को उसी GPU गिनती पर बंद विभाजन में दिखाया गया है।

मॉडल प्रकारबेंचमार्कGPU गिनतीवेरा रुबिन बनाम जीबी 300प्रस्तुतकर्ता आईडी Vera Rubin / GB300
विशेषज्ञों का मिश्रण DeepSeek-V3 671B1,0242x6.1-0116 / 6.1- 0030
विशेषज्ञों का मिश्रणQwen3.5 397B GRPO reinforcement learning ६४1.4x6.1-0135 / 6.1- 0020
विशेषज्ञों का मिश्रण GPT-OSS 20B६४1.6x6.1-0135 / 6.1-0049
घना Llama 2 70B LoRA ७२1.5x6.1-0123 / 6.1- 0138
घनालामा 3.1 8B७२1.6x6.1-0073 / 6.1- 0138
प्रसार FLUX.1 ७२1.5x6.1-0124 / 6.1-0138
अनुशंसकDLRMv4१२८1.4x6.1-0129 / 6.1- 0038

यह पैटर्न व्यापक हैः लाभ 1.4x से लेकर 1.6x तक होता है GPU अधिकांश कार्यभारों में, जबकि सबसे बड़ा लाभ सबसे बड़े, सबसे अधिक संचार-भारी वर्कलोड पर दिखाई देता है। सूट प्राकृतिक भाषा, छवि पीढ़ी, सिफारिश और reinforcement learning को कवर करता है, इसलिए सुधार एक मॉडल आकार या मोडलिटी तक सीमित नहीं हैं।

 NVIDIA Vera Rubin NVL72 Achieves Up to Twice the Performance of Blackwell Ultra in MLPerf Training v6.1

DeepSeek-V3 और 10,240- GPU स्केल

DeepSeek-V3 671B एक 671-बिलियन-पैरामीटर token -ड्रॉपलेस मिक्सचर ऑफ एक्सपर्ट्स मॉडल और सूट का सबसे अधिक मांग वाला वर्कलोड है। इस बेंचमार्क में, विशेषज्ञ समानांतरता प्रत्येक पुनरावृत्ति को सभी से सभी संचार के विस्फोट में बदल देती है, इसलिए नेटवर्क फैब्रिक दक्षता सीधे प्रशिक्षण समय में दिखाई देती है।

NVIDIA Vera Rubin एनवीएल 72 ने DeepSeek-V3 671B को 31 मिनट में 16 रैक पर 1,024 GPUs का उपयोग करके प्रशिक्षित किया। GB300 NVL72 ने 8.03 मिनट में एक ही 1,024 - GPU कॉन्फ़िगरेशन चलाया, जो प्रति परिणाम 2x तेजी से GPU और दौर में सबसे बड़ा पीढ़ीगत सुधार है। यदि समय-से-प्रशिक्षण आधा हो जाता है, तो एक टीम तिमाही में लगभग दोगुना प्रयोग कर सकती है, जो कि कितने मॉडल गुणवत्ता के निर्णय किए जाते हैं।

और भी बड़े पैमाने पर, GB300 NVL72 ने दौर के सबसे तेज़ पूर्ण परिणाम का उत्पादन कियाः 1.38 मिनटों में 10,240 GPUs । उस नौकरी ने 160 रैक को फैलाया, प्रत्येक अपने स्वयं के एनवीलिंक डोमेन। नतीजा विश्वसनीय क्लस्टर स्केल को उजागर करता है, जबकि Vera Rubin ने 256 से 1,024 GPUs , या 4 से 16 रैक तक जाने पर 97% समग्र दक्षता से ऊपर रखकर अपना स्केलिंग व्यवहार दिखाया।

प्रशिक्षण के बाद बेंचमार्क सूट में कदम

MLPerf Training v6.1 ने अपना पहला एजेंटिक large language model सुदृढीकरण-सीखने के बाद का प्रशिक्षण बेंचमार्क, Qwen3.5 397B जीआरपीओ जोड़ा। यह जोड़ विकास में एक बदलाव को दर्शाता हैः पोस्ट-प्रशिक्षण एजेन्टिक सटीकता के लिए एक प्रमुख विभेदक बन रहा है। कार्यभार मांग कर रहा है क्योंकि यह बार-बार रोलआउट उत्पन्न करता है, उन्हें स्कोर करता है और भार अद्यतन करता है.

Vera Rubin एनवीएल 72 ने नए बेंचमार्क के लिए सबसे तेज़ समय 1,024 GPUs पर 10.44 मिनट में हासिल किया, प्रस्तुति 6.1 - 0117। GB300 NVL72 ने उसी पैमाने पर 13.78 मिनट दर्ज किए, प्रस्तुतीकरण 6.1 - 0031 । NVIDIA ने दो अनुमान बैकएंड्स पर भी बेंच मार्क प्रस्तुत किया: NVIDIA NeMo RL टेंसरआरटी- LLM के साथ 10.44 मिनट और vLLM के साथ 10.94 मिनट, सबमिशन 6.1 -0118. एक ब्रांड नए बेन्चमार्क पर दो व्यवहार्य बैकएन्ड होने से लगभग software परिपक्वता के बारे में उतना ही कहा जाता है जितना कि hardware ।

 NVIDIA Vera Rubin NVL72 Achieves Up to Twice the Performance of Blackwell Ultra in MLPerf Training v6.1

प्रशिक्षण एजेंट केवल एक GPU कार्य नहीं है। प्रत्येक रोलआउट को सिमुलेटेड वातावरण के साथ-साथ टूल कॉल, कोड या API सत्यापन की आवश्यकता हो सकती है, जो CPU से घनिष्ठ रूप से जुड़ा हुआ है। NVIDIA Vera CPU वास्तुकला का हिस्सा है, एकल Vera CPU रैक में 256 सीपीयू पर 22,500 समवर्ती सुदृढीकरण-शिक्षण वातावरण को बनाए रखता है। GPUs बड़े token पीढ़ी और तेजी से वजन अद्यतन संभालते हैं, जबकि Vera CPUs वातावरण का अनुकरण करते हैं ताकि त्वरक निरंतर प्रतिक्रिया प्राप्त करें।

सह-डिजाइन किया गया नेटवर्किंग और software

राउंड में प्रत्येक परिणाम एक नेटवर्किंग परिणाम भी है। प्रशिक्षण हजारों प्रोसेसरों को एक प्रणाली के रूप में व्यवहार करने के लिए कहता है। रैक के अंदर, एनवीएल 72 72 GPUs और 36 सीपीयू को तांबे की एनवीलिंक 6 रीढ़ के माध्यम से जोड़ता है। कंपनी ने कहा कि डोमेन मिश्रण-ऑफ-विशेषज्ञ विशेषज्ञ डिस्पैच को महत्वपूर्ण पथ से दूर रखते हुए प्रति रैक 3.6 NVIDIA NeMo RL / s और 260 TB / एस वितरित करता है। रैक के बाहर, प्लेटफ़ॉर्म क्वांटम -47 या स्पेक्ट्रम-एक्स ईथरनेट पर कनेक्टएक्स -9 सुपरएनआईसी के साथ स्केल होता है। दोनों कपड़े अनुकूलन रूटिंग और भीड़भाड़ नियंत्रण का उपयोग करते हैं ताकि बर्स्ट ऑल-टू-ऑल ट्रैफिक को कंप्यूटिंग अवरुद्ध न किया जा सके।

परिणाम software ग्राहकों द्वारा प्राप्त किए गए थे: पूर्व-प्रशिक्षण बेंचमार्क के लिए, NVIDIA NeMo RL सुदृढीकरण-लर्निंग बेंच मार्क और NVIDIA PyTorch FLUX.1 और DLRMv4 के लिए रिलीज़। अनुकूलन का वर्णन पहले MLPerf Training v6.0 राउंड में किया गया था। NVIDIA ने यह भी कहा कि उसने कई बेंचमारकों को फिर से चलाया है क्योंकि v6.1 सबमिशन उसी hardware पर अंतिम रूप दिया गया था और एक नए software बिल्ड के साथ कॉन्फ़िगरेशन। वे पुनरावृत्ति अप्रमाणित परिणाम हैं, MLCommons प्रस्तुतियाँ नहीं हैं, लेकिन वे तैनाती के बाद निरंतर प्रदर्शन लाभ की क्षमता दिखाते हैं। कंपनी ने MLPerf 6.1 GB300 NVL72 जमा करने के मुकाबले Vera Rubin एनवीएल 72 के लिए 2.4x तक तेजी से समय-से-ट्रेन की सूचना दी, और एमएलपेरफ Vera Rubin प्रस्तुति के खिलाफ 1.4x तक तेज।

CUDA प्लेटफ़ॉर्म ग्राहकों को अपने स्वयं के कर्नेल का अनुकूलन करने के लिए जगह भी देता है। NVIDIA Vera Rubin GB300 NVL72 पर अपने इंकलिंग 2 स्मॉल मॉडल के लिए एक एनवीएफपी 4 प्रशिक्षण नुस्खा और कस्टम कोर विकसित किया गया, जिसमें फॉरवर्ड-पास मिक्सचर-ऑफ-एक्सपर्ट्स मैट्रिक्स गुणन संचालन के लिए एनवीएफ़पी 4 और ग्रेडिएंट्स के लिए एमएक्सएफपी 8 का उपयोग किया गया। पूर्ण MXFP8 प्रशिक्षण की तुलना में, इसने न्यूनतम सटीकता प्रभाव के साथ पूर्व-प्रशिक्षण और fine-tuning 8% और reinforcement learning 20% द्वारा तेज कर दिया।

उपलब्धता और इसके बाद

NVIDIA ने कहा कि सभी बंद-विभाजन प्रस्तुतियों का 80 प्रतिशत 20 भागीदार संगठनों में NVIDIA प्लेटफार्मों पर चला गया, जिससे यह पता चलता है कि परिणाम क्लाउड और मूल उपकरण निर्माताओं के माध्यम से दोहराए जा सकते हैं, न कि अलग प्रयोगशाला चोटी। Vera Rubin सिस्टम पहले से ही दुनिया भर में विभिन्न क्लाऊड इन्फ्रास्ट्रक्चर साझेदारों में उपलब्ध हैं, जो पूरे विश्व में AI Factory तैनाती को पूरक करते हैं। राउंड में,Vera Rubin सभी सात वर्कलोड्स में प्रति GPU प्रदर्शन का नेतृत्व किया, जबकि ब्लैकवेल और Blackwell Ultra ने स्केल रिकॉर्ड बनाए रखा।

साझेदार छोटे सिस्टम को भी अनुकूलित कर रहे हैं। Firmus ने AI- संचालित कर्नेल पीढ़ी, स्वचालित प्रदर्शन परीक्षण और गणितीय सत्यापन का उपयोग राउंड के सबसे तेज़ GB300 8- GPU परिणाम पोस्ट करने के लिए किया, प्रशिक्षण GPT-OSS 20B 52.90 मिनट में, सबमिशन 6.1 -0091, और Llama 3.1 8B 52.40 मिनटों में, प्रस्तुत करना 6.1 - 0094 । क्योंकि ये प्लेटफ़ॉर्म एक लगातार ऑप्टिमाइज़िंग CUDA software स्टैक साझा करते हैं, प्रारंभिक MLPerf संख्या अगले दौर से पहले सुधार जारी रख सकती है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.