NVIDIA ने AI कारखानों के लिए एंड-टू-एंड ऑब्जर्वेबिलिटी प्रदान करने के लिए मिनर्वा लॉन्च किया

मेटा विवरणः AI कारखानों को पहले समस्याओं का पता लगाने और उत्पादक बने रहने में मदद करने के लिए जीपीयू, नेटवर्किंग, स्टोरेज, शेड्यूलर और AI वर्कलोड से टेलीमेट्री को एकीकृत करता है।

टैगः NVIDIA Minerva, एआईओपी, AI कारखाने, GPU निगरानी, एजेंटिक AI

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> चमकते सर्वर रैक और GPU नरम नेटवर्क लाइनों से जुड़े नोड्स का एक अमूर्त चित्रण, लोगो या पाठ के बिना कंप्यूटिंग क्लस्टर का अनुकूल मानचित्र बनाता है।

NVIDIA ने Minerva लॉन्च किया है, जो एक AIOps प्लेटफॉर्म है जिसे उन टीमों के लिए डिज़ाइन किया गया है जो AI फैक्ट्रियों का संचालन करते हैं, बड़े कंप्यूटिंग वातावरण जो प्रशिक्षण और सेवा देते हैं AI मॉडल। इन टीमों में मूल्य प्रस्ताव व्यावहारिक हैः बुनियादी ढांचे और वर्कलोड सिग्नल को एक परिचालन दृश्य में लाएं, फिर उस डेटा को अंतर्दृष्टि में बदलने के लिए उद्देश्य-निर्मित AI मॉडलों का उपयोग करें ऑपरेटर छोटे मुद्दों से पहले प्रमुख व्यवधान बन सकते हैं।

क्यों AI कारखानों को एकल परिचालन दृश्य की आवश्यकता है

AI कारखाने दुनिया के सबसे जटिल कार्यों में से हैं। वे मॉडल को प्रशिक्षित करने और अनुप्रयोगों को वितरित करने के लिए उच्च गति वाले नेटवर्क पर काम करने वाली बड़ी संख्या में GPUs पर भरोसा करते हैं। उस पैमाने पर, एक खराब प्रदर्शन वाला हिस्सा पूरे कार्य को धीमा कर सकता है। शुरुआती चेतावनी संकेत सूक्ष्म हो सकते हैंः GPU तुलनीय जीपीयू की तुलना में अधिक गर्म चल रहा है, या NVMe ड्राइव लोड के तहत प्रदर्शन खो रहा है।

पारंपरिक निगरानी उपकरण अक्सर इस तस्वीर को अलग-अलग दृश्यों में विभाजित करते हैं। नेटवर्किंग टीम, कंप्यूटिंग टीमें, साइट विश्वसनीयता इंजीनियर और मशीन लर्निंग टीमें प्रत्येक ऑपरेशन का केवल एक टुकड़ा देख सकती हैं। मिनर्वा को नेटवर्क NVIDIA GPUs, स्टोरेज, शेड्यूलर और वर्कलोड के बीच सिग्नल कनेक्ट करने के लिए डिज़ाइन किया गया है, ताकि ऑपरेटर बुनियादी ढांचे और उस पर चलने वाली नौकरियों को एक साथ देख सकें।

मिनर्वा कारखाने का मानचित्रण कैसे करता है AI

प्लेटफ़ॉर्म एक गतिशील ज्ञान ग्राफ बनाता है जो तार्किक रूप से AI कारखाने के घटकों GPU GPUs, SuperNICs, स्विच और केबलों को उनके द्वारा समर्थित कार्यभार के साथ मैप करता है। यह संदर्भ ऑपरेटरों को धीमी प्रशिक्षण नौकरी का पता लगाने में मदद करता है घटक इसे प्रभावित कर रहा है, यहां तक कि सैकड़ों हजारों जीपीयू वाली सुविधा के पार भी।

मिनेर्वा पर्यवेक्षित और अनियंत्रित मशीन लर्निंग का उपयोग करके प्रति घंटे अरबों डेटा बिंदुओं का विश्लेषण करता है। यह सामान्य व्यवहार सीखता है, असामान्यताओं का पता लगाता है जो इसे पहले नहीं देखा गया था, उभरती हुई विफलताओं की भविष्यवाणी करता है और कारखाने के टोपोलॉजी के आधार पर संबंधित घटनाओं को जोड़ता है। ऑपरेटरों को हर लक्षण के साथ प्रस्तुत करने के बजाय, यह संभावित अंतर्निहित कारण के साथ एक केंद्रित घटना में संबंधित घटना के बड़े विस्फोट समूह कर सकता है।

मिनर्वा के साथ ऑपरेटर क्या कर सकते हैं

मिनर्वा में एक देशी AI सहायक शामिल है और बाहरी एजेंटिक AI उपकरणों से जुड़ता है। यह लाइव टेलीमेट्री पर आधारित प्राकृतिक-भाषा इंटरफ़ेस बनाता है, जिससे ऑपरेटरों को क्लस्टर स्वास्थ्य की जांच करने और बातचीत के माध्यम से सुझाए गए फिक्स प्राप्त करने की अनुमति मिलती है।

टीमें एक मानव अनुमोदन चरण को लूप में रख सकती हैं और मैन्युअल रूप से परिवर्तनों को लागू कर सकती हैं, या मिनर्वा को बुनियादी ढांचे एपीआई और बाहरी प्रणालियों के माध्यम से स्वचालन से जोड़ सकती हैं। परिणाम एक वर्कफ़्लो है जो विफलताओं पर प्रतिक्रिया करने से उन्हें रोकने की ओर बढ़ सकता है, जबकि अलर्ट ऑपरेटरों की संख्या को कम करना होगा।

मिनर्वा के लक्ष्य

मिनर्वा AI फैक्ट्री उपज पर केंद्रित है, जो GPU घंटों के माध्यम से उत्पादित उपयोगी कार्य अवसंरचना का एक उपाय है, गुडपुट, क्लस्टर अपटाइम और टोकन उत्पादन। वर्कलोड और इन्फ्रास्ट्रक्चर मुद्दों को सहसंबंधित करके, मंच का उद्देश्य ऑपरेटरों को अधिकतम करने में मदद करना हैGPU अप टाइम.

NVIDIA तीन क्षेत्रों में लाभ का वर्णन करता हैः

• रुकावटों के बीच लंबा समयः Minerva बनाया गया है मुसीबतों की पहचान करने के लिए इससे पहले कि वे बढ़ जाते हैं, तो नौकरियां बिना किसी घटना के लंबे समय तक चल सकती हैं।
• मरम्मत के लिए तेज़ समयः जब कोई घटना होती है, तो मिनर्वा समस्या को कम करने में मदद करती है, जिससे काफी तेजी से समाधान होता है।
• अधिक अंतर्दृष्टिः- (अंग्रेज़ी में) - (इंग्रजी में) Modern AI बुनियादी ढांचा डेटा की एक विशाल मात्रा उत्पन्न करता है; मिनर्वा उन अलर्ट के छोटे सेट को सतह पर लाने के लिए उस डेटा को फ़िल्टर करता है जो ध्यान देने योग्य हैं।

आईआरईएन अपने AI कारखानों को अनुकूलित करने के लिए मिनर्वा का उपयोग करने वाले एनवीडिया भागीदारों में से एक है। IREN चीफ टेक्नोलॉजी ऑफिसर Denis Skrinnikoff ने कहा कि कंपनी का फोकस जब यह फैक्ट्रियों को स्केल करता है तो उत्पादकता GPU को अधिकतम कर रहा है। उन्होंने कहा कि मिनर्वा आयरेन की ऑपरेशंस टीम को नेटवर्क, जीपीयू और उन पर चलने वाली नौकरियों पर एक दृश्य देता है, जिससे टीम समस्या निवारण के बजाय सक्रिय रखरखाव को प्राथमिकता दे सकती है। वह दृश्यता, उसने जोड़ा, बुनियादी ढांचे के लिए संचालन मॉडल को मजबूत करती है जिसे IREN अगला बना रही है।

कौन Minerva तैनात कर रहा है

Joining IREN औलानी, Bitdeer AI आईबीएम, जियो, लैम्ब्डा Quake AI और टेस्ला मिनर्वा को तैनात करने की योजना बना रहे हैं। Dell Technologies लेनोवो और सुपरमाइक्रो भी अपने AI फैक्ट्री ऑपरेशंस पोर्टफोलियो के हिस्से के रूप में मिनर्वा की पेशकश करेंगे।

अगले चरण में यह दिखाया जाएगा कि कितनी जल्दी ये तैनाती मिनर्वा की एकीकृत टेलीमेट्री, घटना समूह और एआई-सहायता प्राप्त जांच को कारखाने के संचालन AI में मापने योग्य परिवर्तनों में बदल देती हैः कम बाधित नौकरियां, तेज मरम्मत और अलग-अलग निगरानी उपकरणों पर अलर्ट शोर का पीछा करने में कम समय व्यतीत होता है।