NVIDIA अपने खुले नेमोट्रॉन परिवार का विस्तार data centers से डेस्कटॉप के लिए अपनी उच्चतम दक्षता Super Vision-भाषा और बोल्ट मॉडल के साथ करता है।
NVIDIA Nemotron 3.5 और बोल्ट servers के लिए खुले, कुशल एजेंट प्रदान करते हैं।
मुख्य जानकारी
- NVIDIA ने नेमोट्रॉन 3.5 Super VL जारी किया, जो हमेशा सक्रिय एजेंटों के लिए एक खुला 120B विजन-लैंग्वेज मॉडल है, जो अपने सबसे बड़े reasoning model के मापदंडों का लगभग पांचवां हिस्सा और तुलनीय खुले मॉडलों की तुलना में 5 गुना तेज सीमा पर सटीकता का दावा करता है।
- नेमोट्रॉन परिवार अब data centers, एज डिवाइस और डेस्कटॉप पर फैला हुआ हैः Super VL और बोल्ट 74B-ए 9 बी 24 जीबी अभी उपलब्ध हैं, जबकि बोल्ट ई 4 बी 4 जीबी 23 अक्टूबर के लिए निर्धारित है।
- नेमोट्रॉन 3.5 बोल्ट मॉडल आरटीएक्स, DGX Spark, जेटसन और GeForce सिस्टम पर स्थानीय एजेंटिक वर्कलोड के लिए डिज़ाइन किए गए हैं, जो अनुसंधान, लेखन, कोडिंग और वॉयस इंटरैक्शन जैसे कार्यों के लिए बुद्धिमत्ता, गति और मेमोरी दक्षता का संतुलन रखते हैं।
- NVIDIA ओपन वेट्स, datasets और ट्रेनिंग रेसिपी प्रदान कर रहा है, जो संगठनों को गोपनीयता, नियंत्रण और विशेष कार्यप्रवाह के लिए अपने स्वयं के डेटा और बुनियादी ढांचे पर Super VL का पोस्ट-ट्रेन करने की अनुमति देता है।
- कई कंपनियां पहले से ही वित्त, cybersecurity, कोडिंग, हेल्थकेयर, डॉक्यूमेंट इंटेलिजेंस और एंटरप्राइज़ software प्लेटफार्मों में उपयोग के मामलों के लिए Super VL का अनुकूलन कर रही हैं।
NVIDIA नेमोट्रॉन 3.5 सुपर वीएल और बोल्ट एजेंटों को किनारे पर लाएं
मेटा विवरण: NVIDIA Nemotron 3.5 Super VL और बोल्ट servers, एज, लोकल hardware के लिए अनुकूलन और गोपनीयता लाभों के साथ खुले, तेज, सटीक एजेंट मॉडल प्रदान करते हैं।
टैगः नेमोट्रॉन 3.5 Super VL, NVIDIA AI एजेंट, किनारे मॉडल, खुले वजन
विशेष रुप से प्रदर्शित छवि: server रैक से laptop और एज डिवाइस के लिए एक neural network शाखाओं का अमूर्त अनुकूल चित्रण, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।
NVIDIA ने आज Nemotron 3.5 Super VL जारी किया, एक खुला 120 अरब-पैरामीटर मॉडल जो विशेष हमेशा सक्रिय एजेंटों के लिए बनाया गया है जिन्हें तेजी से कार्य पूरा करने और उच्च सटीकता की आवश्यकता होती है। नए मॉडलों के बीच दो किनारे विकल्प हैंः नेमोट्रॉन 3.5 बोल्ट 74B-ए 9 बी 24 जीबी, स्थानीय एजेंटिक वर्कलोड्स को लक्षित करता है जिन्हें बुद्धिमत्ता और गति प्रति GB का संतुलन चाहिए। Super VL और बोल्ट 74B-ए 9 बी 24 जीबी अब उपलब्ध हैं; बोल्ट ई 4 बी 4 जीबी 23 अक्टूबर के लिए निर्धारित है। एक साथ, तीन खुले मॉडल का उद्देश्य एंटरप्राइज़ servers से एज डिवाइस और स्थानीय hardware तक एजेंट तैनाती को कवर करना है, जो संगठनों को प्रदान करता है जो क्षमता और तैनात करने के बीच चयन किए बिना प्रत्येक स्तर के लिए एक खुला, अनुकूलित विकल्प चाहते हैं।
Super VL एक छोटे खुले मॉडल में सीमा-जैसे सटीकता डालता है
Nemotron Coalition के साथ सहयोग में निर्मित, नेमोट्रोन 3.5 NVIDIA एजेंटिक कार्य के लिए तैनात किया गया हैः निर्देशों का पालन करना, उपकरण उपयोग, बहु-चरण व्यवसाय वर्कफ़्लो और दृश्य समझ। NVIDIA का कहना है कि इसकी सटीकता इसके सबसे बड़े reasoning model के साथ लगभग एक-पांचवें पैरामीटर गिनती पर तुलनीय है। यह उन संगठनों के लिए महत्वपूर्ण है जो कई एजेंट कार्यों को चलाते हैं क्योंकि एक छोटा मॉडल जटिल वर्कफ़्लो का प्रबंधन करते हुए तैनाती के बोझ को कम कर सकता है।
NVIDIA पदों Super VL उच्च मात्रा एजेंटिक कार्यप्रवाह के लिए अपनी कक्षा में सीमा-स्तरीय खुफिया के रूप में। यह Super VL को अपनी कक्षा में सबसे तेज़ ओपन एजेंटिक मॉडल के रूप में भी वर्णित करता है, जो अगले सर्वश्रेष्ठ विकल्प की तुलना में 5 गुना तेज है। कंपनी Artificial Analysis Intelligence Index लीडरबोर्ड की ओर इशारा करती है, जहां मॉडल अपनी श्रेणी के अन्य मॉडलों की तुलना में 5 गुना तेज थ्रूपुट दिखाता है। एजेंटों के लिए जो दिनों या हफ्तों तक चलने वाले वर्कफ़्लो पर काम करते हैं, तेज़ समापन टीमों को उच्च कार्य वॉल्यूम संसाधित करने में मदद कर सकता है।
बंद सीमा मॉडल के विपरीत, Super VL को किसी संगठन के स्वयं के डेटा पर पोस्ट-प्रशिक्षित किया जा सकता है, अपने बुनियादी ढांचे पर तैनात किया जाता है और उस संगठन द्वारा देखरेख की जाती है जो एप्लिकेशन बनाता है। यह खुलापन उपलब्धता में भी परिलक्षित होता है: NVIDIA खुले वजन, खुले datasets और प्रशिक्षण व्यंजनों को जारी कर रहा है।
बोल्ट एजेंटिक कार्यभार को स्थानीय hardware पर स्थानांतरित करता है
नेमोट्रॉन 3.5 बोल्ट 74B-ए 9 बी 24 जीबी को NVIDIA RTX/DGX Spark सिस्टम पर रोजमर्रा के एजेंटिक कार्यों के लिए डिज़ाइन किया गया है। यह अन्य अनुप्रयोगों के साथ चलाने के दौरान मेमोरी की 24GB के भीतर फिट होने के लिए देशी 2-बिट क्वांटिज़ेशन का उपयोग करता है। एक ही स्मृति पदचिह्न में अन्य मॉडलों की तुलना में, NVIDIA कहते हैं कि यह बुद्धिमत्ता और गति को संतुलित करता हैः अधिकांश नौकरियों को पूरा करने में सक्षम है, फिर भी उस वर्ग में सबसे बुद्धिमान विकल्पों से तेज है।
उपयोगकर्ता उन कार्यभारों को क्लाउड पर भेजने के बिना अनुसंधान, लेखन और कोड डिबगिंग सहित लोकप्रिय स्थानीय एजेंट हार्नेस में काम सौंप सकते हैं। NVIDIA रिपोर्ट करता है कि बोल्ट 74B-A9B 24GB पिंचबेंच पर अपनी कक्षा में नंबर एक खुला मॉडल और ब्राउज़कॉम्प के लिए नंबर दो खुला मॉडल है।
बोल्ट ई4बी 4 जीबी GeForce RTX, जेटसन और आरटीएक्स/DGX Spark पर भौतिक और वार्तालाप एजेंटों को लक्षित करता है। यह तेज स्थानीय आवाज सहायकों, इंटरैक्टिव पात्रों और एम्बेडेड इंटरफेस के लिए मल्टी-टर्न एजेन्टिक क्षमताओं के साथ प्राकृतिक बातचीत को जोड़ती है।
संगठन विशेष कार्यप्रवाह के लिए Super VL को अनुकूलित करते हैं
NVIDIA का कहना है कि उद्योगों के दर्जनों संगठन अपने एजेंट तैनाती को परिभाषित करने वाले कार्यों पर सटीकता में सुधार के लिए अपने स्वयं के डेटा, टूल, नीतियों और वर्कफ़्लो पर Super VL पोस्ट-प्रशिक्षण कर रहे हैं।
Scale AI ने स्काइडेंस के विक्रेता ऋण वित्त एजेंट और ईवाई के विलय और अधिग्रहण उचित परिश्रम एजेंट के लिए मॉडल को पोस्ट-प्रशिक्षित किया। AfterQuery ने इसे हेबिया के लिए क्रेडिट अनुबंधों का विश्लेषण करने के लिए अनुकूलित किया। एआई 21 और ऐलिस ने इसे cybersecurity हमले के लिए प्रशिक्षित किया। मर्कोर ने इसे एपेक्स-एसडब्ल्यूई कोडिंग बेंचमार्क पर कोड एजेंटों के लिए पोस्ट-प्रशिक्षित किया जो योजना बनाते हैं, लिखते हैं और डिबग करते हैं। मॉडलस्कोप डेवलपर्स को विशेष multimodal अनुप्रयोगों के लिए अपने ms-swift फ्रेमवर्क के माध्यम से मॉडल को ठीक करने देता है।
नेमोट्रॉन 3.5 का उपयोग या अनुकूलित करने वाले अन्य संगठनों में वित्तीय दस्तावेज खुफिया के लिए रैंप शामिल हैं; संप्रभु एआई-संचालित cybersecurity अनुसंधान और भेद्यता विश्लेषण के लिए ड्रीम; वैज्ञानिक खोज और खोज के लिए Lila Sciences; और चिकित्सा दावों के विश्लेषण और राजस्व चक्र प्रबंधन के लिए आर 1। ट्रेनलूप ने नोला से त्वचा विज्ञान डेटा के साथ मॉडल को पोस्ट-प्रशिक्षित किया, जो JUST प्रारंभिक रोगी पर्चे लिखने के लिए AI के लिए अनुमोदित पहली कंपनी बन गई।
software प्लेटफ़ॉर्म कंपनियों में मॉडल को एकीकृत करने वाले एटलसियन शामिल हैं, जो इसे जिरा और कॉन्फ्लुएंस जैसे apps पर एजेंटिक खोज के लिए उपयोग करता है; CrowdStrike, उद्यम सुरक्षा में एजेंटिक ब्लू टीमिंग के लिए इसे अनुकूलित करना; Dassault Systèmes, इसका उपयोग इंजीनियरिंग डिजाइन और सिमुलेशन को शक्ति देने के लिए कर रहा है; Perplexity, Perplexity Search और कंप्यूटर में खोज और एजेंटीक कार्यों पर लागू करना; सेल्सफोर्स, नेमोट्रॉन को AI एजेंटों की शक्ति के लिए कस्टमाइज़ करना जो Missionforce Operations के माध्यम से सुरक्षित ग्राहक वातावरण में जटिल सरकारी वर्कफ़्लो को डिजिटलीकृत और स्वचालित करते हैं; और Synopsys, जिसका software, semiconductor डिज़ाइन सत्यापन के लिए मॉडल के साथ इंटरऑपरेट करता है।
दृष्टि, गोपनीयता और तैनाती विकल्प पैकेज को आकार देते हैं
Super VL की विजन-लैंग्वेज शक्तियां उन सामग्रियों पर ध्यान केंद्रित करती हैं जिनसे एजेंट व्यवहार में सामना करते हैंः ऑप्टिकल चरित्र मान्यता, तालिकाएं, चार्ट और दृश्य दस्तावेजों में संरचित जानकारी। यह एक वेबपेज को प्रोसेस कर सकता है, टेक्स्ट निकाल सकता है ग्राफ और चार्ट पढ़ सकता है और जो कुछ भी पाता है उससे अंतर्दृष्टि वापस ला सकता है। यही बात पीडीएफ और अन्य दस्तावेजों पर भी लागू होती है जो एजेंट आमतौर पर उपयोग करते हैं। क्योंकि पाठ और दृश्य समझ एक मॉडल में बैठते हैं, एजेंटों को अलग-अलग प्रणालियों के बीच कार्यों को रूट करने की आवश्यकता नहीं होती है, और संदर्भ दस्तावेज से डेटा तक निर्णय पर काम करते समय आगे बढ़ सकता है।
खुलेपन और अनुकूलनशीलता एक-दूसरे को सुदृढ़ करती हैं। संगठन जहां भी उनकी सुरक्षा और डेटा-निवास आवश्यकताओं की मांग करते हैं, वहां मॉडल चला सकते हैं, और वे किसी प्रदाता के प्रतिबंधों के अधीन रहने के बजाय एक मॉडल को अनुकूलित कर सकते हैं। NVIDIA उदाहरण देता है जैसे कि एक बीमा एजेंट जो धोखाधड़ी के मार्करों के लिए बार-बार दावों को स्कैन करता है, या एक वित्तीय सेवा एजेंट जिसे क्रेडिट स्कोर की समीक्षा करने और संगठन के अपने उधार मानदंडों के खिलाफ गतिविधि को चिह्नित करते हुए परिसर में मॉडल रखने और डेटा निजी रखते हैं।
अनुकूलन NVIDIA NeMo, Python -आधारित पाइपलाइनों और खुले datasets के माध्यम से समर्थित है। NVIDIA का कहना है कि Super VL को पूर्व-प्रशिक्षण और निरंतर पूर्व प्रशिक्षण के माध्यम से लगभग 26 ट्रिलियन tokens पर प्रशिक्षित किया गया था, फिर लगभग 3.8 मिलियन नमूनों और दर्जनों वातावरण में reinforcement learning के साथ पोस्ट-ट्रेन किया गया। NVIDIA एजेंटिक उपकरण के उपयोग, वित्तपोषण, निर्देशों का पालन करने, लंबे संदर्भ, निष्पक्षता और विजन-भाषा की समझ को कवर करते हुए Hugging Face पर खुले datasets भी जारी कर रहा है।
उत्पादन उपयोग के लिए, NVIDIA NIM मॉडल को प्रदर्शन-अनुकूलित, मान्य कॉन्फ़िगरेशन और एंटरप्राइज़-ग्रेड समर्थन के साथ एक उत्पादन-तैयार माइक्रोसर्विस के रूप में पैकेज करता है, जो सुरक्षा पैच और प्रदर्शन सुधारों के साथ हर दो सप्ताह में अपडेट किया जाता है। NVIDIA के अनुसार, NVIDIA Dynamo पर चलने पर संगठन 8x अधिक उपयोगकर्ताओं को 85% कम विलंबता के साथ सेवा दे सकते हैं।
Super VL अब Hugging Face, Open Router, मॉडलस्कोप समुदाय और NVIDIA NIM के रूप में उपलब्ध है। यह डेस्कटॉप पर स्थानीय खुफिया के लिए DGX Spark, DGX Station, RTX PRO और आरटीएक्स प्रणालियों, किनारे पर NVIDIA Jetson और data center और क्लाउड वातावरणों में चलती है। बोल्ट 74B-ए 9 बी 24 जीबी अब Hugging Face पर उपलब्ध है, जिसमें लामा.सीपीपी, Ollama, LM Studio, अनस्लोथ और vLLM के लिए समर्थन है। यह 16 अक्टूबर को आने वाले NVIDIA RTX Spark laptops के लिए बनाया गया है और GeForce RTX PCs, DGX Spark, DGX Station और RTX PRO वर्कस्टेशन पर भी चलता है।
नेमोट्रॉन परिवार अब अलग-अलग जरूरतों को कवर करता है: लाइटनिंग, अगस्त में जारी किया गया, उच्च थ्रूपुट वर्कलोड संभालता है; अल्ट्रा सबसे कठिन तर्क कार्यों को संभालती है; Super VL छोटे खुले एजेंटिक मॉडल में सीमांत सटीकता लक्षित करती है; और बोल्ट एजेंटिक इंटेलिजेंस को किनारे के उपकरणों पर लाता है। उपयोगकर्ता खुले भार को डाउनलोड कर सकते हैं, NVIDIA NeMo के साथ अनुकूलन संसाधनों का पता लगा सकते हैं या पूर्ण वास्तुकला टूटने के लिए तकनीकी ब्लॉग पढ़ सकते हैं। NVIDIA पाठकों को अपनी समाचार सदस्यता, समुदाय और NVIDIA AI खातों पर LinkedIn, Instagram, X और Facebook, साथ ही स्व-गति वीडियो ट्यूटोरियल और लाइव स्ट्रीम के लिए निर्देशित करता है। software उत्पाद जानकारी के बारे में एक सूचना भी लागू होती है।

Comments (0)