किनारे पर तैनात multimodal खुला D1 निर्णय मॉडल

मेटा विवरणः किनारे उपकरणों के लिए खुला डी 1 निर्णय मॉडल स्कोर 48.57 पर Decision Index 0.2।1 नीचे 10B, d1-3B अग्रणी और GPUs पर तेज़ multimodal उत्तरों के साथ।

टैगः d1-3B, d1-omni-600M, किनारा AI, निर्णय सूचकांक, Hugging Face

![छोटे निर्णय मॉडल के सार अनुकूल चित्रण किनारे पर पाठ, छवियों और ऑडियो प्रसंस्करण]

Liquid Foundation Models के पीछे की टीम ने आज Hugging Face पर ओपन-वेट मॉडलों के रूप में खुले डी 1 निर्णय मॉडल उपलब्ध कराए हैं, और रिलीज बिल्डरों को छोटे, तेज, स्थानीय निर्णय लेने के लिए एक नया विकल्प देता है। हेडलाइन परिणाम d1- 3B हैः यह उस तुलना में Decision Index 0.2 .1 पर 48.57 स्कोर करता है, जो इसे 10B के तहत सबसे अच्छा निर्णय मॉडल बनाता है।

निर्णय मॉडल चैट मॉडलों से अलग तरीके से जवाब देते हैं

d1 सिस्टम निर्णय मॉडल पर निर्मित होते हैं, जिसे LFM के रूप में संक्षिप्त किया जाता है। वे chatbot की तरह लंबे पाठ token द्वारा token उत्पन्न करने का इरादा नहीं रखते हैं। इसके बजाय, वे एक सिंगल फॉरवर्ड पास के माध्यम से उत्तर देते हैं। यह अंतर किनारे वाले उपकरणों के लिए महत्वपूर्ण है क्योंकि एक-पास प्रतिक्रिया समय के लिए बहुत आसान हो सकती है, तैनात करना और उत्पादों के अंदर उपयोग करना बहुत आसान होता है जिन्हें लिखित जवाब के बजाय त्वरित वर्गीकरण, निर्णय या रूटिंग निर्णय की आवश्यकता होती है।

दो जारी किए गए मॉडल अलग-अलग रास्ते लेते हैं। d1-3B को LFM2.5-VL- 3B से प्रशिक्षित किया गया है, जो कि टीम का नवीनतम विजन-लैंग्वेज मॉडल या VLM है, जिसमें केवल डिकोडर आर्किटेक्चर है। यह इनपुट के रूप में टेक्स्ट और इमेजेस स्वीकार करता है। डी 1-ओम्नी- 600M को एलएफएम 2.5-एन्कोडर - 350M से प्रशिक्षण दिया जाता है, एक द्विदिशात्मक एन्कोडर, और दृश्य और ऑडियो एनकोडर्स जोड़ता है ताकि यह तीनों विधियों को संभाल सके। व्यवहार में, डी 1-ऑमनी-600M या तो पाठ और छवि, या टेक्स्ट एंड ऑडियो को इनपुट की तरह स्वीकार कर सकता है। वर्तमान में यह प्रारंभिक शोध रिलीज़ में है और आगे विकास के दौर से गुजर रहा है।

सात सार्वजनिक datasets में बेंचमार्क परिणाम

रिलीज़ रिपोर्ट सात सार्वजनिक datasets को पढ़ने की समझ, विषाक्तता का पता लगाने, इरादे वर्गीकरण, चिकित्सा QA और क्रॉस-लिंगुअल समझने से प्राप्त होती है। d1-3B का औसत स्कोर 82.9, जो तालिका में उच्चतम स्कोर है और Decider 4B से ऊपर है। डी 1-ओम्नी - 600M स्कोर्स 78.4, केवल एक चौथाई मापदंडों का उपयोग करते हुए डेसिडर 2B से आगे निकलते हुए 77.1 ।

टीम यह भी बताती है कि d1-3B मानक दृष्टि बेंचमार्क पर अपने LFM2.5-VL-3B रीढ़ की हड्डी के दृश्य क्षमताओं को बरकरार रखता है, और d1-omni-600M सभी तीन विधियों को संभालता है। हालांकि, रिलीज़ में विजन या ऑडियो बेन्चमार्क नंबरों की रिपोर्ट नहीं की गई है। कारण दिया गया है कि Decision Index v0.3 केवल एक निजी दृष्टि विभाजन शामिल करता है, तथा ऑडियो निर्णय मानदंड वर्तमान में एक खुली समस्या हैं।

NVIDIA पर किनारे की गति

गति रिलीज़ का दूसरा प्रमुख हिस्सा है। NVIDIA के साथ सहयोग में, d1-3B का मूल्यांकन NVIDIA स्टैक पर किया गया था NVIDIA GeForce RTX 4090, NVIDIA Jetson AGX Thor, Jetson AGX Orin 64 GB, और Jetson Orin Nano. जेटसन लाइन के लिए, डी 1- 3B 16 एमएस में एक प्रश्न का उत्तर देता है Jetson AGX Thor, 26 एमएस पर Jetson AGX Orin, और 50ms पर Jetson Orin Nano। चूंकि डी 1-ओम्नी- 600M एक प्रारंभिक शोध रिलीज है, इसलिए इस रिलीज में इसके लिए कोई गति संख्या नहीं बताई गई है।

एज इन्फरेंस कहानी सरल हैः d1-3B प्रत्येक मापा गया डिवाइस पर 50 ms से कम में एक प्रश्न का उत्तर देता है। स्केलिंग व्यवहार भी उपयोगी है। तीन प्रश्नों को केवल 1.3x समय लगता है, जिसमें Jetson AGX Thor 16 ms से 20 ms तक जाता है। GPU पर, रिलीज कहती है कि d1- 3B 10 ms के तहत एक सवाल का जवाब देती है और दोनों प्लेटफार्मों पर 18 ms के भीतर 384px छवि संसाधित करती है।

खुला d1 निर्णय मॉडल का उपयोग कैसे करें

ये मॉडल उन लोगों के लिए लक्षित हैं जिन्हें तेज, संरचित निर्णयों की आवश्यकता होती है, जिनमें ऐसे मामले शामिल होते हैं जहां इनपुट में छवियां या ऑडियो शामिल हो सकते हैं। d1-3B को अपने आकार पर उच्चतम निर्णय गुणवत्ता वाले विकल्प के रूप में तैनात किया गया है. d1-omni-600M उन मामलों के लिए रखा गया है जहां पदचिह्न मायने रखता है, जिसका अर्थ है कि इसकी छोटी पैरामीटर गणना तंग डिप्लॉयमेंट बजट में फिट हो सकती है।

सेटअप Transformers की आवश्यकता है >=5.14. चूंकि मॉडल अपने स्वयं के कोड के साथ जहाज करते हैं, इसलिए उन्हें trust_remote_code=True से लोड करने की आवश्यकता होती है। संक्षिप्तता के लिए, रिलीज में केवल d1-3B के उपयोग का एक उदाहरण शामिल है; d1-omni-600M के निर्देश इसके मॉडल कार्ड में रखे गए हैं।

दोनों निर्णय मॉडल ओपन-वेट हैं और आज Hugging Face पर उपलब्ध हैं। डाउनलोड लिंक d1-3B और d1-omni-600M के लिए हैं।Hugging Face बिल्डर भी System One Arcade Hugging में डेमो का प्रयास कर सकते हैं।Face Space यदि कोई इस काम का उपयोग करता है, तो रिलीज उन्हें रिलीज़ ब्लॉग को उद्धृत करने के लिए कहता है।

किसको इसका उपयोग करना चाहिए, और किसे प्रतीक्षा करनी चाहिए

उन डेवलपर्स के लिए जो स्थानीय या एज सिस्टम का निर्माण करते हैं जिन्हें त्वरित वर्गीकरण, सुरक्षा जांच, इरादा रूटिंग, दृश्य प्रश्न उत्तर, या ऑडियो-समर्थित निर्णय कार्यों की आवश्यकता होती है, खुले d1 निर्णय मॉडल सीधे प्रासंगिक होते हैं। d1-3B जब निर्णय गुणवत्ता और multimodal पाठ-छवि कार्य इसके आकार पर सबसे अधिक मायने रखते हैं तो यह मजबूत विकल्प होता है।

रिलीज़ विशेष रूप से उन लोगों के लिए उपयोगी है जो NVIDIA Jetson hardware पर विलंबता की परवाह करते हैं, क्योंकि यह ठोस डिवाइस-स्तरीय समय देता है। यह सार्वजनिक दृष्टि और ऑडियो बेंचमार्क नंबरों की प्रतीक्षा करने वाले किसी भी व्यक्ति के लिए कम उपयोगी है, क्योंकि वे इस संस्करण में रिपोर्ट नहीं किए गए हैं। अभी के लिए, सबसे स्पष्ट टेकऑवे यह है कि d1-3B मूल्यांकन करने के लिए मुख्य मॉडल हैः यह Decision Index 0.2 .1 10B के तहत अग्रणी है, सात सार्वजनिक datasets में स्कोर 82.9 करता है, और किनारे उपकरणों पर मिलीसेकंड में जवाब देता है.