घोषणा Mistral बड़ा 4: ले चोंक
Mistral Large 4 पूर्वावलोकनः 1T कुल, 49B सक्रिय पैरामीटर, API -केवल पहुंच, दो तर्क स्तर, Artificial Analysis 38, और जल्द ही वजन खोलें।
मुख्य जानकारी
- Mistral Large 4 पूर्वावलोकन, उपनाम 89890001, आज केवल मिस्ट्रल के माध्यम से उपलब्ध है, जिसमें 1 ट्रिलियन कुल पैरामीटर और 49 बिलियन सक्रिय पैरामीटर हैं।
- मॉडल दो तर्क स्तरों को उजागर करता है, नहीं और उच्च, और नमूना तुलना में कम आउटपुट टोकन का उपयोग करने के बावजूद उच्च प्रतिक्रिया मजबूत प्रतीत होती है।
- Artificial Analysis पर, पूर्वावलोकन का स्कोर 38, डीपसेक 4.1 फ्लैश के पीछे है लेकिन Mistral Large 3 से अधिक एक प्रमुख सुधार को चिह्नित करता है, जिसने 9 अंक प्राप्त किए।
- यह एक सीमांत मॉडल नहीं है, वर्तमान नेताओं से लगभग छह महीने पीछे होने के रूप में वर्णित किया जा रहा है, लेकिन बड़ी Mistral API पहुंच और भविष्य की ओपन-वेट क्षमता की तलाश करने वाली टीमों के लिए उपयोगी हो सकता है।
- अगला महत्वपूर्ण मील का पत्थर इस महीने के अंत तक वादा किया गया ओपन-वेट रिलीज़ है, जो स्थानीय तैनाती, फाइन-ट्यूनिंग और मूल्यांकन को सक्षम करेगा, हालांकि सटीक लाइसेंस, हार्डवेयर की जरूरतें और अंतिम प्रदर्शन अस्पष्ट हैं।
शीर्षकः मिस्ट्रल लार्ज 4 पूर्वावलोकन 1 ट्रिलियन पैरामीटर और API एक्सेस लाता है
मेटा विवरण: मिस्ट्रल ने Mistral Large 4 का एक पूर्वावलोकन जारी किया है, जो 49 बिलियन सक्रिय मापदंडों के साथ 1 ट्रिलियन पैरामीटर मॉडल है।
टैगः एआई, जनरेटिव-एआई, एलएमएस, मिस्ट्रल, आईएलएम रिलीज़
विशेष रुप से प्रदर्शित छवि: एक बड़े मॉडल पूर्वावलोकन का अमूर्त, मैत्रीपूर्ण चित्रण, स्टाइलिज़्ड पेलिकन आकार और API आइकन के साथ, कोई वास्तविक लोग नहीं, कोई लोगो, कोई पाठ नहीं
पूर्वावलोकन आज क्या प्रदान करता है
Mistral Large 4 पूर्वावलोकन आज मिस्ट्रल के API के माध्यम से आया, जिससे डेवलपर्स, शोधकर्ताओं और उत्पाद टीमों को एक मॉडल तक जल्दी पहुंच मिलती है जिसे कंपनी 1 ट्रिलियन कुल पैरामीटर और 49 बिलियन सक्रिय मापदंडों के रूप में वर्णित करती है। मूल घोषणा में रिलीज़ को "ले चोंक" कहा जा रहा है, और यह उल्लेखनीय है क्योंकि Mistral इस महीने के अंत में खुले वजन वाले मॉडल का वादा करते हुए भीड़-भाड़ वाली मॉडल दौड़ में दृश्यमान रहने की कोशिश कर रहा है। अभी के लिए, व्यावहारिक मार्ग होस्ट किया गया हैः उपयोगकर्ता API, आउटपुट की तुलना करने और मूल्यांकन योजना बनाने के लिए अनुरोध भेज सकते हैं, लेकिन वे भार अभी डाउनलोड नहीं कर सकते हैं। स्रोत खुला वजन रिलीज के लिए अधिक सटीक कैलेंडर तिथि नहीं देता है, न ही यह मूल्य निर्धारण, दर सीमा या पूर्ण मूल्यांकन सूट का वर्णन करता है।
पैरामीटर विभाजन क्यों मायने रखता है
हेडलाइन आकार 1 ट्रिलियन पैरामीटर है, लेकिन 49 बिलियन सक्रिय पैरामीटर आंकड़ा वह है जो दिन-प्रतिदिन के अनुमान को प्रभावित करता है। एक बड़े मॉडल में, प्रत्येक टोकन के लिए जरूरी नहीं कि हर पैरामीटर का उपयोग किया जाता है; सक्रिय सबसेट जनरेशन के दौरान कितना कंप्यूटेशन खर्च होता है इसे नियंत्रित करता है. यह API प्रदर्शन, विलंबता और लागत की तुलना करने वाली टीमों के लिए मायने रखता है, और बाद में खुले वजन परिनियोजन के लिए जहां हार्डवेयर उपलब्धता एक केंद्रीय चिंता है। मिस्ट्रल कहते हैं कि मॉडल को 3,800 NVIDIA Grace Blackwell GPUs के अपने क्लस्टर पर प्रशिक्षित किया गया था। क्लस्टर विवरण पर्याप्त आंतरिक प्रशिक्षण सेटअप का सुझाव देता है, हालांकि स्रोत पूर्ण प्रशिक्षण नुस्खा, डेटा मिश्रण या सटीक तैनाती आवश्यकताओं की व्याख्या नहीं करता है ।
तर्क स्तर और पेलिकन तुलना
API वर्तमान में केवल दो तर्क स्तरों को उजागर करता हैः "कोई नहीं" और "उच्च"। यह कुछ मॉडलों की तुलना में एक सरल नियंत्रण सतह है, और यह शुरुआती परीक्षकों को मॉडल के दृश्य तर्क व्यवहार की तुलना करने का एक स्पष्ट तरीका देता है। स्रोत दो पेलिकन आउटपुट दिखाता है, जो पेलीकन-राइडिंग-ए-बाइक टैग से जुड़ा हुआ है और "हाई" परिणाम "नोन" परिणाम से बेहतर दिखता है। टोकन गिनती विरोधाभासी हैंः "ऊपर" उदाहरण ने 2,717 आउटपुट टोकन का उपयोग किया, जबकि "कुनै भी" उदाहरण 3,275 का इस्तेमाल नहीं किया। दूसरे शब्दों में, अधिक प्रभावशाली दिखने वाली प्रतिक्रिया बड़ी टोकन गणना के साथ नहीं आई थी, जो उन डेवलपर्स के लिए मायने रख सकती है जो मानते हैं कि तर्क गुणवत्ता हमेशा बढ़ती है।
यह Artificial Analysis पर कैसे तुलना करता है
Artificial Analysis पर, एक मॉडल तुलना साइट ने स्रोत में संदर्भित किया है, पूर्वावलोकन स्कोर 38. स्रोत इसे डीपसेक 4.1 फ्लैश के ठीक पीछे रखता है, जिसे 552B मॉडल के रूप में वर्णित किया गया है। यह तुलना महत्वपूर्ण है क्योंकि यह दर्शाता है कि रिलीज़ केवल आकार की कहानी नहीं है; इसे एक अलग लैब से दूसरे बड़े मॉडल के खिलाफ आंका जा रहा है। बड़ा संदर्भ मिस्ट्रल का अपना प्रक्षेपवक्र है। पिछले दिसंबर Mistral Large 3 को उसी Artificial Analysis-दृश्य पर बहुत कमजोर परिणाम मिला, जिसमें 9 अंक थे, और स्रोत अपने पेलिकन आउटपुट को भयानक बताते हैं। इसलिए नया स्कोर मिस्ट्राल के लिए एक प्रमुख सुधार है, भले ही यह मॉडल को लीडरबोर्ड के शीर्ष पर न रखे।
स्रोत सीमाओं के बारे में स्पष्ट हैः मॉडल एक फैबल-क्लास मॉडल नहीं है। फिर भी, आकलन यह है कि मिस्ट्रल ने कुछ ऐसा रखा है जो शायद लगभग 6 महीने की सीमा से पीछे है। पाठकों के लिए इसका परीक्षण करने का मूल्यांकन करना, वह अंतर सार्थक है। यह उस उत्पाद के लिए पहली पसंद नहीं हो सकता है जिसे पूर्ण नवीनतम क्षमताओं की आवश्यकता होती है, लेकिन यह उन टीमों के लिए उपयोगी हो सकती है जो खुले वजन वाले मोमेंटम, API एक्सेस आज और डीपसेक 4.1 फ्लैश और Mistral Large 3.
डेवलपर्स को आगे क्या देखना चाहिए
अगला महत्वपूर्ण तथ्य यह है कि क्या ओपन वेट्स मॉडल वास्तव में "इस महीने के अंत तक" दिखाई देता है। यदि ऐसा होता है, तो शोधकर्ताओं और उद्यमों के लिए मूल्य जल्दी से बदल सकता हैः डाउनलोड करने योग्य भार स्थानीय प्रयोग, कस्टम फाइन-ट्यूनिंग, ऑडिटिंग और मिस्ट्रल की मेजबानी API के बाहर तैनाती की अनुमति देते हैं। वर्तमान पूर्वावलोकन प्रारंभिक मूल्यांकन के लिए उपयोगी है, लेकिन अंतिम लाइसेंस, सटीक हार्डवेयर आवश्यकताओं और कैसे खुला संस्करण Le Chonk संस्करण के साथ तुलना करेगा के बारे में सवाल छोड़ता है।
डेवलपर्स के लिए, तत्काल क्रियाएं सरल हैं। एक प्रतिनिधि कार्यभार पर "कोई नहीं" और "उच्च" तर्क स्तर दोनों का परीक्षण करें, न कि केवल पेलिकन उदाहरण, और आउटपुट टोकन, विलंबता और टास्क की गुणवत्ता को ट्रैक करें। यदि ओपन वेट्स रिलीज महत्वपूर्ण है, तो "इस महीने के अंत" वादे को नियोजन तिथि के रूप में मानें, गारंटी नहीं, क्योंकि स्रोत अधिक सटीक दिन प्रदान नहीं करता है। Hacker News-सोर्स रिपोर्ट इसे मिस्ट्रल के लिए वापसी क्षण के तौर पर फ्रेम करती है, लेकिन दीर्घकालिक संकेत यह होगा कि क्या API पूर्वावलोकन एक व्यावहारिक, खुले वजन वाला विकल्प बन जाता है जहां बाजार मॉडल आकार, पैरामीटर दक्षता, बेंचमार्क स्कोर और सक्रिय रिलीज़ कैडेंस सभी गोद लेने को प्रभावित करते हैं।

Comments (0)