Hugging Face और OpenRouter ने ओपन-वेट मॉडल चलाने को सरल बनाने के लिए साझेदारी की है।
Hugging Face ने Inference Providers को OpenRouter में स्थानांतरित कर दिया, 80+ प्रदाताओं के बीच कीमत, गति और विश्वसनीयता द्वारा समान कोड के साथ खुले-वजन वाले मॉडल का रूटिंग किया।
मुख्य जानकारी
- Hugging Face अब ओपन-वेट लैंग्वेज मॉडल अनुरोधों को OpenRouter के माध्यम से रूट करता है, जिससे डेवलपर्स एक ही कोड API, और Hugging Face टोकन रखते हैं जबकि स्वचालित रूप से लाइव मूल्य, गति और विश्वसनीयता के आधार पर 80+ प्रदाताओं में से चयन करते हैं।
- डेवलपर कार्यप्रवाह ज्यादातर अपरिवर्तित रहते हैंः उपयोगकर्ता अभी भी मॉडल और प्रदाताओं का चयन कर सकते हैं, लेकिन कस्टम प्रदाता API कुंजी अब भाषा मॉडल अनुरोधों के लिए काम नहीं करती है क्योंकि बिलिंग अब Hugging Face खातों या संगठनों के माध्यम से बहती है।
- ओपन-वेट मॉडल का उपयोग किया जा रहा है क्योंकि वे बंद मॉडलों की तुलना में बहुत सस्ते हैं, भले ही वे सबसे कठिन तर्क कार्यों पर कम स्कोर कर सकें, जिससे उन्हें कई कार्यभारों के लिए आकर्षक बनाया जाए।
- OpenRouter के रूटिंग में प्रदाता पुनः प्रयासों, लाइव प्रदर्शन माप, कैश-जागरूक सत्र रूटिंग और कम क्षमता त्रुटियों, तेज़ प्रथम टोकन विलंबता और उच्च थ्रूपुट जैसे रिपोर्ट किए गए लाभ के साथ विश्वसनीयता में सुधार होता है।
- Hugging Face मॉडल पृष्ठ अब प्रदाता सूचियों, प्रदर्शन मैट्रिक्स, उपयोग टूटने और अवांछित प्रदाताओं को ब्लॉक करने के लिए सेटिंग्स के साथ रूटिंग पारदर्शिता का खुलासा करते हैं, जबकि छवि, वीडियो और ऑडियो पीढ़ी अभी भी सीधे चलती है।
![प्रदाता नोड्स को मॉडल कार्ड से जोड़ने वाले रूटिंग पथों का अमूर्त मैत्रीपूर्ण चित्रण, बिना किसी व्यक्ति, लोगो या पाठ के]
मेटा विवरणः Hugging Face और OpenRouter अब कोड को समान रखते हुए लाइव मूल्य, गति और विश्वसनीयता का उपयोग करके 80+ प्रदाताओं में ओपन-वेट मॉडल अनुरोधों को रूट करता है।
टैगः Hugging Face, OpenRouter, ओपन-वेट मॉडल, मॉडल रूटिंग, AI अनुमान
Hugging Face और OpenRouter ने बदल दिया है कि कैसे ओपन-वेट मॉडल अनुरोधों को संभाला जाता है, और आज Hugging Face अपने स्वयं के कस्टम राउटर से ओपेनराउटर की रूटिंग प्रणाली में स्थानांतरित हो गया। यह उन डेवलपर्स और टीमों के लिए है जो भाषा मॉडलों के माध्यम से कॉल करते हैं: कोड समान रह सकता है, टोकन एक ही रह सकते हैं, और प्रत्येक अनुरोध लाइव मूल्य, गति और विश्वसनीयता के आधार पर 80 से अधिक प्रदाताओं से सबसे अच्छा उपलब्ध प्रदाता को भेजा जा सकता है। हर प्रमुख खुले वजन रिलीज़ पहले से ही Hugging Face Hub पर प्रकाशित किया जाता है और ओपनरॉटर उन मॉडलों को पैमाने पर सेवा देता है, इसलिए एक हब मॉडल जिसे एक प्रदाता का समर्थन करता है उसे उसी प्रदाता API के जरिए बुलाया जा सकेगा जबकि Openrouter आपूर्तिकर्ता का चयन करेगा।
आज डेवलपर्स के लिए क्या परिवर्तन हैं
Hugging Face Inference Providers के माध्यम से किए गए लैंग्वेज मॉडल अनुरोध अब OpenRouter से गुजरते हैं। ओपनराउटर प्रत्येक कॉल के लिए प्रदाताओं का मूल्यांकन करता है और यदि पहला विफल हो जाता है तो दूसरे प्रदाता पर पुनः प्रयास करता है। राउटर हर चैट मॉडल के लिए OpenAI Chat Completions API, OpenAI Responses API, और Anthropic Messages API का समर्थन करता है, भले ही कौन सा प्रदाता कॉल के पीछे है।
मौजूदा कार्यप्रवाह बरकरार रह सकते हैं। एक उपयोगकर्ता कोडिंग एजेंट या सॉफ़्टवेयर डेवलपमेंट किट चुन सकता है, एक मॉडल चुनता है, सेटअप चरणों की प्रतिलिपि बनाता है, या एजेंट के लिए प्रॉम्प्ट के रूप में पूरे सेटअप को कॉपी कर सकता है।Hugging Face इसके अलावा Claude Code, कोडेक्स, ओपनकोड, पाई और Hermes Agent के लिए सेटअप गाइड प्रदान करता है। वही Hugging Face टोकन अन्य हब सेवाओं को अनलॉक करना जारी रखता हैः Storage Buckets भंडारण के लिए, कंप्यूटिंग के लिए जॉब्स, और Inference Endpoints समर्पित अनुमान के लिए। प्रो, टीम और एंटरप्राइज़ योजनाओं में गणना और अनुमानों के लिए मासिक क्रेडिट शामिल हैं।
एक व्यावहारिक परिवर्तन कस्टम प्रदाता कुंजियों को प्रभावित करता है। चूंकि भाषा मॉडल अनुरोध अब Hugging Face खाते या संगठन के माध्यम से बिल किए जाते हैं, इसलिए डेवलपर्स उन मॉडलों के लिए अपनी स्वयं की प्रदाता API कुंजी का उपयोग नहीं कर सकते हैं। वे अभी भी एक प्रदाता या रूटिंग नीति चुन सकते हैं जो मॉडल आईडी पर प्रत्यय के साथ होती है, जैसे कि `model:provider∀ , या सेटिंग्स में प्रदाताओं को बंद कर देती है। छवि और वीडियो आपूर्तिकर्ताओं के लिए कस्टम कुंजियां काम करना जारी रखती हैं।
क्यों ओपन-वेट मॉडल जमीन हासिल कर रहे हैं
साझेदारी के रूप में आता है ओपन-वेट मॉडल सेवा यातायात का एक बड़ा हिस्सा बन गए हैं। OpenRouter पर, खुले वजन वाले मॉडल अक्टूबर में 26.8% टोकन से बढ़कर 2025 सितंबर के अंत तक 71.7% हो गए थे 2026, जुलाई में 77.5% की चोटी पर पहुंचने के बाद, ऑक्टोबर 2026 से ओपनरोटर डेटा के अनुसार। उस अवधि में साप्ताहिक खुला वज़न मात्रा 60 गुना से अधिक बढ़ी, जबकि बंद मॉडल की मात्रा लगभग दस गुना बढ़ गई। इस सप्ताह, ओपनरोडर रैंकिंग पर सबसे ज्यादा इस्तेमाल किया जाने वाला मॉडल ओपन-वजन DeepSeek V4.1 फ्लैश 1017 है, जिसमें 59.2 ट्रिलियन टोकन परोसे जाते हैं।
लागत उस वृद्धि का एक प्रमुख कारण है। खुले-वजन वाले मॉडल बंद मॉडलों की तुलना में औसतन लगभग चार गुना कम होते हैंः $0.28 प्रति मिलियन इनपुट टोकन और $1.62 प्रति मिलियन आउटपुट टोकनों के लिए, $1.27 और $6.36 के साथ तुलना करें। व्यापार-बंद यह नहीं है कि ओपन-वेट मॉडल हमेशा सबसे कठिन कार्यों पर सर्वश्रेष्ठ होते हैं। Artificial Analysis Intelligence Index, सबसे अच्छा खुला वजन वाला मॉडल, Kimi K3.1 प्रो, 46 स्कोर करता है जबकि Claude Fable 5.2 65.27.1 प्रो प्रति कार्य के बारे में सातवें स्थान पर खर्च होता है, $3.68 $26.54 के खिलाफ। कई वर्कलोड्स के लिए यह ट्रेडऑफ इसके लायक है।
कैसे OpenRouter का रूटिंग विश्वसनीयता में सुधार करता है
बड़े पैमाने पर, OpenRouter 10 मिलियन से अधिक उपयोगकर्ताओं के लिए प्रति माह 800 ट्रिलियन टोकन को संभालता है, जिसमें 80+ प्रदाताओं के 600+ मॉडल हैं। इसका रूटिंग उस ट्रैफ़िक में हर प्रदाता से लाइव माप का उपयोग करता है। एक पुनर्निर्मित प्रदाता-चयन प्रणाली अब केवल सबसे कम सूची मूल्य नहीं चुनती; यह कीमत, गति और विश्वसनीयता को एक साथ तौलता है।
नया व्यवहार एक ही कॉल के भीतर विफलताओं को भी संभालता है। यदि कोई प्रदाता धीमा हो जाता है या असफल होने लगता है, तो ट्रैफ़िक इससे दूर चला जाता है जब तक कि यह ठीक नहीं होता है। अगर अनुरोध विफल रहता है, OpenRouter इसे अगले सर्वश्रेष्ठ प्रदाता के साथ पुनः प्रयास करता है। ओपनराउटर के अपने माप क्षमता त्रुटियों में 46% कमी का श्रेय देते हैं, पहले टोकन के लिए समय में 16.9% सुधार और पुनर्निर्मित रूटिंग में 16.3% थ्रूपुट वृद्धि। पिछले Hugging Face रूटिंग पथ ने एक एकल प्रदाता का चयन किया और विफलता पर उस प्रदाता की त्रुटि सामने आई।
राउटर भी कैश-जागरूक है। एक वार्तालाप उस प्रदाता पर रहता है जो अपने प्रॉम्प्ट कैश को रखता है, जब चैट या एजेंटों में दोहराए गए संदर्भ का उपयोग किया जाता है तो यह महत्वपूर्ण होता है। उस रूटिंग को स्पष्ट करने के लिए, उपयोगकर्ता X-HF-Session-Id हेडर में प्रति बातचीत स्थिर सार्वभौमिक रूप से अद्वितीय पहचानकर्ता (UUID) भेज सकते हैं। प्रॉम्पक्ट कैशिंग गाइड इस विकल्प का वर्णन करता है.
जो सीधा रहता है और जिसे आप निरीक्षण कर सकते हैं
छवि, वीडियो और ऑडियो पीढ़ी OpenRouter स्विच के बाहर रहती है और सीधे इसके माध्यम से चलती रहती है। Hugging Face उपयोगकर्ता एक ही टोकन का उपयोग कर सकते हैं API और दसियों हज़ारों LoRAs या कम रैंक वाले एडेप्टर तक पहुंच सकते हैं।
मॉडल पृष्ठ एक चैट विजेट रखते हैं, और वे अब दो टैब जोड़ते हैं जो इसके पीछे रूटिंग विवरण को उजागर करते हैं। प्रदाता पिछले 24 घंटों में इनपुट और आउटपुट मूल्य, गति और अपटाइम के साथ प्रत्येक प्रदाता की सूची देता है जिसे ओपनराउटर मॉडल को रूट कर सकता है। मीट्रिक्स उनमें से सबसे अच्छी कीमत, थ्रूपुट, पहले टोकन तक का समय, संदर्भ लंबाई और अप टाइम दिखाता है। उपयोग अवलोकन उन प्रदाताओं द्वारा टूट जाता है जिन्होंने प्रत्येक अनुरोध को संभाला था। सेटिंग्स उपयोगकर्ताओं को किसी भी प्रदाता को ब्लॉक करने देती हैं जिन्हें वे उपयोग नहीं करना चाहते हैं; अवरुद्ध प्रदाते को रूटिंग से बाहर रखा गया है। संगठन-स्तरीय सेटिंग्स उसी तरह काम करती हैं और संगठन पर लगाए गए सभी अनुरोधों पर लागू होती हैं।
बिलिंग मॉडल समान रहता हैः प्रदाता की कीमत Hugging Face बिल पर दिखाई देती है, शीर्ष पर कोई Hugging Face मार्कअप नहीं जोड़ा जाता है। PRO उपयोगकर्ता हर महीने $2 क्रेडिट प्राप्त करते हैं, और टीम और एंटरप्राइज़ संगठन प्रति सीट $2 पाते हैं।
अगला क्या है
Hugging Face साझेदारी के पहले चरण के रूप में ओपन राउटर रूटिंग स्विच का वर्णन करता है। सूचीबद्ध अगले आइटम एक OpenRouter खाते को Hugging Face से जोड़ रहे हैं और ओपन राऊटर के माध्यम से अधिक कार्यों को रूट कर रहे हैं। अभी के लिए, उपयोगकर्ता हब पर एक मॉडल की कोशिश कर सकते हैं या शुरू करने के लिए Inference Providers डॉक्स पढ़ सकते हैं।

Comments (0)