ट्यूटोरियल

यह गाइड दिखाता है कि कैसे Unsloth का उपयोग करके Jev की तरह अपने स्वयं के निर्णय मॉडल को प्रशिक्षित करें।

यह गाइड Qwen3.5-4B को Unsloth के साथ एक CLINC150 इरादे निर्णय मॉडल में Colab, 4-बिट क्वांटिज़ेशन और लो-रैंक अनुकूलन का उपयोग करके ठीक करता है।

मुख्य जानकारी

  • यह गाइड दिखाता है कि कैसे Qwen3.5-4B को Unsloth के FastDecisionModel का उपयोग करके निर्णय मॉडल में बदल दिया जाए, जो मुक्त पाठ उत्पन्न करने के बजाय पूर्वनिर्धारित उत्तरों का चयन करने के लिए एक निर्णय सिर जोड़ता है।
  • यह CLINC150, एक इरादा वर्गीकरण dataset का उपयोग करता है, और इनपुट राज्य, उपलब्ध विकल्पों और गोल्ड लेबल के साथ निर्णय-प्रशिक्षण प्रारूप में अपने रिकॉर्ड को फिर से बनाता है।
  • कार्यप्रवाह Google Colab में 4-बिट क्वांटिज़ेशन, LoRA के साथ चलता है और मॉडल को कुशलतापूर्वक ठीक करने के लिए निर्णय-हेड प्रशिक्षण।
  • एक संकीर्ण 10-प्रयत्न कार्य पर, प्रशिक्षण से पहले 18.5% से प्रशिक्षण के बाद 100% तक सत्यापन सटीकता में सुधार हुआ है, जो विधि को पूर्ण 150-श्रेणी प्रदर्शन की बजाय अवधारणा के प्रमाण के रूप में प्रदर्शित करता है।

मेटा विवरण: एक निर्णय मॉडल में Unsloth के साथ Qwen3.5-4B को ठीक करने का तरीका जानें जो CLINC150 उपयोगकर्ता इरादे को वर्गीकृत करता है, सटीकता का मूल्यांकन करता है और विश्वास स्कोर बचाता है।

टैगः निर्णय मॉडल, Qwen3.5-4B, Unsloth, CLINC150, इरादा वर्गीकरण

विशेष रुप से प्रदर्शित छवि: अमूर्त, दोस्ताना चित्रण शैली वास्तविक लोगों के बिना, कोई लोगो और कोई पाठ नहीं

यह ट्यूटोरियल उन डेवलपर्स के लिए है जो Google Colab, Unsloth, और Qwen3.5-4B का उपयोग एक निर्णय मॉडल बनाने के लिए करना चाहते हैं जो लघु संदेशों से उपयोगकर्ता इरादे को वर्गीकृत करता है। इसमें दिखाया गया है कि कैसे CLINC150 dataset को निर्णय प्रशिक्षण के लिए फिर से तैयार किया जा सकता है, 4-बिट क्वांटिज़ेशन और लो-Rank Adaptation मॉडल को ठीक-ट्यून कर सकते हैं, और व्यापक उपयोग करने से पहले सटीकता, विश्वास और सहेजे गए आउटपुट की जांच कैसे की जा सकती है। वर्णित रन में, सत्यापन सटीकता जानबूझकर संकीर्ण 10-इरादा कार्य पर 18.5% से 100% तक चली गई, और मॉडल ने आयोजित स्प्लिट-आउट परीक्षण में सभी 300 उदाहरणों को सही ढंग से वर्गीकृत किया। वह परिणाम अवधारणा के प्रमाण के रूप में उपयोगी है, न कि पूर्ण 150-श्रेणी वाले कार्य को हल किए जाने के दावे के रूप मेँ।

क्यों एक भाषा मॉडल निर्णय का मॉडल बन सकता है

भाषा मॉडल आमतौर पर पाठ token द्वारा उत्पन्न करते हैं, लेकिन कुछ अनुप्रयोगों को केवल एक चयनित निर्णय की आवश्यकता होती है, न कि स्पष्टीकरण। यदि कोई उपयोगकर्ता बचत खाता शेष राशि की जांच करने के बारे में पूछता है, तो chatbot चरणों का वर्णन कर सकता है, जबकि एक निर्णय मॉडल बस मिलान इरादे और विश्वास स्कोर वापस कर सकते हैं। वे उपयोगी होते हैं जहां किसी कार्रवाई को चुनना टेक्स्ट उत्पादन से अधिक मायने रखता हैः इरादा वर्गीकरण, सामग्री मॉडरेशन, अनुरोध रूटिंग, भावना विश्लेषण और एजेंट वर्कफ़्लो।

Jev, Laya और Clef जैसे मॉडल संरचित निर्णयों के लिए बनाए गए हैं। वे token द्वारा token पाठ लिखने के बजाय पूर्वनिर्धारित विकल्पों में से चुनते हैं और संभावना अनुमान वापस करते हैं। Unsloth अब Qwen और Gemma सहित ओपन-वेट लैंग्वेज मॉडलों से निर्णय मॉडल को प्रशिक्षित कर सकता है। आधिकारिक निर्णय-मॉडल गाइड विधि की व्याख्या करता है और इसमें रेडी-टू-रन नोटबुक शामिल हैं।

Unsloth's FastDecisionModel एक पूर्व-प्रशिक्षित भाषा मॉडल को एक विशेष निर्णय हेड जोड़कर निर्णय मॉडल में परिवर्तित करता है। यह मॉडल इनपुट और उपलब्ध विकल्पों को संसाधित करता है, फिर पारंपरिक पूर्णता के बिना संभावित उत्तर स्कोर करता है. यह तीन प्रश्न प्रकार का समर्थन करता हैः पसंद, जो कई से एक विकल्प चुनता है; नोल, जो हां या नहीं निर्णय देता है; और स्कोर, जो क्रमबद्ध श्रेणियों से स्तर का चयन करता है । यह प्रयोग च्वाइस का उपयोग करता है क्योंकि लक्ष्य उपयोगकर्ता संदेश के पीछे इरादे की पहचान करना है।

कोलाब और क्वेन तैयार करना3.5-4B

  1. Open Unsloth की आधिकारिक निर्णय-मॉडल गाइड या Qwen3.5-4B Decision Model नोटबुक में Google Colab. कुछ भी बदलने से पहले एक प्रतिलिपि बनाएँ. रनटाइम सेटिंग्स में, चुनें रनिंग टाइप बदलें और उपलब्ध NVIDIA GPU का चयन करें। प्रयोग ने लगभग 14.6 GB के साथ Tesla T4 का उपयोग किया GPU, पर सेटअप चल सकता है लेकिन प्रशिक्षण अधिक समय लेता है क्योंकि यह नए GPU पर होगा
  1. डिपेंडेंसी इंस्टॉलेशन सेल को नोटबुक से चलाएँ. यह uv, संगत PyTorch और Transformers संस्करणों, Unsloth स्थापित करता है, और GPU पैकेजों की आवश्यकता होती है. सेल एक कैप्चर निर्देशिका का उपयोग करती है ताकि स्थापना लॉग्स नोटबॉक से छिपे रहें.
  1. Load Qwen3.5-4B सामान्य भाषा-मॉडल लोडर के बजाय FastDecisionModel के साथ। मेमोरी खपत को कम करने के लिए 4-बिट क्वांटिज़ेशन का उपयोग करें. निर्णय सिर एक प्रशिक्षित राज्य में शुरू होता है, और पूर्व प्रशिक्षित मॉडल भाषा की समझ प्रदान करता है।
  1. प्रत्येक मॉडल पैरामीटर को अद्यतन करने के बजाय Configure Low-Rank Adaptation। इस प्रयोग के लिए एक व्यावहारिक प्रारंभिक बिंदु के रूप में 16 की रैंक का उपयोग किया जाता है. निर्णय सिर भी प्रशिक्षित होता है, और ग्रेडिएंट चेकपॉइंटिंग प्रशिक्षण के दौरान GPU मेमोरी उपयोग को कम करने के लिए सक्षम होती है।

CLINC150 को निर्णय training data में बदलना

  1. डाउनलोड करें और CLINC150 का निरीक्षण करें। यह एक इरादा वर्गीकरण dataset है जिसमें 150 इरादे श्रेणियां हैं जो बैंकिंग, यात्रा, खरीदारी और रोजमर्रा के सहायक कार्यों को कवर करती हैं। dataset में 15,000 इन-स्कोप प्रशिक्षण पंक्तियाँ, 3,000 सत्यापन पंक्तियां और 4,500 इन-स्कोप परीक्षण पंक्तियों हैं, जिनमें अलग-अलग आउट-ऑफ-स्कॉप लाइनें रखी गई हैं। प्रत्येक रिकॉर्ड उस संदेश के लिए आशय लेबल के साथ एक उपयोगकर्ता संदेश जोड़ता है।
  1. पहले कोलाब प्रयोग के लिए, CLINC150 से 10 इरादों का चयन करें। आप प्रयासों की संख्या बढ़ा सकते हैं, लेकिन एक बड़ा विकल्प सेट इनपुट लंबाई और प्रशिक्षण आवश्यकताओं में वृद्धि करता है।
  1. प्रत्येक रिकॉर्ड को फ़ील्ड में परिवर्तित करें Unsloth निर्णय प्रशिक्षण के लिए उम्मीद करता हैः राज्य, जो इनपुट मॉडल का विश्लेषण करता है; प्रश्न, जो फैसले हैं जिन्हें मॉडल बनाना चाहिए; और सोना, जो प्रशिक्षण के दौरान उपयोग किया जाने वाला सही उत्तर है। इस कार्य के लिए, सवाल चयनित इरादों से निर्मित एक विकल्प प्रश्न है।
  1. इस पहले प्रयोग से आउट-ऑफ-स्कोप रिकॉर्ड को बाहर करें। उनका पता लगाना एक अलग कार्य है जिस पर वर्गीकरणकर्ता के मूल्यांकन के बाद चर्चा की जा सकती है। प्रत्येक परिवर्तित पंक्ति में अब प्राकृतिक भाषा उपयोगकर्ता अनुरोध, उपलब्ध इरादों का सेट और सही इरादे लेबल शामिल हैं।
  1. Unsloth के अंतर्निहित dataset बिल्डर के साथ प्रशिक्षण का निर्माण करें। यह उदाहरणों को टोकन करता है और उन्हें निर्णय प्रमुख द्वारा आवश्यक प्रारूप में परिवर्तित कर देता है। CLINC150 के मूल प्रशिक्षण, सत्यापन और परीक्षण विभाजन का उपयोग करें ताकि अंतिम परीक्षण डेटा प्रशिक्षण और अंशांकन से अलग रहे।

अभिप्राय वर्गीकरणक को प्रशिक्षित करना और मापना

  1. प्रशिक्षण से पहले मॉडल का मूल्यांकन करें. चूंकि निर्णय सिर ताजा है, इसलिए इसकी शुरुआती भविष्यवाणियां यादृच्छिक अनुमान लग सकती हैं। एक संतुलित 10-वर्ग कार्य पर, रैंडम अनुमान लगभग 10% सटीकता तक पहुंच जाएगा। यह स्कोर बाद की तुलना के लिए आधार रेखा बन जाता है।
  1. Use Unsloths DecisionTrainer, जो fine-tuning निर्णय मॉडल के लिए डिज़ाइन किया गया है. यह प्रयोग 60 प्रशिक्षण चरणों का उपयोग करता है, आधिकारिक Unsloth नोटबुक के त्वरित-प्रशिक्षण उदाहरण से मेल खाता है। अधिक पूर्ण रन के लिए, चरणों की संख्या बढ़ाएं या कई युगों के लिए ट्रेन करें।
  1. प्रशिक्षण शुरू करें. जैसे-जैसे प्रशिक्षण चलता है, अनस्लोथ ट्रेनिंग लॉस और रनटाइम सहित मैट्रिक्स को लॉग करता है। इस रन में, सत्यापन सटीकता प्रशिक्षण से पहले 18.5% से प्रशिक्षण के बाद 100% तक चढ़ गई। यह छोटे 10 इरादे वाले उपसमूह के लिए मजबूत है, लेकिन यह सभी 150 इरादों या आउट-ऑफ-स्कोप अनुरोधों पर 100% की सटीकता का दावा नहीं है।
  1. Unsloth की अंतर्निहित कैलिब्रेशन विधि के साथ विश्वास स्कोर को अंशांकित करें. सही विकल्प पर्याप्त नहीं हैं; संभावनाओं से मेल खाना चाहिए कि वे कितनी बार सही होते हैं। कैलिबरेशन लौटाई गई संभावनाओं को अधिक विश्वसनीय बनाता है। अपेक्षित कैलीब्रेशन त्रुटि अवलोकन सटीकता के साथ भविष्यवाणी किए गए आत्मविश्वास की तुलना करती है; कम बेहतर है।
  1. आयोजित 300-उदाहरण परीक्षण विभाजन पर प्रशिक्षित मॉडल का मूल्यांकन करें. यह महत्वपूर्ण है क्योंकि उन परीक्षण उदाहरणों को प्रशिक्षण या विश्वास कैलिब्रेशन के लिए उपयोग नहीं किया गया था। इस रिपोर्ट किए गए रन में, सभी 300 उदाहरण सही ढंग से वर्गीकृत किए गए थे, और रन ने शून्य हानि और अपेक्षित अंशांकन त्रुटि की सूचना दी थी। वे निष्पादन आउटपुट हैं, न कि पूर्ण सामान्यीकरण का वादा। तैनाती से पहले, कठिन, अस्पष्ट और आउट-ऑफ-स्कोप संदेशों का परीक्षण करें।
  1. एक साधारण फ़ंक्शन के साथ भविष्यवाणियां करें जो उपयोगकर्ता की क्वेरी को स्वीकार करता है और मॉडल का पूर्वानुमानित इरादा लौटाता है। प्रत्येक संदेश के लिए, मॉडल एक आशय लेबल और प्रत्येक विकल्प की संभावना देता है.
  1. प्रशिक्षित लो-Rank Adaptation एडेप्टर और निर्णय सिर को सहेजें। यदि आप एक विलय कलाकृतियों पसंद करते हैं, Unsloth भी एक पूर्ण मॉडल बचा सकते हैं. यह FastDecisionModel.from_pretrained() के साथ पुनः लोड किया जा सकता है और Python अनुप्रयोगों या समर्थित निर्णय-मॉडल सेवा कार्यप्रवाह में उपयोग किया जाता है।

आम गलतियाँ

  • संकुचित 10-प्रयास परीक्षण पर 100% सटीकता को इस प्रमाण के रूप में माना जाता है कि मॉडल सभी 150 CLINC150 प्रयासों का प्रबंधन करता है।
  • अपने स्वयं के कार्य के रूप में आउट-ऑफ-स्कोप डिटेक्शन को परिभाषित किए बिना पहले चॉइस प्रयोग में आउट ऑफ स्कोप उदाहरणों का मिश्रण करना।
  • अपेक्षित कैलिब्रेशन त्रुटि की जांच करने से पहले अंशांकन को छोड़ना और आत्मविश्वास स्कोर पर भरोसा करना।
  • अधिक समय तक इनपुट और उच्च GPU मेमोरी मांग को ध्यान में रखे बिना आशयों की संख्या बढ़ाना।
  • Loading Qwen3.5-4B के रूप में एक सामान्य भाषा मॉडल FastDecisionModel का उपयोग करने की बजाय, जो निर्णय सिर को प्रशिक्षित होने से रोकता है।

यह दृष्टिकोण पाठकों के लिए महत्वपूर्ण है क्योंकि यह एक सामान्य भाषा मॉडल को उपयोगकर्ता अनुरोधों को रूट करने के उपकरण में बदल देता है। परिणाम छोटे प्रयोगों के लिए व्यावहारिक है, लेकिन तैनाती को व्यापक मूल्यांकन, अस्पष्ट मामलों और आउट-ऑफ-स्कोप संदेशों की आवश्यकता होती है। आप अपने dataset के साथ उसी विधि का उपयोग कर सकते हैं और पता लगा सकते हैं कि निर्णय मॉडल उन अनुप्रयोगों में कैसे फिट होते हैं जहां संरचित विकल्प लंबी प्रतिक्रियाओं से अधिक उपयोगी होते हैं।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.