कैसे एक खुला LLM का उपयोग कर अपने स्वयं के जेईवी मॉडल बनाने के लिए

मेटा विवरण: सीखें कि कैसे एक छोटे open-source Qwen LLM भाषा मॉडलिंग सिर की जगह तेजी से एकल-पास पाठ वर्गीकरणकर्ता बना सकते हैं, व्यावहारिक बिल्डरों के लिए समझाया गया है।

टैगः Qwen , पाठ वर्गीकरण, open-source LLM, मॉडल अनुकूलन

विशेष रुप से प्रदर्शित छवि: एक छोटे तंत्रिका मॉडल का अमूर्त मैत्रीपूर्ण चित्रण जो अपने आउटपुट हेड को लेबल चयनकर्ता में बदल देता है, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं, कोई पाठ नहीं।

Towards Data Science पर पहली बार दिखाई देने वाली एक पोस्ट में छोटे open-source Qwen LLM को अपने भाषा-मॉडलिंग हेड को स्वैप करके तेज, सिंगल पास Qwen LLM टेक्स्ट क्लासिफायर में बदलने का व्यावहारिक तरीका बताया गया है। यह गाइड डेवलपर्स, ML प्रैक्टिशनर्स और प्रोडक्ट टीमों के लिए लक्षित है जिन्हें token -by- token पीढ़ी की तुलना में कम विलंबता वाले लेबल भविष्यवाणियों की आवश्यकता होती है, जबकि अभी भी पूर्व प्रशिक्षित Transformer मॉडल का उपयोग कर रहे हैं। मॉडल से पाठ उत्पन्न करने और फिर उत्तर को पार्स करने के लिए कहने के बजाय, अनुकूलित मॉडल सीधे एक फॉरवर्ड पास से क्लास स्कोर आउटपुट कर सकता है। मूल लेख शीर्षक है "कैसे Make Your Own JEV मॉडल से Open LLM तक"

आउटपुट हेड उपयोग के मामले को क्यों बदलता है

large language models आमतौर पर अगले token की भविष्यवाणी करने के लिए बनाए जाते हैं। एक भाषा-मॉडलिंग हेड Transformer रीढ़ से अंतिम छिपी हुई स्थिति लेता है और इसे शब्दावली वितरण में मैप करता है। यह डिज़ाइन पीढ़ी के लिए उत्कृष्ट है, लेकिन वर्गीकरण के लिए सबसे प्रत्यक्ष मार्ग नहीं है। जब किसी टीम को केवल यह जानने की आवश्यकता होती है कि कोई संदेश स्पैम है, सकारात्मक है, नकारात्मक है, किसी विभाग को रूट किया गया है या किसी विषय को सौंपा गया है, तो शब्द उत्पन्न करना अनावश्यक विलंबता और लागत जोड़ सकता है।

एक वर्गीकरण सिर लेबल स्कोर के छोटे सेट में उसी छिपे हुए प्रतिनिधित्व को प्रोजेक्ट करके इसे हल करता है। यदि मॉडल को उस प्रक्षेपण के साथ प्रशिक्षित या ठीक किया जाता है, तो अंतिम भविष्यवाणी एक ही पास में उत्पन्न की जा सकती है। मूल पोस्ट इसका वर्णन खुली LLM से जेईवी मॉडल बनाने के रूप में करती है। उपलब्ध सामग्री जेईव्ही संक्षिप्त नाम को परिभाषित नहीं करती है, लेकिन ठोस तकनीकी चाल स्पष्ट हैः भाषा-मॉडलिंग हेड को क्लासिफायर आउटपुट से बदलें।

यह महत्वपूर्ण है क्योंकि कई छोटे open-source मॉडल पहले से ही मजबूत भाषा की समझ रखते हैं। बहुत सी टीमों के लिए लापता टुकड़ा एक बड़ा मॉडल नहीं है, बल्कि मॉडल को उत्पादन लेबलर में बदलने का एक सस्ता और तेज़ तरीका है। एक छोटा Qwen -आधारित वर्गीकरणकर्ता होस्ट करना आसान हो सकता है, क्वेरी करने के लिए तेजी से, और चैट-शैली पीढ़ी एंडपॉइंट की तुलना में अद्यतन करना सरल है।

यह दृष्टिकोण व्यवहार में क्या करता है

मूल परिवर्तन पूर्व-प्रशिक्षित Qwen रीढ़ की हड्डी को बनाए रखना और भाषा मॉडलिंग सिर को एक हेड के साथ बदलना है जो कक्षा स्कोर आउटपुट करता है। एक मानक अनुक्रम वर्गीकरण सेटअप में, मॉडल इनपुट टेक्स्ट को संसाधित करता है, छिपी हुई स्थितियों का उत्पादन करता है और फिर लेबल की भविष्यवाणी करने के लिए अंतिम छिपी स्थिति या पूल किए गए प्रतिनिधित्व का उपयोग करता है. आउटपुट इकाइयों की संख्या वर्गों की संख्या से मेल खाती है। मूल पोस्ट इसे एकल-पास क्लासिफायर के रूप में वर्णित करती है, जिसका अर्थ है कि मॉडल को अपने उत्तर को प्रकट करने के लिये चरण दर चरण tokens उत्पन्न करने की आवश्यकता नहीं होती है।

पाठकों के लिए, व्यावहारिक निहितार्थ एक संकीर्ण तैनाती लक्ष्य है। एक पीढ़ी मॉडल को आमतौर पर डिकोडिंग तर्क की आवश्यकता होती है, tokens बंद करो , शीघ्र स्वरूपण और कभी-कभी पोस्ट-प्रोसेसिंग। एक वर्गीकरण मॉडल सीधे संभावनाओं या लॉगिट्स वापस कर सकता है। इससे थ्रेसहोल्ड सेट करना, इनपुट में विश्वास की तुलना करना और रूटिंग, फ़िल्टरिंग या ट्रीएज वर्कफ़्लोज़ में मॉडल को एकीकृत करना आसान हो जाता है।

यह विधि आधार मॉडल के पूर्व-प्रशिक्षित ज्ञान को भी रखती है। जब लेबल अर्थपूर्ण या भाषा-भारी होते हैं, जैसे कि इरादे का पता लगाना, भावना विश्लेषण, विषय असाइनमेंट, या समर्थन-टिकट रूटिंग, तो यह उपयोगी हो सकता है। मॉडल यादृच्छिक भार से शुरू नहीं होता; यह एक पूर्व प्रशिक्षित प्रतिनिधित्व से शुरू होता है जो पहले से ही पाठ संरचना और अर्थ को समझता है।

इसे सुरक्षित रूप से कैसे लागू किया जाए

निम्नलिखित चरणों में स्रोत में वर्णित विचार को लागू करने का एक सामान्य तरीका बताया गया है, जो लेख की पंक्ति के अनुसार प्रतिलिपि बनाने के बजाय सामान्य मशीन-लर्निंग अभ्यास का उपयोग करता है।

1. एक छोटा open-source Qwen मॉडल चुनें जो आपके बजट और परिनियोजन बाधाओं को फिट करता है। उत्पादन उपयोग की योजना बनाने से पहले मॉडल लाइसेंस और समर्थित संदर्भ लंबाई की जाँच करें.
2. लेबल सेट को स्पष्ट रूप से परिभाषित करें. बाइनरी, मल्टीक्लास और बहु-लेबल समस्याओं के लिए विभिन्न हानि कार्यों और मूल्यांकन मैट्रिक्स की आवश्यकता होती है।
3. लेबल किए गए उदाहरण तैयार करें। प्रतिनिधि इनपुट, एज केस और ऐसे उदाहरण शामिल करें जो अस्पष्ट हो सकते हैं। प्रशिक्षण के दौरान उपयोग नहीं किए जाने वाले एक अलग सत्यापन और परीक्षण विभाजन रखें।
4. मूल भाषा-मॉडलिंग सिर को निकालें या फ्रीज करें. यदि आप एक मानक Transformer लाइब्रेरी का उपयोग कर रहे हैं, तो यह आमतौर पर मॉडल विन्यास या वास्तुकला में एक छोटा सा परिवर्तन होता है, न कि पूरे मॉडल का पुनर्लेखन।
5. अपने लेबल स्पेस में एक वर्गीकरण हेड आकार संलग्न करें। दो-वर्ग की समस्या के लिए, सिर फ्रेमवर्क और हानि के आधार पर एक या दो स्कोर आउटपुट कर सकता है। कई वर्गों के लिए यह प्रति वर्ग एक स्कोर का उत्पादन करता है।
6. अपने लेबल किए गए डेटा पर मॉडल को फाइन-ट्यून करें. hardware के आधार पर, आप सभी परतों को प्रशिक्षित कर सकते हैं, अधिकांश रीढ़ की हड्डी को फ्रीज कर सकते है या पैरामीटर-कुशल fine-tuning का उपयोग कर सकते हो। सरल शुरू करें और लागत की तुलना सटीकता लाभ से करें।
7. कार्य-विशिष्ट मैट्रिक्स के साथ मूल्यांकन करें। केवल सटीकता ही समस्याओं को छिपा सकती है जब कक्षाएं असंतुलित होती हैं। परिशुद्धता, रिकॉल, F1, कैलिब्रेशन चेक और विलंबता माप का उपयोग करें।
8. तैनाती के वातावरण में एकल-पास विलंबता का परीक्षण करें। एक मॉडल जो laptop पर तेजी से दिखता है वह लोड, बैचिंग या लंबे संकेतों के साथ अलग तरह से व्यवहार कर सकता है।
9. अनिश्चित भविष्यवाणियों के लिए एक बैकबैक जोड़ें। यदि मॉडल कम आत्मविश्वास या अस्पष्ट स्कोर लौटाता है, तो आइटम को नियम, किसी अन्य मॉडल या मानव समीक्षा में रूट करें.
10. संस्करण dataset , मॉडल, और लेबल परिभाषाएँ। वर्गीकरण व्यवहार बह सकता है जब भाषा का उपयोग बदलता है, और स्पष्ट इतिहास के बिना डिबग करना कठिन होता है.

पाठकों को क्या उम्मीद करनी चाहिए

सबसे बड़ा मूल्य गति और सादगी है। यदि लक्ष्य पाठ को वर्गीकृत करना है, तो एक वर्गीकरण सिर पीढ़ी के ओवरहेड को हटा सकता है. इससे प्रतिक्रिया समय कम हो सकता है, प्रति क्वेरी की गणना कम हो सकती है, और इंटरफ़ेस का परीक्षण करना आसान हो जाता है। यह मॉडल के व्यवहार को अधिक अनुमानित भी बनाता हैः यह लेबल के लिए स्कोर देता है बजाय इसके कि वह पैराग्राफ उत्पन्न करे जिसमें उत्तर हो या न हो।

ट्रेड-ऑफ हैं। वर्गीकरणकर्ता एक जनरेटिव मॉडल के रूप में लचीला नहीं होगा। यह अपने निर्णय की व्याख्या नहीं कर सकता है, उत्तर को फिर से तैयार नहीं करता है, या बिना पुनर्प्रशिक्षण के अनदेखे कार्यों को संभालता है। यदि लेबल टैक्सोनॉमी अक्सर बदलती है, तो टीमों को पुनः प्रशिक्षण पाइपलाइन की आवश्यकता होती है। अगर इनपुट टेक्स्ट बहुत लंबा है, मॉडल का context window और पूलिंग विधि मायने रखती है।

मूल पोस्ट बेंचमार्क नंबर, सटीक मॉडल आकार या सार्वभौमिक सटीकता परिणाम प्रदान नहीं करता है। यह अनिश्चितता महत्वपूर्ण हैः प्रदर्शन चुने गए Qwen संस्करण, dataset गुणवत्ता, प्रशिक्षण सेटिंग्स और मूल्यांकन विधि पर निर्भर करता है. पाठकों को लेख को एक आर्किटेक्चर पैटर्न के रूप में इलाज करना चाहिए, न कि गारंटीकृत बेंच मार्क दावे के रूप میں

आम गलतियाँ

• हेड को बदलना लेकिन नए आउटपुट स्पेस के लिए मॉडल को रीट्रेनिंग या फाइन-ट्यून करना भूल जाना।
• असंतुलित dataset का उपयोग करना और केवल समग्र सटीकता की रिपोर्टिंग।
• कार्य के लिए सही सामान्यीकरण लागू किए बिना लॉगिट्स को संभावनाओं के रूप में व्यवहार करना।
• केवल स्वच्छ उदाहरणों पर मूल्यांकन करना और शोर, संक्षिप्त, विरोधी या बहुभाषी इनपुट को अनदेखा करना।
• मान लीजिए कि एकल-पास गति पर्याप्त है; उत्पादन की गति पूर्व प्रसंस्करण, बैचिंग और सेवा ओवरहेड पर भी निर्भर करती है।
• training data और मॉडल आउटपुट को वर्जन किए बिना लेबल परिभाषाओं में परिवर्तन करना।
• कम-विश्वास या आउट-ऑफ-डिस्ट्रीब्यूशन पाठ के लिए बैकअप पथ के बिना तैनाती।