जब आप जमे हुए embeddings का उपयोग करने के बजाय LLM को ठीक करना चाहिए और Scikit-सीखने सिर अनुकूलित?
LoRA fine-tuning बनाम जमे हुए embeddings LLM वर्गीकरण के लिएः 82% की सटीकता पर जमे हुआ तेज था; LoRA मजबूत था लेकिन तीन गुना अधिक समय लगा।
मुख्य जानकारी
- लेख डोमेन वर्गीकरण के लिए दो LLM अनुकूलन रणनीतियों की तुलना करता हैः लोरा / क्यूलोरा फाइन-ट्यूनिंग बनाम एक हल्के स्किटिक-लर्न क्लासिफायर के साथ जमे हुए एम्बेडिंग का उपयोग करना।
- ag_news उदाहरण में, जमे हुए एम्बेडिंग ने लगभग 100 सेकंड में 82% परीक्षण सटीकता प्राप्त की, जबकि LoRA वर्गीकरण प्रदर्शन में सुधार किया लेकिन लगभग तीन गुना अधिक समय लिया।
- जमे हुए एम्बेडिंग की मुख्य लागत सुविधा निष्कर्षण है, जबकि LoRA केवल मॉडल वजन का एक छोटा प्रतिशत अनुकूलित करने के बावजूद प्रशिक्षण समय और सेटअप जटिलता जोड़ती है।
- जब गति, कम कंप्यूटिंग लागत और रीढ़ की हड्डी ओवरफिट से बचने के मामले सबसे अच्छे होते हैं तो फ्रीज्ड एम्बेडेड सबसे अच्छा होता है; LoRA तब बेहतर होता है जब गहरी डोमेन-विशिष्ट सीखना और उच्च सटीकता प्राथमिकता होती है।
डोमेन वर्गीकरण के लिए कम रैंक अनुकूलन फाइन-ट्यूनिंग और जमे हुए एम्बेडिंग की तुलना करें
मेटा विवरण: गति, सटीकता और गणना लागत पर व्यावहारिक नोट्स के साथ जमे हुए एम्बेडिंग प्लस डोमेन कार्यों के लिए एक स्किट-लर्न वर्गीकरणकर्ता के खिलाफ लोरा फाइन ट्यूनिंग की तुलना करें।
टैगः लोरा, QLoRA, जमे हुए एम्बेडिंग, scikit-सीखना, Hugging Face
विशेष रुप से प्रदर्शित छवि: अमूर्त मैत्रीपूर्ण चित्रण शैली, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।
यह लेख डेवलपर्स और मशीन लर्निंग प्रैक्टिशनर्स के लिए है जो एक विशिष्ट डोमेन में एक बड़े भाषा मॉडल (LLM) को अनुकूलित करते हैं। इसने ag_news डेटासेट पर जमे हुए एम्बेडमेंट्स प्लस स्किट-लर्न क्लासिफायर के साथ LoRA फाइन ट्यूनिंग की तुलना की है। उदाहरण में, फ्रोजन एम्बेडिंग ने लगभग 100 सेकंड में 82% टेस्ट वर्गीकरण सटीकता प्राप्त की, जबकि लोरा ने वर्गीकरण प्रदर्शन में सुधार किया लेकिन तीन गुना अधिक समय लिया।
तुलना क्यों महत्वपूर्ण है
LLM को एक डोमेन मॉडल की तरह व्यवहार करने का मानक तरीका यह है कि इसे डोमेन-विशिष्ट डेटासेट पर ठीक से ट्यून किया जाए। यह अच्छी तरह से काम कर सकता है, लेकिन यह हमेशा सबसे सस्ता या तेज़ विकल्प नहीं होता है। एक जमे हुए एम्बेडिंग दृष्टिकोण LLM भारों को अपरिवर्तित रखता है और केवल फ़ीचर एक्सट्रैक्टर के रूप में मॉडल का उपयोग करता है। टेक्स्ट को फ्रीज किए गए मॉडल के माध्यम से पारित किया जाता है, अंतिम टोकन के लिए आखिरी छिपी हुई स्थिति कैप्चर की जाती है, और वे उच्च आयामी वैक्टर छोटे डाउनस्ट्रीम वर्गीकरणकर्ता के इनपुट बन जाते हैं।
लो-Rank Adaptation (लोरा) एक अलग रास्ता लेता है। यह बड़े पूर्व प्रशिक्षित भार को फ्रीज करता है और ट्रांसफार्मर परतों के अंदर छोटे एडाप्टर मैट्रिक्स को प्रशिक्षित करता है। ये एडेप्टर आमतौर पर कुल मॉडल आकार का केवल 1-2% प्रतिनिधित्व करते हैं, इसलिए वे पूर्ण फाइन-ट्यूनिंग की तुलना में अद्यतन प्रक्रिया को बहुत हल्का बनाते हैं। इसकी तुलना में पीईएफटी लाइब्रेरी, Hugging Face मॉडल और वर्गीकरण सिर के साथ क्यूएलओआरए ठीक करना शामिल है, जबकि मेमोरी बचाने के लिए 4-बिट परिशुद्धता का उपयोग किया जाता है।
व्यावहारिक प्रश्न यह नहीं है कि कौन सी विधि सैद्धांतिक रूप से अधिक शक्तिशाली है, लेकिन जो एक कार्य के लिए समय, सटीकता और गणना लागत का सबसे अच्छा संतुलन देता है।
ag_news प्रयोग ने क्या मापा
उदाहरण Hugging Face रिपॉजिटरी से ag_news डेटासेट का उपयोग करता है, जो वर्गीकृत समाचार लेखों का एक कैनोनिकल सेट है। मॉडल को चार संभावित समाचार वर्गों के लिए एक वर्गीकरण सिर के साथ कॉन्फ़िगर किया गया है। यदि कार्य Google Colab पर चलता है, तो पर्यावरण को GPU (T4) पर सेट किया जाना चाहिए, क्योंकि कोड और विधियां GPU उपयोग के लिए अनुकूलित हैं। अन्य पायथन वातावरण में, आवश्यक लाइब्रेरी scikit-learn, ट्रांसफार्मर और डेटासेट हैं।
पहली रणनीति जमे हुए एम्बेडेड पर एक यादृच्छिक वन वर्गीकरणकर्ता को प्रशिक्षित करती है। एम्बेडिंग निष्कर्षण और क्लासिफायर मूल्यांकन में लगभग 100 सेकंड लगते हैं, लेकिन उस समय का अधिकांश हिस्सा सुविधाओं को निकालने के लिए खर्च किया जाता था। स्कीकिट-लर्न क्लासिफ़ायर का प्रशिक्षण स्वयं लगभग तत्काल था। परिणामी वर्गीकरण 82% परीक्षण वर्गीकरण सटीकता तक पहुंच गया।
दूसरी रणनीति LoRA एडेप्टर का उपयोग करती है। आधार मॉडल के लिए अनुकूलक संलग्न करने और डेटा तैयार करने के बाद, फाइन-ट्यूनिंग TrainingArguments और ट्रेनर ऑब्जेक्ट्स के माध्यम से चलाया जाता है। अनुकूलित मॉडल lora_model नामक एक चर में संग्रहीत किया गया है। जमे हुए एम्बेडिंग बेसलाइन की तुलना में वर्गीकरण प्रदर्शन में सुधार होता है, यह दर्शाता है कि जब कार्य गहरे डोमेन व्यवहार पर निर्भर करता है तो मॉडल को अनुकूलित करना मदद कर सकता है। हालांकि, पूरी प्रक्रिया तीन गुना अधिक समय लेती थी, और अतिरिक्त समय प्रशिक्षण प्रक्रिया से ही आया था। लेख नोट करता है कि बड़े डेटासेट के लिए, इस समय अंतर काफी अधिक स्पष्ट हो सकते हैं।
जमे हुए एम्बेडेड बनाम कम-Rank Adaptation एक नज़र में
| दृष्टिकोण | क्या प्रशिक्षित है | मुख्य लागत | उदाहरण से सटीकता संकेत | सबसे अच्छा फिट |
|---|---|---|---|---|
| जमे हुए एम्बेडेड प्लस स्किट-लर्न | एक हल्का डाउनस्ट्रीम वर्गीकरणकर्ता, जैसे कि यादृच्छिक वन | जमे हुए LLM के माध्यम से विशेषता निष्कर्षण | 82% परीक्षण वर्गीकरण सटीकता, लगभग 100 सेकंड कुल और लगभग तत्काल वर्गीकरणकर्ता प्रशिक्षण के साथ | त्वरित सेटअप, न्यूनतम कंप्यूटिंग ओवरहेड, बैकबोन ओवरफिट के कम जोखिम |
| लोरा या क्यूलोरा फाइन-ट्यूनिंग | छोटे एडेप्टर मैट्रिक्स ट्रांसफार्मर परतों में इंजेक्ट | प्रशिक्षण समय और स्मृति, हालांकि 4-बिट परिशुद्धता मेमोरी को बचाने में मदद करती है | जमे हुए एम्बेडिंग पथ पर वर्गीकरण प्रदर्शन में सुधार | सटीकता अंतर को बंद करना, गहराई से एम्बेडेड डोमेन-विशिष्ट बारीकियों को सीखना |
तालिका को निर्णय सहायता के रूप में पढ़ा जाना चाहिए, न कि एक सार्वभौमिक बेंचमार्क। डेटासेट ag_news है, मॉडल वर्गीकरण सिर के साथ Hugging Face मॉडल है, और रन GPU कार्य के लिए स्थापित किया गया था। विभिन्न मॉडल आकार, डेटासेट और हार्डवेयर ट्रेडऑफ बदल सकते हैं।
आम गलतियाँ और व्यावहारिक सीखें
एक आम गलती है कि LLM को अनुकूलित करने का एकमात्र तरीका के रूप में ठीक-ठीक करना। वर्गीकरण कार्यों के लिए, जमे हुए एम्बेडिंग एक समझदार प्रारंभिक बिंदु हो सकते हैं क्योंकि मॉडल पहले से ही उपयोगी टेक्स्ट प्रतिनिधित्व प्रदान करता है। एक और गलती यह भूलना है कि फीचर निष्कर्षण रनटाइम पर हावी हो सकता है। इस उदाहरण में, क्लासिफायर लगभग तुरंत प्रशिक्षित किया गया था, लेकिन एम्बेड चरण ने लगभग 100 सेकंड का अधिकांश समय लिया।
विपरीत गलती बहुत जल्दी LoRA चुनना है। यह परिणामों में सुधार कर सकता है, लेकिन इसके लिए अधिक प्रशिक्षण समय और एडेप्टर, ट्रेनिंग आर्गुमेंट्स, ट्रेनर और एक वर्गीकरण-संगत मॉडल के साथ अधिक शामिल सेटअप की आवश्यकता होती है। यदि सटीकता लाभ छोटा है और कंप्यूटिंग बजट तंग है, तो जमे हुए एम्बेडिंग मार्ग अधिक कुशल पहली पसंद हो सकती है।
निर्णय कार्य प्रकार पर भी निर्भर करता है। पाठ और कोड पीढ़ी जैसे विशुद्ध रूप से जनरेटिव कार्यों के लिए, विशेष व्यवहार के लिए ठीक-ट्यूनिंग जैसे मॉडल अनुकूलन आमतौर पर आवश्यक होते हैं। फ्रीज्ड एम्बेडिंग रणनीति कभी-कभी अभी भी मुक्त स्तरीय तैनाती में एक व्यवहार्य विकल्प हो सकती है जहां अधिकतम प्रदर्शन थोड़ा बातचीत योग्य होता है।
जमे हुए एम्बेडिंग का उपयोग करें जब प्राथमिकता तेजी से प्रशिक्षण, कम कंप्यूटिंग ओवरहेड और रीढ़ की हड्डी के अतिरेक से बचने के लिए हो। लोरा या क्यूएलओआरए का उपयोग तब करें जब सटीकता मुख्य लक्ष्य है और मॉडल को डोमेन-विशिष्ट पैटर्न को अधिक गहराई से सीखना चाहिए।
Comments (0)