Exowatt SageMaker सर्वरलेस मॉडल अनुकूलन के माध्यम से सटीकता में सीमांत मॉडलों को पार करता है।

मेटा विवरणः एक्सोवाट ने एज अलार्म ट्रिआज और ऊर्जा-बाजार विश्लेषण के लिए Qwen3- 1.7B और Qwen3 14B को ठीक करने के लिए Amazon SageMaker AI सर्वरलेस मॉडल अनुकूलन का उपयोग किया।

टैगः Exowatt, Amazon SageMaker AI, Qwen3, ऊर्जा संचालन, AI एजेंट

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक क्लाउड सेवा और किनारे नियंत्रक से जुड़े सौर तापीय प्रणाली का अमूर्त मैत्रीपूर्ण चित्रण, बिना लोगों, लोगो या पाठ के।

Exowatt, ऊर्जा-केंद्रित अनुप्रयोगों के लिए मॉड्यूलर, डिस्पैच करने योग्य सौर प्रणालियों का निर्माण करने वाली कंपनी है जिसमें AI डेटा सेंटर शामिल हैं। पाइपलाइन बनाने के लिए सर्वरलेस मॉडल कस्टमाइज़ेशन का उपयोग किया गया Amazon SageMaker AI । पाइप लाइन ने एज अलार्म ट्रीएज और क्लाउड एनर्जी मार्केट एनालिसिस के लिए Qwen3- 1.7B और Qwen3 - 14B मॉडल को ठीक से तैयार किया, जिसके साथ कंपनी 49 गुना कम लागत पर फ्रंटियर मॉडल की तुलना में उच्च सटीकता की रिपोर्ट करती है।

P3 ऑप्टिकल लेंस के माध्यम से सौर ऊर्जा को कैप्चर करता है, इसे लंबे समय तक चलने वाली थर्मल बैटरी में गर्मी के रूप में संग्रहीत करता है और एक हीट इंजन के जरिए मांग पर बिजली भेजता है। ग्रिड-टाइड फोटोवोल्टिक सोलर सिस्टम के विपरीत, यह डेटा सेंटरों को सीधे मीटर के पीछे शक्ति देता है, जिससे उन्हें बहुवर्षीय नेटवर्क इंटरकनेक्शन कतारों की प्रतीक्षा किए बिना ऑनलाइन आने में मदद मिलती है। जैसा कि Exowatt परीक्षण बेंचों से विनिर्माण और हजारों तैनात फील्ड इकाइयों की ओर बढ़ता है,AI एजेंट जो अलार्म की निगरानी करते हैं और परिचालन निर्णयों का समर्थन करते हैं, उन्हें भी स्केल करना होगा। दो Qwen3 मॉडल शुरुआती आउटपुट हैं; टिकाऊ परिणाम कच्चे ऑपरेशनल डेटा से प्रमाणित प्रशिक्षण सेट, एक फाइन-ट्यून किया गया मॉडल और मूल्यांकन किए गए डिप्लॉयमेंट आर्टिफैक्ट का मार्ग है जिसे अब महीनों के बजाय दिनों में चलाया जा सकता है।

क्यों एक फ्रंटियर मॉडल बेड़े को नहीं चला सकता था

Exowatt की ऊर्जा प्रबंधन प्रणाली साइटों के बढ़ते बेड़े में चलती है। प्रत्येक साइट लगातार अलार्म उठाती हैः एक हार्डवेयर घटक विनिर्देश से बाहर काम कर रहा है, कनेक्शन गिर गया है, आउट-ऑफ-रेंज वोल्टेज रीडिंग या इसी तरह की घटनाएं हैं। हजारों फील्ड इकाइयों के आने के साथ, एक मानव ऑपरेटर हर साइट को वास्तविक समय में नहीं देख सकता है। कंपनी को ऐसे एजेंट की आवश्यकता थी जो प्रत्येक साइट की चेतावनी स्थिति को पढ़ सके और विश्वसनीय रूप से सही अगली कार्रवाई करे या अनुशंसा करे।

एक सामान्य प्रयोजन सीमा मॉडल तीन कारणों से फिट नहीं था। अलार्म-ट्रायगेज कार्य संकीर्ण और मालिकाना है, जो Exowatt के अपने हार्डवेयर, डेटा और ऑपरेटिंग तर्क पर निर्भर करता है। कई साइटें बिना GPU और सीमित या आंतरायिक इंटरनेट के साथ किनारे पर चलती हैं, इसलिए जब कनेक्टिविटी में गिरावट आती है तो क्लाउड फ्रंटियर मॉडल को कॉल करने वाला एजेंट कवरेज खो देता है। हजारों साइटों में हर दोहराए गए परिचालन निर्णय का रूट करना भी आर्थिक रूप से स्केल नहीं होता है।

Exowatt के पहले फाइन-ट्यूनिंग वर्कफ़्लो ने एक और बाधा जोड़ी। टीम को एक प्रयोग चलाने से पहले एक ओपन-वेट मॉडल का चयन करना, एक कंटेनर बनाना, एक कस्टम प्रशिक्षण नुस्खा बनाना और GPU हार्डवेयर चुनना था। जैसे ही प्रयोग में वृद्धि हुई, प्रत्येक रन को एक विशिष्ट GPU उदाहरण प्रकार चुनने और उस क्षमता की प्रतीक्षा करने की आवश्यकता थी। यदि चुना गया उदाहरण प्रकार अनुपलब्ध था, तो एक रन देरी या अवरुद्ध हो सकता है। कंपनी को बिना जीपीयू एज कंट्रोलर के लिए पर्याप्त छोटा लेकिन स्वायत्त रूप से कार्य करने के लिए काफी सटीक मॉडल चाहिए था। ठीक ट्यूनिंग ने इस अंतर को बंद कर दिया।

डेटा से तैनाती तक एक सर्वरलेस पाइपलाइन

Exowatt ने Amazon SageMaker AI सर्वरलेस मॉडल अनुकूलन को अपनाया। एक ही प्रशिक्षण पाइपलाइन दो तैनाती लक्ष्यों के लिए मॉडलों का उत्पादन करती हैः किनारे और क्लाउड। पहला आउटपुट एज अलार्म ट्रीएज के लिए एक ठीक-ट्यून किया गया Qwen3- 1.7B मॉडल था; बाद में उसी दृष्टिकोण को बादल ऊर्जा बाजार विश्लेषण के लिए क्यूवेन 3- 14B पर लागू किया गया था। एक्सोवाट फ्लीट भर में छोटे, कार्य-विशिष्ट मॉडल बनाने के लिए समाधान का पुनः उपयोग करने की योजना बना रहा है।

पाइपलाइन सात AWS सेवाओं का उपयोग करती है, जिसमें प्रबंधन के लिए कोई उदाहरण, क्लस्टर या एंडप्वाइंट नहीं होते हैं। Amazon Simple Storage Service डेटा, घोषणापत्र, मॉडल कलाकृतियां और परीक्षण सेट संग्रहीत करता है। Amazon SageMaker AI सर्वरलेस फाइन-ट्यूनिंग SageMaker Public Hub व्यंजनों से हर ठीक ट्यूनिंग जॉब चलाता है।

Amazon SageMaker AI आयात क्लाउड ऊर्जा प्रबंधन प्रणाली सेवा के लिए फाइन-ट्यून किए गए Qwen3- 1.7B को होस्ट करता है, उस सेवा से निजी तौर पर बिना किसी निष्क्रिय लागत के आह्वान किया जाता है। 14B क्लॉड और क्यूवेन 3 मॉडल पैराफ्रेज़ कार्य का समर्थन करते हैं, जिसमें प्रशिक्षण डेटा में प्रति उत्तर तीन पुनर्लेखन शामिल हैं, और फ्रंटियर मॉडल बेंचमार्किंग। अलार्म-ट्रिएज पैराफ़्रैसेस के लिए, पाइपलाइन का उपयोग किया गया था GPU मॉडलों, जिन्हें लेखन-अप में Qwen3 -VL AWS और Qwen 3- Amazon Bedrock Custom Model के रूप में नामित किया गया है, लगभग $3.72 की कीमत पर। एनर्जी-मार्केट पैराफ्रासेज ने एंथ्रोपिक 17]s AI Exowatt P3 Amazon Bedrock पर इस्तेमाल किया। Amazon Simple Storage Service और SageMaker Public Hub एक अनुसूचित मूल्यांकन स्कोरर और कस्टम मॉडल के शेड्यूल्ड रखने वाले आव्हान प्रदान करते हैं।

कार्यप्रवाह के तीन चरण होते हैं। क्लाउड मॉडल अनुकूलन में, एक्ज़ोवाट ओपन-वेट बेस मॉडलों को सुव्यवस्थित करता है Amazon SageMaker AI पर्यवेक्षित फाइन-ट्यूनिंग और लो - का उपयोग करके Rank Adaptation चूंकि सर्वरलेस प्रशिक्षण मांग पर क्षमता आवंटित करता है, इसलिए टीम स्व-चयनित GPU क्षमता की प्रतीक्षा करने के बजाय प्रति दिन कई प्रयोग चला सकती है। मूल्यांकन के बाद, सबसे अच्छा मॉडल Model Registry में पंजीकृत होता है। एज तैनाती के लिए, ठीक से ट्यून किए गए Q3-wen 1.7B मॉडल को जमे हुए, GGUF प्रारूप में क्वांटिफाई किया जाता है, और साइट पर Kubernetes पॉड्स के अंदर llama.cpp के साथ चलता है। इस पथ की कोई आवश्यकता नहीं है GPU और इंटरनेट कनेक्टिविटी के बिना काम कर सकता है। लचीले क्लाऊड डिप्लॉयमेंट के लिए fine tuned Q3 14B ऊर्जा बाजार मॉडल आयात Amazon Bedrock Custom Model के माध्यम से सेवा दी जाती है, जो केवल बिलों जबकि मॉडल सक्रिय है।

सर्वरलेस दृष्टिकोण महत्वपूर्ण था क्योंकि तैयार-निर्मित SageMaker Public Hub व्यंजनों ने कस्टम कंटेनर काम के हफ्तों को हटा दिया। Provisioned GPU प्रशिक्षण में एक उदाहरण प्रकार चुनने, क्षमता का अनुरोध करने, इसके लिए इंतजार करने, नौकरी चलाने और भुगतान करने की आवश्यकता होती है जबकि इंस्टेंस आयोजित किया जाता है, जिसमें प्रयोगों के बीच निष्क्रिय समय भी शामिल होता है। सर्वरलेस अनुकूलन बुनियादी ढांचे का प्रबंधन करता है और केवल फाइन-ट्यूनिंग जॉब रन टाइम के लिए शुल्क लेता है, जो एक दुर्लभ शेड्यूल इवेंट से रूटीन ऑन-डिमांड प्रयोग में बारीकी से ट्यूनिंग करता है।

Qwen3-1.7B किनारे पर अलार्म संभालता है

Exowatt साइटों पर, अलार्म घड़ी के चारों ओर चलते हैं। कॉम्पैक्ट ऑन-साइट मॉडल प्रत्येक अलार्म को साइट की स्थिति और टेलीमेट्री के साथ पढ़ता है, फिर उद्धृत साक्ष्य के साथ वर्गीकरण के एक छोटे से निश्चित सेट में से एक देता है, जैसे कि ऑफ़लाइन सिस्टम, डीरेटेड घटक या सेंसर असंगति। यदि सबूत अपर्याप्त है, तो यह स्पष्ट रूप से निरस्त हो जाता है।

टीम ने पहले Qwen3-8B को संकेत और गार्डरेल के साथ आजमाया। यह दृष्टिकोण 0.735 मैक्रो-एफ 1 पर लक्ष्य से नीचे था। एक ठीक ट्यून किए गए क्यूवेन 3-1.7B ने परिणाम बदल दियाः इस संकीर्ण, एकल-मोड़ वाले कार्य में लगभग पांचवें पैरामीटर के साथ क्यूवेन 3 - 1.7B प्लस प्रॉम्प्टिंग सेटअप बेहतर प्रदर्शन किया, जबकि GPU-मुक्त किनारे अनुमान के लिए पर्याप्त छोटा रहा। 12 डेटासेट संस्करणों में तेरह फाइन-ट्यून्ड क्यूवेन -3 8B उम्मीदवारों ने कभी भी प्रेरित 8B आधार रेखा को हराया नहीं; अधिक विविध आंकड़ों वाला छोटा मॉडल ऐसा करता है।

प्रशिक्षण सेट छोटा और क्यूरेट किया गया था: 2,522 उत्पन्न साइट परिदृश्यों पर 684 सत्यापित निर्णयों से निर्मित उदाहरण प्लस 1,838 प्रमाणित पैराफ्रेज़ जो गद्य को फिर से लिखते समय प्रत्येक निर्णय को स्थिर रखते थे। प्रत्येक पैराफ़्रेज़ केवल तभी रखा जाता था जब निर्धारक जांच ने पुष्टि की थी कि निर्णय, लेबल, साक्ष्य उद्धरण और हर संख्या अपरिवर्तित थीं; 1,838 में से 2,218 उम्मीदवार पास हो गए। एक दोष परिवार पूरी तरह से प्रशिक्षण से बाहर रहा, और 320 मामलों को परीक्षण के लिए आरक्षित कर दिया गया।

प्रशिक्षण लगभग 32 मिनट में पूरा हुआ Amazon SageMaker AI सर्वरलेस ठीक-ट्यूनिंग के लिए मोटे तौर पर $20 से $25 तक। 8 बिट्स को क्वांटिज़ किया गया, मॉडल लगभग 1.71 गीगाबाइट है और साइट के मौजूदा CPU सर्वर पर 6 जीबी लैमा.सीपीपी पॉड में ऑफ़लाइन चलता है। यह एक t3.2xlarge उदाहरण प्रकार पर भी चलता है । एज अलार्म-ट्रिएज कार्य पर, फाइन-ट्यून किए गए Qwen3- 1.7B एक ऐसे मॉडल से चले गए जो 320 परीक्षण मामलों में 0.911 मैक्रो-एफ 1 का वैध उत्तर नहीं दे सकता था, हर सीमावर्ती आधार रेखा से आगे।

Qwen3-14B बार ऊर्जा-बाजार निर्णय

डिस्पैचेबल स्टोरेज समय को एक परिचालन निर्णय में बदल देता है। प्रत्येक साइट को लगातार यह तय करना होगा कि उसके लोड के लिए कितनी संग्रहीत ऊर्जा रखी जाए और इसे कब जारी किया जाए, और ग्रिड से जुड़ी साइटों के लिए बाजार की स्थिति उस विकल्प में खिलाती है। फाइन-ट्यून किए गए Qwen3-14B मॉडल लाइव मार्केट डेटा का छह घंटे का पैकेट पढ़ता है, लगभग 90 पंक्तियों की वास्तविक समय की कीमतें, दिन-अगले पूर्वानुमान और grid नोटिस, और लगभग चार सेकंड में पांच बाजार घटनाओं में से एक वापस करता है, जैसे मूल्य स्पाइक या कमी योजक। हर दावे को विशिष्ट डेटा पंक्ति से जोड़ा जाता है ताकि प्रेषण रणनीति को सूचित किया जा सके।

Qwen3-14B को इसलिए चुना गया क्योंकि Amazon Bedrock Custom Model आयात इसका समर्थन करता है, यह एक तैयार लो-Rank Adaptation नुस्खा के साथ SageMaker Public Hub मॉडल के रूप में जहाज करता है और लगभग 28 गीगाबाइट पर लागत प्रभावी ढंग से सेवा करने के लिए पर्याप्त छोटा होता है। एक्सोवाट ने इसे टेक्सास बाजार के सार्वजनिक Electric Reliability Council डेटा पर ठीक किया जो पांच साल के इतिहास से खींचा गया था, 12 तालिकाओं में लगभग 163 मिलियन पंक्तियों में। टीम ने उन आंकड़ों को नियम-लेबल कियाः 25,000 प्रशिक्षण के लिए, 1,000 सत्यापन के लिए और 2,000 परीक्षण के लिए आयोजित किया गया। फिर इसने एंथ्रोपिक 17]s Claude Sonnet 4.6 Amazon Bedrock द्वारा प्रत्येक उदाहरण के लेबल को फिर से लिखकर प्रशिक्षण सेट का विस्तार किया जबकि प्रोसा और संख्यात्मक फ़ील्ड तय रहे।

प्रशिक्षण ने रैंक 16 और अल्फा 32 के साथ लो- Rank Adaptation फाइन ट्यूनिंग का एक एकल युग इस्तेमाल किया। यह लगभग 8.5 घंटे में प्रबंधित सर्वरलेस ठीक से पूरा हुआ, जिसमें चार नौकरियां एक बार में चल रही थीं। टीम ने प्रारंभिक योजना से छह दिनों में 23 नौकरियों और लगभग 155 घंटों की प्रबंधित ट्रेनिंग को क्लाउड एनर्जी मैनेजमेंट सिस्टम में सेवा देने वाले चैंपियन मॉडल तक चलाया। निर्णायक सुधार पैराफ्रेज़ विविधता से आयाः प्रति उत्तर तीन पुनर्लेखन जोड़ने से मैक्रो-एफ 1 को उठाकर 0.950 से 0.975 कर दिया गया। बेस मॉडल केवल 0.415 मैक्रो एफ 1 स्कोर करता है। यह वैध JavaScript Object Notation आउटपुट का उत्पादन कर सकता था लेकिन अभी तक बाजार नहीं जानता था। फाइन-ट्यूनिंग ने इसे तय किया।

विलय किए गए चेकपॉइंट को लगभग 14 मिनट में आयात किया गया था। मॉडल बिना किसी निष्क्रिय लागत के चलता है और केवल सक्रिय होने पर $6.86 प्रति घंटे बिल करता है। 2,000 परीक्षण मामलों के साथ ऊर्जा-बाजार कार्य के लिए एक ही फाइन-ट्यून-और-मूल्यांकन लूप लागू करते हुए, Qwen3-14B 0.975 मैक्रो-F1 तक पहुंच गया।

एक्सोवाट के लिए, मूल्य केवल दो मॉडल नहीं है बल्कि एक दोहराए जाने योग्य पथ है। अलार्म ट्रायगेज और ऊर्जा-बाजार विश्लेषण दो संकीर्ण, उच्च-मूल्य वाले कार्य हैं, और कंपनी का कहना है कि उसी दृष्टिकोण का पुनः उपयोग किया जा सकता है क्योंकि इसका बेड़ा परीक्षण बेंचों से विनिर्माण की ओर बढ़ता है और हजारों फील्ड इकाइयां।