ट्यूटोरियल

व्यय स्रोतों की पहचान, अपशिष्ट का पता लगाने और खर्च पर नियंत्रण करके स्नोफ्लेक AI लागत को अनुकूलित करना

Snowflake AI कार्यभार छिपे हुए कॉर्टेक्स क्रेडिट व्यय उत्पन्न कर सकते हैं. टीमों को उपयोग दृश्य, श्रेणियाँ, विसंगति का पता लगाने और नियंत्रित सुधार की आवश्यकता होती है।

व्यय स्रोतों की पहचान, अपशिष्ट का पता लगाने और खर्च पर नियंत्रण करके स्नोफ्लेक AI लागत को अनुकूलित करना

मुख्य जानकारी

  • Snowflake AI लागतों को ट्रैक करना मुश्किल है क्योंकि AI कार्यभार क्रेडिट-गहन, गैर-भंडार व्यय जोड़ते हैं जैसे कि Cortex AI Functions, Cortex Search, पुनरावृत्ति और प्रयोगात्मक विकास उपयोग।
  • Effective AI लागत की निगरानी में यह पता लगाना चाहिए कि खर्च कहाँ होता है, कौन ज़िम्मेदार है, क्या असामान्य है और किस सुधार की आवश्यकता है, जबकि डिटेक्शन और स्वचालित रद्दीकरण को अलग रखना।
  • Snowflake Account Usage दृश्य, जैसे METERING_DAILY_HISTORY, CORTEX_AI_FUNCTIONS_USAGE_HISTORY और CORTEx_SEARCH_DAILLY_USE_History का उपयोग सेवा, फ़ंक्शन, मॉडल, क्वेरी और Cortex Search उपयोग द्वारा AI क्रेडिट को तोड़ने के लिए किया जा सकता है।
  • डेवलपर और प्रोजेक्ट एट्रिब्यूशन को AI-फंक्शन उपयोग इतिहास और QUERY_HISTORY के बीच क्वेरी टैग और जॉइन्स की आवश्यकता होती है, हालांकि साझा सेवा खाते अभी भी वास्तविक अंतिम उपयोगकर्ता को अस्पष्ट कर सकते हैं।
  • असामान्यता का पता लगाने के लिए, विशेष रूप से विकास परिवेशों में अप्रत्याशित या अनियंत्रित AI खर्च से सामान्य वृद्धि को अलग करने के लिए हालिया आधार रेखाओं के साथ वर्तमान उपयोग की तुलना करनी चाहिए।

मेटा विवरणः Snowflake AI लागत निगरानी डेटा टीमों को ट्रैक करने में मदद करती है, Cortex AI Functions Cortex Search और छिपे हुए क्रेडिट खर्च के रूप में विकास प्रयोग नियंत्रण से बाहर हो जाते हैं।

Optimizing Snowflake AI Costs by Identifying Spending Sources, Detecting Waste, and Controlling Expenditure

टैगः स्नोफ्लेक AI, कॉर्टेक्स AI फंक्शंस, कोर्टेकस सर्च, फिनऑप्स, लागत निगरानी

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> चार्ट, क्वेरी टैग और अलर्ट आइकन के साथ क्रेडिट डैशबोर्ड की अमूर्त, मैत्रीपूर्ण चित्रण शैली; कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।

डेटा इंजीनियरिंग टीमों के लिए Snowflake AI चलाने का मुख्य मुद्दा दृश्यता है। एक एकल एप्लिकेशन अनुरोध में LLM अनुमान, दस्तावेज़ प्राप्त करना, कई SQL प्रश्न और कई मॉडल मूल्यांकन शामिल हो सकते हैं, जबकि Snowflake AI लागत निगरानी को उन क्रेडिट को ट्रैक करना होगा जो गोदाम उपयोग में अच्छी तरह से नहीं बैठते हैं। स्नोफ्लेक पारंपरिक रूप से वेयरहाउस आकार, क्वेरी प्रदर्शन, ऑटो सस्पेंड, स्टोरेज और पाइपलाइन लागत के आसपास अनुकूलित किया गया है। AI वर्कलोड नई जटिलता जोड़ते हैंः वे ऋण गहन होते हैं, चुपके की लागत बन सकती हैं, और पारंपरिक डैशबोर्ड के साथ ट्रैक करने के लिए कठिन होते हैं। प्रयोग के दौरान, एक डेवलपर कई AI अनुरोध कर सकता है, अक्सर यह जाने बिना कि दर्जनों AI अनुरोध बनाए गए हैं।

क्यों Snowflake AI खर्च करना मुश्किल है

सुविधा, तैनाती प्रकार और मूल्य निर्धारण के आधार पर,AI कार्यभार कई लागत तत्व बना सकते हैंःAI सेवा उपयोग, गोदाम कंप्यूटिंग और अतिरिक्त सेवा लागत। सभी AI लागत वेयरहाउस से संबंधित नहीं हैं। किसी भी लागत की गणना करने से पहले, टीमों को अपने क्षेत्र, क्लाउड और अनुबंध के लिए वर्तमान मूल्य दस्तावेज की जांच करनी चाहिए, क्योंकि क्रेडिट दर और मीटरिंग सुविधा पर निर्भर करती है। Cortex AI Inference & खोज, प्रायोगिक विकास, पुनः परीक्षण और नियंत्रण से बाहर कार्यभार वे क्षेत्र हैं जहां खर्च सबसे तेजी से बढ़ सकता है।

स्रोत खपत निगरानी, श्रेय, विसंगति का पता लगाने और निवारण के लिए एक संदर्भ वास्तुकला का वर्णन करता है। एक अच्छा फिनओप्स आर्किटेक्चर को चार सवालों का जवाब देना चाहिएः जहां लागतों का उपयोग किया जा रहा है, जो उन्हें परियोजना या डेवलपर स्तर पर इस्तेमाल कर रहे हैं, क्या असामान्य दिखता है, और कौन सा उपचार उचित है। पहचान और उपचार अलग रहना चाहिए। जब कोई विसंगती दिखाई देती है, तो पहले इसकी जांच करें। स्वचालित रूप से उत्पादन AI कार्यभार रद्द करने के लिए उच्च स्तर की सुरक्षा की आवश्यकता होती है।

SQL और लागत दृश्यता के लिए विचार

स्रोत Snowflake Account Usage दृश्यों के साथ शुरू करने की सिफारिश करता है। ये प्रश्न एक परिचालन लागत निगरानी उपकरण बनाने के लिए एक अच्छा प्रारंभिक बिंदु हैं, बिलिंग सुलह नहीं।

Optimizing Snowflake AI Costs by Identifying Spending Sources, Detecting Waste, and Controlling Expenditure
  1. सेवा के अनुसार Total AI से संबंधित क्रेडिट। पिछले 30 दिनों में `USAGE_DATE∂, ≠SERVICE_TYPE∂ और ∆SUM(CREDITS_USED∂ के लिए सेवा-नाम फ़िल्टर का उपयोग करके क्वेरी ∀SNOWFLAKE.ACCOUNT_USAGE.METERING_DAILY_HISTORY∂। यह मीटर की गई एआई से संबंधित सेवाओं का एक उच्च स्तरीय टूटना प्रदान करता है। सेवा नाम फिल्टर को खोज प्रश्न के रूप में मानें और Snowflakes वर्तमान मीटिंग प्रलेखन के साथ खाते में सेवा प्रकारों की पुष्टि करें।
  1. सबसे महंगे AI फ़ंक्शन और मॉडल। पिछले 7 दिनों के लिए क्वेरी `SNOWFLAKE.ACCOUNT_USAGE.CORTEX_AI_FUNCTIONS_USE_HISTORY∀, समूहों द्वारा ≠FUNcTION_NAME□ और ∞MODEL_Name□, अलग-अलग △QUERY_ID□ की गिनती करना, और 4 दशमलव स्थानों तक गोल करके ∆CREDITS□ को जोड़ना। इससे यह पहचानने में मदद मिलती है कि कौन से फ़ंक्शंस और मॉडल सबसे अधिक AI क्रेडिट का उपभोग करते हैं। दृश्य एआई-फ़ंक्शन क्रेडिट को गोदाम क्रेडिट से अलग रिकॉर्ड करता है, और लंबे समय तक चलने वाले प्रश्नों में कई घंटे हो सकते हैं।
  1. सबसे महंगे व्यक्तिगत AI प्रश्न। पिछले 7 दिनों के लिए एक ही दृश्य का उपयोग करें, ∀QUERY_ID`, △MODEL_NAME□ और △FUNCTION_Name□ द्वारा समूहीकृत करें, जिसमें ≠MIN(START_TIME)□ को ◦FIRST_SEEN□ के रूप में देखें, ∆MAX ((END_Time)□ पर ◦LAST_SEen□ की तरह देखें, और ◦SUM (CREDITS)□ के साथ ◦AI_CREDIT (s)) । क्रेडिट से क्रमबद्ध करें और परिणाम को 25 पंक्तियों तक सीमित करें। यह थोक AI प्रसंस्करण प्रश्नों को खोजने के लिए उपयोगी है जो कई रिकॉर्ड्स में मॉडल को लागू करते हैं।
  1. सबसे महंगी कॉर्टेक्स सर्च सेवाएं। पिछले 30 दिनों के लिए क्वेरी `SNOWFLAKE.ACCOUNT_USAGE.CORTEX_SEARCH_DAILY_USE_HISTORY∀, समूहों द्वारा ゙DATABASE_NAME□, △SCHEMA_Name□ , ∆SERVICE_NAMES□ और ∞CONSUMPTION_TYPE□, और योग ≠CREDITS□ 4 दशमलव स्थानों तक गोल है। खपत श्रेणियों सेवारत, embedding और बैच उपयोग को अलग करते हैं। जब इस दृश्य का उपयोग AI Functions के साथ संयोजन किया जाता है, तो embedding क्रेडिट की दोहरी गिनती से बचें।
  1. डेवलपर और परियोजना श्रेय। सबसे पहले ∀ के साथ विकास सत्रों में सार्थक क्वेरी टैग असाइन करेंALTER SESSION SET QUERY_TAG = 'project=ai_cost_monitor;env=dev;team=data_engineering'`. फिर पिछले 7 दिनों से AI-फंक्शन क्रेडिट को join करें ▽SNOWFLAKE.ACCOUNT_USAGE.QUERY _HISTORY⌒ पर △QUERRY_ID□, समूह द्वारा △USER_NAME□ और △QUEERY__TAG□। यह SQL उपयोगकर्ता और क्वेरिटी टैग खर्च का श्रेय देता है जहां क्वेस्ट हिस्ट्री रिकॉर्ड उपलब्ध हैं। यह आवश्यक रूप से एक साझा उपयोगकर्ता सेवा खाते के पीछे अंत की पहचान नहीं करता है।

उपयोगी वृद्धि को दंडित किए बिना अप्रत्याशित व्यय का पता लगाना

एक प्रभावी निगरानी प्रणाली को उपयोग में सामान्य वृद्धि को असामान्य से अलग करना चाहिए। उदाहरण के लिए, यदि कोई विकास वातावरण आमतौर पर प्रतिदिन 10 AI क्रेडिट का उपभोग करता है लेकिन अचानक 80, तो शुक्रवार की आठ गुना बढ़ोतरी जांच के लायक है, लेकिन यह स्वचालित रूप से अपव्यय का सबूत नहीं है।

एक सरल पहला कदम पिछले सात दिनों के साथ वर्तमान उपयोग की तुलना करना है। उदाहरण पिछले 8 दिनों से ∀METERING_DAILY_HISTORY` क्रेडिट लेने, दिन -7 से -1 तक औसत करने और आज के लिए आधार रेखा गुणक रिपोर्टिंग करके ▽AI_FUNCTIONS□ सेवा प्रकार की निगरानी करता है। पूर्ण AI बजट के लिए, एकल श्रेणी पर भरोसा करने के बजाय सभी लागू AI सेवा प्रकारों का सामंजस्य स्थापित करें। दैनिक मीटरिंग में भी देरी हो सकती है, इसलिए अधिक समय पर पता लगाने के लिए सुविधा-विशिष्ट दृश्यों का उपयोग करें।

विकास बिना देखे खर्च करने के लिए सबसे आसान स्थानों में से एक है। मान लीजिए कि कोई डेवलपर उत्पाद-समीक्षा वर्गीकरण पाइपलाइन का निर्माण कर रहा है। प्रारंभिक प्रयोग 100 ग्राहक समीक्षाओं को संसाधित करता है। सब कुछ काम करता है, इसलिए विक्रेता 100,000 रिकॉर्ड्स के खिलाफ समान तर्क चलाता है। यदि SQL क्वेरी प्रति पंक्ति एक बार AI फ़ंक्शन को बुलाती है, तो एक ही कथन संभावित रूप से 100,000 मॉडल मूल्यांकन उत्पन्न कर सकता है।

एक क्वेरी जैसे कि ∀SELECT REVIEW_ID, AI_SENTIMENT(REVIOW_TEXT) AS SENTIEMENT FROM CUSTOMER_REVIEWS` सीधी SQL है , लेकिन एक बड़ी तालिका को संसाधित करने से पर्याप्त AI उपयोग उत्पन्न हो सकता है। एक सुरक्षित विकास संस्करण में जोड़ा जाता है ≠WHERE Review_Text IS NOT NULL ORDER BY Review ID LIMIT 100∂. यह इनपुट को 100 रिकॉर्ड तक सीमित करता है और नियंत्रित प्रयोग का समर्थन करता है, लेकिन यह नहीं मानना चाहिए कि टीमों को प्रत्येक SQL आकार के लिए △LIMIT∂ जोड़ने से मूल्यांकन में इसी तरह की कमी आती है । महंगे वर्कलोड के लिए, स्पष्ट रूप से अनुमान लगाना शुरू होने से पहले नमूना टेबल को भौतिक बनाओ: अस्थायी नामित बनाएँ ゙REVUEW_SAMPLE̅ बाउंडेड रैंकों के साथ

नियंत्रण, बजट और मूल्य मापन

स्रोत एक व्यावहारिक पांच-परत लागत नियंत्रण ढांचे की सिफारिश करता है। स्नोफ्लेक अब एआई-विशिष्ट संसाधन और साझा बजट, साथ ही समर्थित सुविधाओं के लिए प्रति उपयोगकर्ता कोटा का दस्तावेजीकरण करती है। बजटीय कार्रवाई तात्कालिक नहीं बल्कि आवधिक होती है; कोटे अतिरिक्त अनुरोधों को अधिक तेज़ी से अवरुद्ध कर सकते हैं।

Optimizing Snowflake AI Costs by Identifying Spending Sources, Detecting Waste, and Controlling Expenditure

Snowflake AI शुरू करने वाले संगठन के लिए, उपयोगी प्रारंभिक नीतियां हैंः प्रत्येक AI कार्यभार में एक पहचान योग्य मालिक और वातावरण होना चाहिए; विकास AI वर्कलोड्स को परिभाषित क्रेडिट सीमाएं होनी चाहिए; उत्पादन तैनाती के लिए प्रति 1,000 अनुरोधों या अभिलेखों पर लागत अनुमान की आवश्यकता होती है; बड़े पैमाने पर AI प्रसंस्करण के लिए अनुमोदित इनपुट-वॉल्यूम थ्रेसहोल्ड आवश्यक होता है; दोहराए गए निष्कर्ष का उपयोग करना चाहिए यदि उपयुक्त हो तो निरंतर परिणाम; एजेंटिक अनुप्रयोगों में पुनः प्रयास और उपकरण निष्पादन सीमाएँ होनी चाहिए और स्वचालित निवारण सक्षम होने से पहले लागत विसंगतियों की जांच की जानी चाहिए। ये नियंत्रण कार्यभार महत्वपूर्णता प्रयोग के आधार पर लागू किए जाने चाहिए। अनुसंधान और ग्राहक उन्मुख उत्पादन एप्लिकेशन में समान प्रवर्तन नियम नहीं होने चाहिए।

सबसे उपयोगी मीट्रिक केवल कुल क्रेडिट नहीं है. यह प्रति सफल व्यावसायिक परिणाम की लागत है। उदाहरण के लिए, यदि एक दस्तावेज़ वर्गीकरण एप्लिकेशन दस्तावेजों को संसाधित करने के लिए 120 क्रेडिट का उपभोग करता है और 36,000 सफलतापूर्वक वर्गीकृत किया जाता है, तो वे संख्याएं सचित्र गणना हैं, स्नोफ्लेक प्रदर्शन नहीं देखा गया। एक अनुकूलन जो कुल क्रेडिट को कम करता है लेकिन वर्गीकरण त्रुटियों में काफी वृद्धि व्यापार अर्थशास्त्र को खराब कर सकता है। सटीकता, विलंबता, पुनः प्रयासों और सफल परिणामों के साथ-साथ अनुमान लागत ट्रैक करें।

चार सप्ताह का रोलआउट एक खाते को अंधे खर्च से नियंत्रित AI कार्यभार में स्थानांतरित कर सकता हैः

  1. सप्ताह 1 - दृश्यता: (Visibility) 1। सप्ताह 2 - दृष्टिः (visibility): सभी सक्रिय AI सेवाओं की पहचान करें, दैनिक उपयोग रिपोर्टिंग स्थापित करें और विकास बनाम उत्पादन खपत को वर्गीकृत करें।
  2. सप्ताह 2 - श्रेय देना: (अंग्रेज़ी में) " Attribution" के रूप में अनुप्रयोगों में क्वेरी टैग, मानचित्र सेवा खाते जोड़ें और परियोजना-स्तरीय लागत रिपोर्टिंग बनाएं.
  3. तीसरा सप्ताह - पता लगानाः- (Detection: Week 3 - Detection) रोलिंग बेसलाइन, असामान्य व्यय अलर्ट और उच्च-क्रेडिट क्वेरी जांच स्थापित करें।
  4. चौथा सप्ताह - नियंत्रणः- (अंग्रेज़ी में) - (इंग्लिश में) लागू बजट और कोटा कॉन्फ़िगर करें, विकास गार्डरेल लागू करें, और परीक्षण वृद्धि प्रक्रियाएं।

स्रोत लेख, Snowflake AI Cost Optimization: Where the Spend Comes From, How to Detect It, and How to Control It, मूल रूप से Medium पर Towards AI में प्रकाशित किया गया था, जहां पाठक कहानी को हाइलाइट करके और प्रतिक्रिया देकर बातचीत जारी रखते हैं। संबंधित तकनीकी संदर्भों में Snowflake AI लागत प्रबंधन और शासन, Cortex AI Functions उपयोग इतिहास, Managing Cortex AI Functions लागत, और एक AI उपयोग और लागत श्रेय संदर्भ कार्यान्वयन शामिल है।

आम गलतियाँ

मुख्य गलतियों से बचने के लिए सेवा-नाम खोज क्वेरी को बिलिंग सुलह के रूप में व्यवहार करना, वर्तमान स्नोफ्लेक मीटरिंग प्रलेखन के साथ AI सेवा प्रकारों की पुष्टि करने में विफल होना और दोहरी गिनती embedding क्रेडिट के लिए देखने के बिना AI Functions और Cortex Search विचारों का संयोजन करना है। टीमों को यह भी नहीं मानना चाहिए कि ∀LIMIT` हमेशा AI मूल्यांकन कम कर देता है, पूरे AI बजट के लिए एक एकल ▽AI_FUNCTIONS□ श्रेणी का उपयोग न करें, और दैनिक मीटिंग देरी समय पर पता लगाने से चूकने का कारण न बनें।

एक अन्य त्रुटि का पता लगाने और निवारण मिश्रण है। 10 से 80 क्रेडिट की आठ गुना छलांग जांच करने के लिए एक ट्रिगर है, अपव्यय का सबूत नहीं है। उत्पादन AI कार्यभारों को स्वचालित रूप से रद्द करना मजबूत सुरक्षा की आवश्यकता है। डेटा इंजीनियरिंग टीमों के लिए अंतिम प्रश्न JUST स्नोफ्लेक लागत कितनी है यह नहीं है कि कौन सा AI वर्कलोड ने वह लागत बनाई, उन्होंने उन संसाधनों का उपभोग क्यों किया, और संगठन को क्या मूल्य प्राप्त हुआ। Snowflake AI लागत अनुकूलन को गोदाम आकार और क्वेरी ट्यूनिंग से परे विस्तारित होना चाहिए क्योंकि token प्रसंस्करण, दस्तावेज़ निष्कर्षण, खोज सेवा, बहु-चरण एजेंट निष्पादन और दोहराए गए विकास प्रयोग नए खपत पैटर्न बनाते हैं। उद्देश्य हर क्रेडिट को कम करना नहीं हैAI। यह सुनिश्चित करना है कि प्रत्येक कार्यभार अनुमानित लागत पर मापनीय मूल्य प्रदान करता है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.