[दिन २६/१००] चक्र, पुनरावृत्ति और कब रुकना है यह जानना

मेटा विवरणः दिन 21 पर लैंगग्राफ चक्र दिखाता है कि क्यों लूप्स ग्राफ़ को शक्तिशाली लेकिन महंगा बनाते हैं, जो रनवे स्टेट, token खर्च और बिल्डरों के लिए सुरक्षित वर्कफ़्लो डिज़ाइन को कवर करते हैं।

टैगः लैंगग्राफ, AI एजेंट, वर्कफ़्लो डिज़ाइन

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> नोड्स और किनारों के साथ एक लूपिंग ग्राफ का अमूर्त मैत्रीपूर्ण चित्रण, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।

लैंगग्राफ चक्र डे 21 अद्यतन द्वारा हाइलाइट की गई मुख्य क्षमता है, और वे डेवलपर्स और AI एप्लिकेशन बिल्डरों के लिए केंद्रीय लागत जोखिम भी हैं। सामग्री को लैंग ग्राफ़ अस्तित्व में आने का पूरा कारण कहा जाता था, और वर्तमान नोट ने दिन के विषय को उस शक्ति के बिल के रूप में वर्णित किया। एक आलेख जो खुद पर वापस लूप कर सकता है वह महंगे मॉडल कॉल, पुरानी स्थिति और अस्पष्ट स्टॉपिंग पॉइंट्स के माध्यम से भी लूप हो सकता है। पूर्ण स्पष्टीकरण से पहले Towards AI का अंश बंद हो जाता है, लेकिन दिशा स्पष्ट हैः लैंगोग्राफ चक्र JUST तकनीकी विशेषता नहीं हैं। वे एक नियंत्रण सतह हैं जो एजेंटों को उपयोगी बना सकते हैं या उन्हें संचालित करने के लिए कठिन बनाते हैं।

लैंगग्राफ के लिए चक्र क्यों महत्वपूर्ण हैं

लैंगग्राफ एक ग्राफ़ के रूप में अनुप्रयोग तर्क का प्रतिनिधित्व करने के लिए एक ढांचा है। इस मॉडल में, नोड्स काम करते हैं, किनारे नियंत्रण को एक नोड से दूसरे पर ले जाते हैं, और राज्य चरणों के बीच जानकारी लेता है। एक चक्र वह पैटर्न है जो केवल आगे बढ़ने के बजाय नियंत्रण को पिछले नोड पर वापस जाने देता है।

यह सरल लगता है, लेकिन यह एक एप्लिकेशन के डिजाइन को बदल देता है. चक्रों के बिना, वर्कफ़्लो ज्यादातर एक अनुक्रम हैः डेटा प्राप्त करें, उत्तर उत्पन्न करें, परिणाम सहेजें। चक्र के साथ, वही कार्यप्रवाह रोक सकता है, खुद की समीक्षा कर सकता है और अधिक जानकारी मांग सकता है या किसी विफल चरण को फिर से आज़मा सकते हैं जब तक कि कोई शर्त पूरी न हो जाए। यही कारण है कि दिन 21 ने लैंगग्राफ के अस्तित्व के पूरे कारण के रूप में चक्रों का वर्णन किया: लूप वह है जो स्थिर पाइपलाइन को राज्य निर्णय प्रक्रिया में परिवर्तित करता है।

Many AI एजेंट कार्य रैखिक नहीं हैं। एक कोड सहायक को परीक्षण चलाने, विफलता पढ़ने, फ़ाइल संपादित करने और फिर से टेस्ट चलाने की आवश्यकता हो सकती है। जब उत्तर अधूरा होता है तो एक शोध सहायक को खोजने, सारांशित करने, तुलना करने और पुनः खोज करने की आवश्यकता होती है। लैंगग्राफ चक्र डेवलपर को ग्राफ के चारों ओर एक अलग लूप बनाने के लिए मजबूर करने के बजाय उस पुनरावर्ती व्यवहार को व्यक्त करने का एक तरीका देते हैं।

बिल देय हो जाता हैः जहां लूप पावर लागत बन जाती है

दिन 21 फ़्रेमिंग अगले विषय को उस शक्ति के लिए बिल कहता है। एक ग्राफ जो खुद पर वापस लूप कर सकता है, अगर रोक नियम कमजोर हो तो भी लूपिंग जारी रख सकता है। वास्तविक प्रणालियों में, लागत केवल पैसा नहीं है। इसमें विलंबता, token खर्च, राज्य बहाव और डिबगिंग समय शामिल हो सकते हैं।

token खर्च सबसे अधिक दिखाई देने वाला बिल है। प्रत्येक लूप एक बार फिर से large language model कॉल कर सकता है। यदि कोई नोड मॉडल को आलोचना करने, पुनर्लेखन करने, फिर से आलोचना करने और फिर से लिखने के लिए कहता है, तो एप्लिकेशन हर पास के लिए भुगतान करता है। ग्राफ अभी भी तर्क में सही हो सकता है, लेकिन ऑपरेटिंग लागत हर अनावश्यक मोड़ के साथ बढ़ती है।

राज्य दूसरा बिल है। एक लूप में, ग्राफ बार-बार जानकारी पढ़ता और लिखता है। यदि कोई नोड स्पष्ट नियम के बिना स्थिति को अपडेट करता है, तो बाद के पास पुराने अनुमानों को नए परिणामों के साथ मिला सकते हैं। एप्लिकेशन अपना मन बदल सकता है, गलती दोहरा सकता है या किसी त्रुटि को आगे बढ़ा सकता है जिसे अवरुद्ध किया जाना चाहिए था।

अवलोकनशीलता तीसरा बिल है. एक रैखिक वर्कफ़्लो का निरीक्षण चरण-दर-चरण किया जा सकता है। एक चक्रीय कार्यप्रवाह हर बार अलग-अलग स्थिति के साथ कई बार एक ही नोड पर जा सकते हैं। डेवलपर्स को यह जानने की आवश्यकता होती है कि कौन सा मोड़ हुआ, ग्राफ वहां क्यों चला गया और इसे कब रोकना चाहिए था। उस दृश्य के बिना, एक बग रूटिंग त्रुटि के बजाय एक अजीब उत्तर जैसा दिख सकता है.

दिन 21 की चेतावनी का व्यवहार में क्या अर्थ है

व्यावहारिक सबक यह है कि लैंगग्राफ चक्रों को स्पष्ट नियंत्रण की आवश्यकता होती है। एक शक्तिशाली ग्राफ़ को इस उम्मीद पर भरोसा नहीं करना चाहिए कि लूप समाप्त हो जाएगा। इसे एक परिभाषित निकास स्थिति की आवश्यकता है। वह अधिकतम संख्या में मोड़, टर्मिनल राज्य, विश्वास सीमा, मानव अनुमोदन चरण या ऐसी स्थिति हो सकती है जो उसी नोड को फिर से चलाने से रोकती है जब स्थिति नहीं बदली है।

यह एजेंट अनुप्रयोगों के लिए विशेष रूप से महत्वपूर्ण है। एक एजेंट को एक लक्ष्य और उपकरणों का एक सेट दिया जा सकता है। यदि ग्राफ एजेंट तय करने देता है कि कब रोकना है, तो रुकने का निर्णय सिस्टम डिज़ाइन का हिस्सा बन जाता है। कोई मॉडल बहुत जल्दी बंद हो सकता है, बहुत देर से बंद कर सकते हैं, या आंशिक कार्य के बाद बंद हो सकते हैं। डेवलपर को यह तय करना होगा कि क्या पूरा होने के रूप में गिना जाता है, क्या विफलता की तरह गिनती करता है, और आगे जारी रखने के लिए पर्याप्त प्रगति के तौर पर क्या मायने रखता है।

दिन 21 की सामग्री यह भी सुझाव देती है कि बिल्डरों को लागत से क्षमता अलग करनी चाहिए। एक चक्र उपयोगी हो सकता है क्योंकि यह पुनः प्रयास, समीक्षा और काम जारी रखने का समर्थन करता है। लेकिन जब वह विफलता पैटर्न को दोहराता है तो वही चक्र खतरनाक हो सकते हैं। एक ग्राफ जो लूप होता है क्योंकि किसी टूल ने त्रुटि लौटाई थी, उसी खराब अनुरोध को भेजने के लिए रख सकती है। मॉडल अनिश्चित होने के कारण लूप करने वाला ग्राफ एक ही सवाल पूछ सकता है। फिक्स साइकिल को हटाने के लिए नहीं है, बल्कि उन्हें सशर्त और अवलोकन योग्य बनाने के लिए है।

पाठकों को Towards AI के अंश से क्या सीखना चाहिए

अंश में बेंचमार्क नंबर, कीमतें, मॉडल नाम या सुरक्षा उपायों की पूरी सूची नहीं दी गई है, इसलिए इसे प्रदर्शन रिपोर्ट के बजाय एक डिजाइन चेतावनी के रूप में पढ़ा जाना चाहिए। फिर भी यह एक उपयोगी नियम देता हैः जब लैंगग्राफ चक्र उपकरण मौजूद होने का पूरा कारण होते हैं, तो मुख्य जोखिम यह नहीं होता कि ग्राफ़ बहुत सरल होगा। मुख्य खतरा यह है कि यह बहुत जीवंत हो जाएगा।

लैंगग्राफ-शैली के अनुप्रयोगों का निर्माण या मूल्यांकन करने वाले पाठकों के लिए, अगला कदम प्रत्येक लूप को मैप करना है। पूछें कि पहले नोड में वापसी क्या ट्रिगर करता है, पास के बीच राज्य में कौन से परिवर्तन होते हैं, लूप क्या बंद हो जाता है और अगर स्टॉप कंडीशन कभी फायर नहीं होती है तो क्या होता है। यदि वे उत्तर अस्पष्ट हैं, तो ग्राफ शक्तिशाली लेकिन नाजुक हो सकता है।

व्यापक निहितार्थ यह है कि चक्र वे हैं जहां लैंगग्राफ सबसे उपयोगी और सबसे अधिक मांग बन जाता है। वे वर्कफ़्लो को पहले चरण में समाप्त होने के बजाय अनुकूलित, पुनः प्रयास करने और जारी रखने देते हैं। उन्हें डेवलपर से राज्य, नियंत्रण प्रवाह और लागत के लिए एक यातायात प्रबंधक बनने की भी आवश्यकता होती है। दिन 21 का संदेश यह नहीं है कि लैंगोग्राफ चक्र खराब हैं। यह है ਕਿ उनका मूल्य बिल बनाता है, और एप्लिकेशन को जानबूझकर उस बिल का भुगतान करने के लिए डिज़ाइन किया जाना चाहिए।