RAG Is Not एक एजेंट मैं पुनर्प्राप्ति से कार्रवाई के लिए पुल बनाया

मेटा विवरणः एक Towards Data Science लेखक ने एजेंट कार्रवाई से आरएजी पुनर्प्राप्ति को अलग किया, फिर स्पष्ट कनेक्शन परत का परीक्षण करने के लिए तीन प्रणालियों में नौ कार्य चलाए।

टैगः आरएजी, AI एजेंट, पुनर्प्राप्ति संवर्धित पीढ़ी, प्रणाली डिजाइन

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक नियंत्रण कक्ष से लिंक करने वाले दस्तावेज़ खोज चैनल को दिखाने वाला अमूर्त मैत्रीपूर्ण चित्रण, बिना वास्तविक लोगों के, कोई लोगो और कोई पाठ नहीं।

टीमों के निर्माण सहायकों के लिए जो दस्तावेजों से सवालों का जवाब देते हैं और कार्रवाई भी करते हैं, पोस्ट शीर्षक "RAG Isn't an Agent I Built the Layer Between Retrieval and Action" RAG और AI एजेंटों के लिए एक उपयोगी डिजाइन परीक्षण देता है। यह पहली बार Towards Data Science पर दिखाई दिया। लेखक ने दो घटकों को अलग-अलग प्रणालियों के रूप में बनाया, उन्हें जानबूझकर इंटरफेस के माध्यम से शामिल किया, और उसी नौ कार्यों पर सभी तीन वास्तुकलाओं का मूल्यांकन किया।

पुनर्प्राप्ति और कार्रवाई एक ही काम नहीं है

RAG, पुनर्प्राप्ति-विस्तारित पीढ़ी के लिए संक्षिप्त है, एक भाषा मॉडल को पहले दस्तावेज़ सेट, डेटाबेस या वेब इंडेक्स जैसे स्रोत से प्रासंगिक पाठ प्राप्त करके उत्तर देने में मदद करता है। इसका मुख्य मूल्य ग्राउंडिंग हैः जवाब में सबूत लाना। AI एजेंट अलग है। यह आमतौर पर एक पाश के माध्यम से काम करता है जो तय कर सकता है कि आगे क्या करना है, उपकरण कॉल करें, स्थिति अपडेट करें और बहु-चरण कार्य पूरा करें। अंतर महत्वपूर्ण है क्योंकि एक मॉडल पूरी तरह से पुनःप्राप्त कर सकता हैं और फिर भी कार्रवाई करने में विफल हो सकते हैं, या आवश्यक तथ्यों को याद करते हुए आत्मविश्वास के साथ कार्य कर सकते हैं।

भ्रम अक्सर तब शुरू होता है जब उत्पाद दोनों के लिए एक लेबल का उपयोग करते हैं। एक चैटबॉट जो नॉलेज बेस से जवाब देता है, खुद को एजेंट कह सकता है, भले ही वह केवल टेक्स्ट प्राप्त करता है और प्रतिक्रिया उत्पन्न करता है। टूल-कॉलिंग असिस्टेंट को भी आरएजी कहा जा सकता है हालांकि इसकी मुख्य समस्या मार्गों को खोजने में नहीं बल्कि चरणों की योजना बनाने और गलत कार्यों से बचने में है। शर्तों को अलग करने से बिल्डरों को सही विफलता मॉडल चुनने में मदद मिलती है।

सेटअपः अलग-अलग बिल्ड, एक स्पष्ट लिंक

प्रयोग तीन सिस्टम विन्यासों की तुलना करता है। पहला एक आरएजी प्रणाली है। दूसरा एक एजेंट सिस्टम है। तीसरा एक संयुक्त व्यवस्था है, जहां दो घटक एक जानबूझकर इंटरफेस के माध्यम से जुड़े हुए हैं बजाय एक एकल संकेत में फ्यूज किए जाने या एक उपकरण के अंदर छिपे होने के। लेखक ने समान नौ कार्यों पर सभी तीन वास्तुकलों का मूल्यांकन किया। यह संरचना तुलना को उपयोगी बनाती हैः आर्किटेक्चर बदलते समय कार्य सेट तय रहता है।

इस प्रकार का परीक्षण आधार रेखा के बिना प्रत्येक कार्य को संभालने के लिए एक प्रणाली से पूछने की तुलना में अधिक जानकारीपूर्ण है। तीन प्रणालियों के साथ, बिल्डर एक संकीर्ण प्रश्न पूछ सकते हैंः क्या पुनर्प्राप्ति प्रणाली में एजेंट जोड़ना मदद करता है, या किसी एजेंट में पुनः प्राप्ति जोड़ता है या पुल ही वह हिस्सा होता है जो मायने रखता है? उत्तर कार्यों पर निर्भर करता है लेकिन सेटअप जवाब को अलग करना आसान बनाता है।

क्यों एक स्पष्ट परत मदद करता है

जब पुनर्प्राप्ति और कार्रवाई मिश्रित होते हैं, तो यह जानना मुश्किल हो सकता है कि एक प्रणाली क्यों विफल रही। क्या इसे सही मार्ग नहीं मिला? क्या इसने मार्ग पाया लेकिन गलत उपकरण चुना? क्या उसने एक टूल को ठीक से बुलाया लेकिन लक्ष्य का ट्रैक खो दिया? एक स्पष्ट कनेक्शन परत प्रत्येक भाग को अपना अनुबंध देता हैः पुनः प्राप्ति पक्ष संदर्भ की आपूर्ति करता है, और एजेंट पक्ष तय करता है कि उस संदर्भ के साथ क्या करना है। इसकी सबसे सरल स्थिति में, ऐसी परत घटकों के बीच पुनर्प्राप्त मार्गों, स्रोत मेटाडेटा, उपकरण विवरण या राज्य जानकारी पारित कर सकती है।

पाठकों के लिए, टेकअवे एक बेंचमार्क संख्या नहीं है। यह एक डिजाइन प्रश्न हैः सीमा कहां बैठनी चाहिए और कौन सी जानकारी इसे पार करनी चाहिए? एक तंग सीमा डिबगिंग को आसान बना सकती है, लेकिन यदि यह बहुत संकीर्ण है, तो एजेंट उपयोगी संदर्भ से चूक सकता है। एक ढीली सीमा एजेंट को अधिक लचीलापन दे सकती है लेकिन यह सिस्टम का परीक्षण करना कठिन भी कर सकती है। स्पष्ट परत वह जगह है जहां वे व्यापार-ऑफ दिखाई देते हैं।

पाठकों को आगे क्या देखना चाहिए

यहां प्रदान किया गया सारांश नौ कार्य नामों की पहचान नहीं करता है या प्रदर्शन आंकड़े प्रकाशित नहीं करते हैं, इसलिए जो पाठक सबूत चाहते हैं उन्हें पूरी पोस्ट को देखना चाहिए। समान प्रणालियों का मूल्यांकन करने वाले किसी भी व्यक्ति के लिए कुछ प्रश्न सबसे अधिक मायने रखते हैंः क्या संयुक्त प्रणाली ने एकल-घटक प्रणालियों की तुलना में अधिक कार्यों को पूरा किया? क्या यह बेहतर पुनर्प्राप्ति करके, अधिक विश्वसनीयता से काम कर रहा था, या बस भ्रम को कम करके ऐसा किया था? एक बार परत स्पष्ट होने पर विफलताओं का निदान करना आसान था? और क्या अतिरिक्त संरचना लागत, विलंबता या जटिलता जोड़ती थी जो लाभ से अधिक हो गई थी?

वे प्रश्न एक स्कोर को देखने से पहले भी उपयोगी होते हैं। यदि सटीक तथ्यों की आवश्यकता हो तो कार्य सेट पुनर्प्राप्ति का पक्ष ले सकता है, या यदि इसे अनुक्रम की आवश्यकता होती है तो कार्रवाई का समर्थन कर सकता है। वही नौ कार्य यह बता सकते हैं कि क्या संयुक्त प्रणाली केवल व्यवहार के संकीर्ण टुकड़े में सुधार करती है या अधिक विश्वसनीय डिफ़ॉल्ट बन जाती है। बिल्डरों के लिए, सबसे मूल्यवान आउटपुट उच्चतम स्कोर नहीं हो सकता है लेकिन विफलता मोड का स्पष्ट नक्शा हो सकता हैः

क्यों यह पैटर्न बिल्डरों के लिए महत्वपूर्ण है

परीक्षण का मूल्य व्यावहारिक है। Many AI उत्पाद चैट इंटरफेस के रूप में शुरू होते हैं और बाद में रिकॉर्ड को अपडेट करने, संदेश भेजने, शेड्यूलिंग या एपीआई कॉल करने जैसी कार्रवाई करने की आवश्यकता होती है। उस बिंदु पर, टीमें अक्सर आरएजी स्टैक में टूल जोड़ती हैं या एजेंट प्रॉम्प्ट में पुनर्प्राप्ति जोड़ देती हैं बिना यह तय किए कि कौन सी प्रणाली किस जिम्मेदारी का मालिक है। पोस्ट एक क्लीनर रास्ता सुझाता हैः नौकरियों को अलग रखें, फिर जांचें कि क्या पुल परिणामों में सुधार करता है।

पाठकों के लिए निर्माण सहायक, लेख इस बात को सुदृढ़ करता है कि RAG और AI एजेंट विनिमेय लेबल नहीं हैं। वे अलग-अलग विफलता मोड का समाधान करते हैं, और उनके आसपास की वास्तुकला का मूल्यांकन कार्य द्वारा किया जाना चाहिए। अगला कदम एक लोकप्रिय शब्द चुनना नहीं है, बल्कि यह परिभाषित करना है कि सिस्टम को क्या जानना चाहिए, इसे क्या करना चाहिए, और स्टैक का कौन सा हिस्सा जिम्मेदार होना चाहिए जब या तो गलत हो जाता है।