ट्यूटोरियल

SpectRAG बहु-हॉप प्रश्न उत्तर के लिए token बजटों में संदर्भ का चयन करने के लिए भारित खंड ग्राफ का उपयोग करता है।

स्पेक्ट्रैग एक पुनर्प्राप्ति ढांचा है जो कॉर्पस को भारित खंड ग्राफ में बदल देता है और token बजट के तहत साक्ष्य सेट का चयन करता है। स्वतंत्र रूप से मार्गों की रैंकिंग के बजाय, यह प्रासंगिकता, विविधता और कनेक्टिविटी को संतुलित करने के लिए वर्णक्रमीय रेखाचित्र सिद्धांत का उपयोग करता है. इससे मल्टी-हॉप सवालों में मदद मिलती है जहां ब्रिज सबूत खराब हो सकते हैं और लगभग डुप्लीकेट टुकड़े context window को भर सकते हैं । पेपर 46 MB बेंचमार्क इंडेक्स बनाम 274 MB लाइटआरएजी के लिए रिपोर्ट करता है और सोने के साक्ष्य की 91.8 प्रतिशत वसूली, retrieval-augmented generation बिल्डरों के लिए एक संक्षिप्त, आलेख-जागरूर विकल्प प्रदान करता है ।

SpectRAG बहु-हॉप प्रश्न उत्तर के लिए token बजटों में संदर्भ का चयन करने के लिए भारित खंड ग्राफ का उपयोग करता है।

मुख्य जानकारी

  • SpectRAG मल्टी-हॉप प्रश्न उत्तर के लिए एक पुनर्प्राप्ति ढांचा है जो स्वतंत्र रूप से रैंक किए गए पाठ टुकड़ों के रूप में मार्गों का इलाज करने के बजाय भारित खंड ग्राफ के रूप मे दस्तावेजों को मॉडल करता है।
  • यह सामान्य RAG विफलताओं को लक्षित करता है जहां सिंगल-पैसेज रिकवरी लगभग डुप्लिकेट लौटाता है, ब्रिज साक्ष्य से चूक जाता है और कॉर्पस संरचना जैसे दस्तावेज़ आदेश, साझा संस्थाओं और उद्धरणों की अनदेखी करता है।
  • यह प्रणाली प्रासंगिक, विविध और जुड़े हुए संदर्भ सेटों का चयन करने के लिए कई किनारे संकेतों, वर्णक्रमीय ग्राफ निर्देशांक और संबंध प्रसार को जोड़ती है।
  • स्पेक्ट्रैग एक संरक्षित कोर, विविधता-उन्मुख पूंछ और अंतिम संदर्भ को इकट्ठा करने के लिए बैकफिल चरण का उपयोग करके निश्चित संख्या में टुकड़ों की वापसी के बजाय token बजट भरता है।
  • रिपोर्ट किए गए परिणाम मजबूत साक्ष्य वसूली और बहुत छोटे सूचकांक आकार दिखाते हैंः 91.8% सोने के सबूत बरामद, एक 46890001 मल्टीहोप्रैग इंडेक्स की तुलना में लाइट्रैग्स 274890001.

SpectRAG, एक पुनर्प्राप्ति ढांचे में वर्णित है कागज "SpectrRAG: Weighted Chunk Graphs के लिए token -Budgeted Context Selection मल्टी- Hop Retrieval -Augmented Generation" द्वारा Zafer Sahinoglu, Abdulazeez Mohammed, Buse Yaren Kazangirler और Cahit Berkay Kazangirler, एक दस्तावेज़ कॉर्पस को भारित खंड ग्राफ में परिवर्तित करता है और स्वतंत्र रूप से रैंक किए गए मार्गों के बजाय सबूत सेट का चयन करता है। यह प्रासंगिक, विविध और जुड़े हुए साक्ष्य खोजने के लिए स्पेक्ट्रल ग्राफ सिद्धांत का उपयोग करता है । रिपोर्ट किया गया MultiHopRAG सूचकांक 46 MB है, जबकि लाइट्रैग 274 MB, और फ्रेमवर्क कुल सोने के साक्ष्य का 89000010 प्रतिशत बरामद करता है. परिणाम retrieval-augmented generation प्रणालियों के निर्माताओं के लिए मायने रखता है क्योंकि कई टुकड़ों पर निर्भर उत्तर विफल हो सकते हैं जब रिट्रीवर निकट-डुप्लीकेट लौटाता है और जोड़ने वाले पाठ को याद कर रहा है।

जब सिंगल-पासिंग रैंकिंग पुल को याद करती है

retrieval-augmented generation सिस्टम बाहरी साक्ष्य को प्रॉम्प्ट में जोड़कर large language models में सुधार करते हैं। पुनर्प्राप्तकर्ता प्रश्न को एम्बेड करता है और निकटतम मैच लौटाता है। यह दृष्टिकोण सरल लुकअप के लिए पर्याप्त होता है, जैसे कि उबलते बिंदु। जब एक उत्तर में तीन मार्गों पर फैलाए गए तथ्यों की आवश्यकता होती है तो यह नाजुक हो जाता है। पेपर के उदाहरण में, छह-टुकड़ा बजट context window को एक दस्तावेज़ के एक पैराग्राफ-आकार वाले अनुभाग से लगभग डुप्लिकेट से भर सकता है और 3 स्वर्ण मार्गों में से केवल 1 का पता लगा सकता है। लिंकिंग मार्ग क्वेरी से असंबंधित लग सकता है, इसलिए इसे पुनः प्राप्त नहीं किया गया है। मॉडल तब दोहराया सबूत प्राप्त करता है, और सही ढंग से अनुमान लगा सकते हैं या असफल हो सकते हैं।

लेखक तीन विफलता मोड की पहचान करते हैं। सबसे पहले, पड़ोसी या ओवरलैपिंग टुकड़े embedding अंतरिक्ष में समान हो सकते हैं, इसलिए शीर्ष-रैंक्ड परिणाम एक दूसरे को दोहराते हैं। दूसरा, ब्रिज साक्ष्य, जैसे कि परिभाषा, साझा इकाई या संदर्भ जो दो तथ्यों को जोड़ता है, खराब रैंक कर सकता है क्योंकि यह प्रश्न से मेल नहीं खाता है। तीसरा, साधारण रैंकिंग कॉर्पस संरचना को अनदेखा करती है, जिसमें दस्तावेज़ क्रम, अनुभाग पदानुक्रम, साझा संस्थाएं और उद्धरण शामिल हैं, संग्रहीत पाठ को स्वतंत्र वैक्टर के रूप में मानते हुए।

SpectRAG की प्रतिक्रिया एक संदर्भ सेट को अनुकूलित करना है, न कि सूची। उद्देश्य प्रश्न के लिए प्रासंगिकता, एक अतिरेक दंड, प्रश्न पहलुओं के कवरेज और ग्राफ के माध्यम से कनेक्टिविटी का वजन करता है। यदि रिडंडेंसी, कवर और कनेक्टिविटी वेट शून्य हैं, तो विधि सामान्य शीर्ष-के चयन में कम हो जाती है। चूंकि लक्ष्य फ़ंक्शन सेट पर परिभाषित किया गया है, इसलिए लेखक स्कोर सॉर्ट करने के बजाय ग्राफ़ पाइपलाइन के साथ इसका अनुमान लगाते हैं।

एक भारित ग्राफ टुकड़े दो निर्देशांक देता है

पाइपलाइन में एक ऑफ़लाइन कॉर्पस चरण और एक ऑनलाइन क्वेरी चरण है। पूर्ण पाइप लाइन का वर्णन आधिकारिक arXiv प्रीप्रिंट में किया गया है। ऑफलाइन, दस्तावेजों को लगभग 1,200- token टुकड़ों में विभाजित किया जाता है। स्प्लिटर शीर्षकों का अनुसरण करता है जब वे मौजूद होते हैं, अर्थ संबंधी ब्रेकपॉइंट सम्मिलित करते हैं जब वे नहीं करते हैं, मध्य वाक्य काटने से बचते हैं और तालिकाओं को बरकरार रखते हैं। प्रत्येक खंड नोमिक-एम्बेड-टेक्स्ट के साथ एम्बेडेड होता है।

खंड तब छह पूरक साक्ष्य संकेतों का उपयोग करके जुड़े होते हैं। एक सादे निकटतम-पड़ोसी embedding ग्राफ के विपरीत, SpectRAG केवल वेक्टर समानता के बजाय कई सिग्नल से किनारों को खींचता है। पेपर में स्पष्ट रूप से एक संकेत का वर्णन किया गया हैः एक भाषा मॉडल यूटिलिटी प्रश्न उत्पन्न करता है जिसका प्रत्येक खंड उत्तर दे सकता है, और समान सवालों के जवाब देने वाले टुकड़े कार्यात्मक रूप से संबंधित माना जाता है भले ही उनकी शब्दावली भिन्न हो। यह भी नोट करता है कि पांच दस्तावेजों के टुकड़ों को सिगनल द्वारा लिंक किया जाता है इससे पहले कि किनारे एक भारित आलेख में बस जाते हैं। प्रत्येक संकेत वजन वाला स्कोर योगदान देता है और संयुक्त किनारा वजन उन संकेत-विशिष्ट मूल्यों को जोड़कर बनाया जाता है। कमजोर किनारें ग्राफ को पतला रखने के लिए छंटनी की जाती हैं।

इसके बाद, SpectRAG ग्राफ के सममित सामान्यीकृत लाप्लासियन की गणना करता है, जिसे L_sym = I - D ^ ((-1/2) W D ^ (-1/2)) के रूप में व्यक्त किया जाता है। यह प्रत्येक खंड को दो ज्यामिति देता हैः एक घने embedding , जो पाठ कहता है और एक वर्णक्रमीय निर्देशांक, जो कॉर्पस के समुदाय संरचना में अपनी स्थिति पर कब्जा कर लेता है। पेपर का तर्क है कि embedding अंतरिक्ष विषयों को मिला सकता है और अपने पड़ोसियों से दूर कुछ टुकड़े छोड़ सकता है, जबकि स्पेक्ट्रल स्थान, लाप्लेसियन eigenvectors के माध्यम से, शब्दों की परवाह किए बिना ग्राफ समुदायों को एक साथ खींचता है।

SpectRAG uses weighted chunk graphs to select context within token budgets for multi-hop question answering.

पांच क्वेरी चरण token बजट का चयन करें, न कि JUST k

ऑनलाइन पुनर्प्राप्ति हाइब्रिड बीज से शुरू होती है। तीन रैंकिंग Reciprocal Rank Fusion के साथ विलय कर रहे हैंः घने FAISS कोसाइन स्कोर, BM25 स्कोर और संग्रहीत उपयोगिता प्रश्नों के खिलाफ मैच। परिणाम 20 टुकड़ों का एक उच्च-रिकॉल सीड सेट है। सिस्टम जानबूझकर यहां ओवर-पुनर्प्राप्त करता है क्योंकि बाद में ग्राफ विस्तार केवल वही तक पहुंच सकता है जो बीज तक पहुँच सकते हैं।

Neo4j में एक दो-हाप चौड़ाई-प्रथम खोज बीज को 200 उम्मीदवारों तक विस्तारित करती है। वे अभ्यर्थी सीधे क्वेरी से मेल नहीं खा सकते हैं, लेकिन वे उन टुकड़ों के पास बैठते हैं जो करते हैं। वर्णक्रमीय प्रासंगिकता फैलाव तब उम्मीदवारों को फिर से स्कोर करता हैः relevance ग्राफ कनेक्शन के साथ फैल सकता है, इसलिए एक टुकड़ा जो कभी भी क्वेરી से मेल नही खाता है वह अभी भी संदर्भ में प्रवेश कर सकता है यदि यह मिलान करने वाले टुकड़ों से दृढ़ता से जुड़ा हुआ है। पेपर तीन सीड चॉक्स से शुरू होने वाली प्रासंगিকता दिखाता है जैसे ही प्रसार पैमाने t बढ़ता है, एक सिंथेटिक ग्राफ पर गर्मी-कर्नल कंप्यूटेशन का उपयोग करके।

अंतिम चरण लगभग 12,000 tokens के एक निश्चित संख्या में टुकड़ों को वापस करने के बजाय token का बजट भरता है। यह विविधता नियमों को नहीं हटा सकता उच्च-विश्वसनीयता वाले टुकड़ों के कोर की रक्षा करता है। फिर यह एक परिशुद्धता उन्मुख पूंछ जोड़ता है जो नए दस्तावेजों और कम प्रतिनिधित्व वाले वर्णक्रमीय समूहों का पक्ष लेता है, जबकि दोहराई गई सामग्री को अस्वीकार करते हुए, सटीक फर्श के साथ, और बैकफिल कदम का उपयोग करता है ताकि बजट आधा खाली न छोड़ा जाए। context window को अकेले गिनती द्वारा नहीं, बल्कि लागत और कवरेज द्वारा इकट्ठा किया जाता हैः पहले संरक्षित कोर, फिर पूँछ, फिर बैकफ़िल।

बेंचमार्क कम भंडारण और मजबूत साक्ष्य पुनर्प्राप्ति दिखाते हैं

मूल्यांकन MultiHopRAG का उपयोग करता है, जिसमें 2,556 गोल्ड-जवाब मल्टी-हॉप प्रश्न और चार अल्ट्राडोमेन कॉर्पोरेस होते हैंः कृषि, Computer Science, कानूनी और मिश्रण। आधार रेखाएं NaiveRAG, हाइब्रिड हैं, जो BM25 और घने पुनर्प्राप्ति, HyDE और LightRAG को जोड़ती हैं। सभी सिस्टम एक ही जनरेटर का उपयोग करते हैं, इसलिए उत्तर अंतर को पुनः प्राप्त करने के लिए जिम्मेदार ठहराया जाता है।

इकाई-आधारित GraphRAG दृष्टिकोणों की तुलना में, SpectRAG के नोड्स निकाले गए संस्थाओं के बजाय टुकड़े हैं। लाइटराग भाषा-मॉडल से निकाली गई संस्थाओं से अपना ग्राफ बनाता है और इकाइयों और संबंधों के लिए अलग वेक्टर स्टोर रखता है। तालिका 4 से पता चलता है कि पांच कॉर्पोरेस में, स्पेक्ट्राग में 2.8x से 6.6x कम नोड होते हैं, और इसका मल्टीहोप्रैग पूर्ण स्थायी सूचकांक 46890001 बनाम 274 MB लाइट्रैग के लिए होता है। ग्राफ छोटे नोड्स में है, किनारों में नहींः प्रत्येक खंड में प्रति नोड लगभग 5.7 किनारे हैं, जबकि लाइट्रेग के बारे में 1 है। कुल मिलाकर इंडेक्स लाइटरैग से लगभग छह गुना छोटा है।

SpectRAG uses weighted chunk graphs to select context within token budgets for multi-hop question answering.

तालिका 6 साक्ष्य वसूली की रिपोर्ट करती है। SpectRAG मल्टीहोप्रैग पर कुल मिलाकर सोने के सबूतों का 91.8 प्रतिशत तक पहुंचता है, जबकि अगली सबसे अच्छी प्रणाली 76.1 प्रतिशत तक पहुँचती है। यह 84.0 के साथ रिकॉल @ 10 में अग्रणी है। लाइट्रैग के खिलाफ, यह हर कटऑफ और औसत पारस्परिक रैंक पर आगे है, 70.4 बनाम 61.5।

तालिका 7 से पता चलता है कि एंड-टू-एंड उत्तर गुणवत्ता सबसे अधिक लेकिन संकीर्ण है। पांच प्रणालियों में, स्पेक्ट्राग के पास 71.2 पर उच्चतम सटीक मिलान है और दोनों F1 स्कोर और उत्तर नियंत्रण 71.6 हैं। हाइब्रिड और लाइट्रैग की तुलना में मार्जिन एक अंक से कम है, जबकि नाइवराग और हाइडे 3-6 अंकों का अंतर है।

तालिका 8 निष्कर्ष प्रश्नों पर सबसे बड़ा लाभ उजागर करती है, जहां साक्ष्य को हॉप्स में इकट्ठा किया जाना चाहिए। स्पेक्ट्रैग वहां 95.1 प्रतिशत सटीक मिलान तक पहुंचता है। तुलना और सामयिक प्रश्न एक टाई के करीब हैं, लाइटरेग थोड़ा आगे है। पेपर की सारणी इन स्कोर प्रदान करते हैं; खिलौना-ग्राफ एनिमेशन व्याख्यात्मक चित्रण हैं, प्रयोगात्मक परिणाम नहीं।

क्या बिल्डरों रिलीज के साथ कर सकते हैं

मूल लेखन मध्यम पर Towards AI पर दिखाई दिया, और कागज arXiv:2610.36991 के रूप में सूचीबद्ध है। कोड एमआईटी लाइसेंस के तहत github.com/SightAndCite/SpectRAG पर उपलब्ध है। कार्यान्वयन FAISS, BM25, Neo4j और एक React + D3 फ्रंट-एंड का उपयोग करता है जो उपयोगकर्ताओं को अपने स्वयं के दस्तावेजों के टुकड़े ग्राफ की खोज करने देता है।

यह API कुंजी के बिना, उपयोगिता प्रश्नों के लिए Ollama embeddings , एक स्थानीय LLM और संस्थाओं के लिए spaCy नामित इकाई मान्यता के साथ पूरी तरह से स्थानीय रूप से चल सकता है। दस्तावेजों के फ़ोल्डर को अनुक्रमित करने के लिए, Python main.py index papers/ चलाएं। मल्टी-हॉप सवाल पूछने के लिए Python मुख्य.पीआई क्वेरी "क्रॉस डॉक्यूमेंट रीजनिंग में कौन सी विधियां सुधारती हैं?

पुनर्प्राप्ति प्रणालियों का निर्माण करने वाली टीमों के लिए, व्यावहारिक टेकअवे यह है कि मल्टी-हॉप गुणवत्ता एक बड़ी निश्चित टुकड़ा गिनती पर कम निर्भर कर सकती है और चयनित मार्ग कैसे संबंधित हैं। SpectRAG सुझाव देता है कि ग्राफ-जागरूक, token -बजेटेड चयन ब्रिज साक्ष्य को पुनर्प्राप्त कर सकता है जो प्रत्यक्ष रैंकिंग मिस करता है, जबकि संग्रहीत सूचकांक को इकाई आधारित विकल्पों की तुलना में छोटा रखता है। बिल्डर जो रिडंडेंट चंक्स, लापता कनेक्टर्स या संदर्भ खिड़कियों से जूझते हैं जो लगभग डुप्लीकेट से भर जाते हैं वे अपने स्वयं के बहु-हॉट सवालों के खिलाफ ढांचे का परीक्षण कर सकते हैं और इसके सबूत पथ की तुलना मानक टॉप-के रीट्रीवर से कर सकते हैंः

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.