जब अपेक्षित परिणाम कुछ भी नहीं है तो आपकी पाइपलाइन को क्या लौटना चाहिए?

मेटा विवरणः जानें कि क्यों LLM पाइपलाइन विश्वसनीयता जांच सिस्टम को आत्मविश्वास से गलत बना सकती है जब सही उत्तर कोई जवाब नहीं होता है, और टीमों को कैसे निरस्त मामलों का प्रबंधन करना चाहिए।

टैगः 1 991 पर्यावरण संरक्षण, जलवायु परिवर्तन का प्रभाव, जल प्रदूषण

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक अमूर्त, दोस्ताना चित्रण large language model पाइपलाइन का उत्तर पथ और कोई-उत्तर मार्ग में शाखाओं के साथ सरल ज्यामितीय आकृतियों; कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।

LLM पाइपलाइन की विश्वसनीयता पर काम करने वाली टीमों के लिए, पोस्ट शीर्षक 89When the Correct Answer Is Nothing, What Does Your Pipeline Return? 89 पहली बार Towards Data Science पर दिखाई दिया। यह तर्क देता है कि large language model pipelines में जोड़े गए समान विश्वसनीयता तंत्र कभी-कभी सिस्टम को आत्मविश्वास से गलत बना सकते हैं, खासकर जब सही प्रतिक्रिया कोई प्रतिक्रिया नहीं होती है। इस बिंदु का उद्देश्य इंजीनियरों, उत्पाद मालिकों और मूल्यांकन टीमों का निर्माण करना है जो सहायकों, एजेंटों और पुनर्प्राप्ति प्रणालियों का निर्माण करते हैंः त्रुटियों को कम करने वाले गार्डरेल सिग्नल को हटा सकते हैं जो एक पाइप लाइन को रोकने के लिए कहते हैं।

विश्वसनीयता की सुरक्षा क्यों असफल हो सकती है

LLM पाइपलाइन शायद ही कभी एक एकल मॉडल कॉल होते हैं। वे अक्सर large language model को पुनर्प्राप्ति, प्रॉम्प्ट टेम्प्लेट्स, आउटपुट पार्सर्स, सत्यापन नियम, विश्वास जांच और फ़ॉलबैक तर्क के साथ जोड़ते हैं। प्रत्येक परत सिस्टम को अधिक विश्वसनीय बनाने के लिए जोड़ी जाती है। एक पुनर्प्राप्ती चरण का उद्देश्य दस्तावेजों में जमीनी उत्तर देना होता है। आउटपुट स्कीमा का मतलब प्रतिक्रियाओं को उपयोग करने योग्य रखना है। रिक्त या गलत परिणामों से बचने के लिए पुनः प्रयास लूप का अर्थ है।

वे तंत्र एक धारणा साझा करते हैंः उत्पादन करने के लिए एक उत्तर है। जब सही जवाब कुछ भी नहीं होता है, तो वह धारणा हानिकारक हो जाती है। पाइपलाइन 'कोई उत्तर' को वैध राज्य के रूप में व्यवहार नहीं कर सकती है। इसके बजाय यह किसी अन्य स्रोत पर रूट कर सकता है, मॉडल को फिर से कोशिश करने के लिये कह सकता है या मॉडल को आवश्यक प्रारूप में साक्ष्य फिट कराने के लिये मजबूर कर सकता हैं। अंतिम आउटपुट पॉलिश, संरचित और निश्चित लग सकता है भले ही ईमानदार परिणाम अनिश्चितता, इनकार या बेहतर जानकारी के अनुरोध का होना चाहिए था।

असली पाइपलाइनों में क्या गलत होता है

विफलता पैटर्न पुनर्प्राप्ति संवर्धित पीढ़ी में सबसे अधिक दिखाई देता है, जहां एक प्रणाली को आपूर्ति किए गए दस्तावेजों से जवाब देने की उम्मीद होती है। यदि दस्तावेज़ों में उत्तर नहीं होता है, तो अच्छी तरह से आधारित पाइपलाइन ऐसा कहनी चाहिए। लेकिन जब विश्वसनीयता परत गायब सामग्री को दंडित करती है या किसी फ़ील्ड को वापस करने के लिए हर संकेत की आवश्यकता होती है, मॉडल कमजोर साक्ष्य और आत्मविश्वासपूर्ण उत्तर के बीच एक पुल का आविष्कार कर सकता है। यह अप्रासंगिक पाठ का हवाला दे सकता है, जो स्रोत समर्थन करते हैं उसे अतिरंजित कर सकते हैं, या तथ्य के रूप में निष्कर्ष प्रस्तुत कर सकते हैंः

एक ही समस्या एजेंट वर्कफ़्लोज़ में दिखाई दे सकती है। टूल कॉल विफल हो सकता है, आंशिक डेटा लौटा सकता है या असमर्थित अनुरोध को उजागर कर सकता है। गति बनाए रखने के लिए डिज़ाइन की गई पाइपलाइन अंतराल की रिपोर्ट करने के बजाय एक प्रशंसनीय उत्तर का स्थान ले सकती है. customer support , कोडिंग सहायकों, एनालिटिक्स कॉपोलोट्स, या आंतरिक ज्ञान उपकरणों में, वह व्यवहार सादे विफलता से भी बदतर हो सकते हैं क्योंकि यह सत्यापित परिणाम जैसा दिखता है।

लेख की मुख्य चेतावनी यह है कि विश्वसनीयता और विनम्रता हमेशा संरेखित नहीं होते हैं। एक प्रणाली उत्तर के आकार का उत्पादन करने में बहुत भरोसेमंद हो सकती है, जबकि यह जानना अविश्वसनीय होता है कि क्या जवाब मौजूद होना चाहिए।

टीमों को सही उत्तर कुछ भी नहीं होने के साथ कैसे व्यवहार करना चाहिए

टीमों को प्रथम श्रेणी के परिणाम के रूप में निरस्तीकरण का इलाज करने की आवश्यकता है। इसका मतलब यह है कि एक खाली प्रतिक्रिया को बग के तौर पर व्यवहार करने के बजाय, "मैं उपलब्ध जानकारी से जवाब नहीं दे सकता" के लिए स्पष्ट पथ बनाना। पाइपलाइन को फिर से डिज़ाइन किया जा सकता है ताकि मॉडल पहले मूल्यांकन करे कि क्या प्रश्न उत्तर देने योग्य है, तो या तो उत्तर उत्पन्न करता है या नियंत्रित कोई-उत्तर प्रतिक्रिया देता है।

आत्मविश्वास हैंडलिंग भी मायने रखता है। यदि कोई सिस्टम विश्वास स्कोर, थ्रेसहोल्ड या स्व-जांच संकेतों का उपयोग करता है, तो उन सिग्नल को रोकने के निर्णय का समर्थन करना चाहिए। जब तक यह धाराप्रवाह नहीं हो जाता तब तक कम आत्मविश्वास वाले उत्तर को स्वचालित रूप से पुनः प्रयास नहीं किया जाना चाहिए। इसे अनिश्चितता की अनुमति दी जानी चाहिए, स्पष्टीकरण के लिए पूछें, या एक मानव को सौंप दें।

मूल्यांकन को उस डिज़ाइन से मेल खाने की आवश्यकता है। केवल सटीकता ही समस्या को छिपा सकती है। एक पाइपलाइन उत्तर देने योग्य प्रश्नों पर अच्छा स्कोर कर सकती है और अनजाने वाले लोगों पर खराब हो सकती है, लेकिन समग्र मीट्रिक अभी भी स्वस्थ लग सकता है। टीमों को उन मामलों का परीक्षण करना चाहिए जहां सही आउटपुट चुप्पी, इनकार या लापता सबूत के लिए अनुरोध है। उन्हें लॉग इन करना चाहिए जब गार्डरेल जवाब देते हैं, क्योंकि वे निशान दिखाते हैं कि क्या सिस्टम की निश्चितता समर्थित है या निर्मित है।

LLM उत्पाद टीमों के लिए इसका क्या अर्थ है

पाठकों के लिए, व्यावहारिक सबक AI कार्यप्रवाह पर भरोसा करने से पहले एक सवाल पूछना हैः क्या यह प्रणाली कुछ भी वापस नहीं कर सकती है जब कुछ भी सही उत्तर नहीं है? यदि जवाब नहीं है, तो इसकी विश्वसनीयता विशेषताएं झूठा विश्वास पैदा कर सकती हैं। Towards Data Science की पोस्ट एक सामान्य इंजीनियरिंग वृत्ति को अंदर-बाहर करती है। LLM पाइपलाइनों को सुरक्षित और अधिक सुसंगत बनाने के लिए जोड़े गए तंत्र बहुत कारण बन सकते हैं कि वे निश्चित क्यों लगते हैं जबकि उन्हें ऐसा नहीं करना चाहिए।

टीमों के लिए अगला कदम गार्डरेल को हटाना नहीं है। यह वैकल्पिकता को संरक्षित करने वाले गार्डराइल डिजाइन करना है। एक भरोसेमंद पाइपलाइन को पता होना चाहिए कि कब रोकना है, जब अधिक सबूत मांगना है और जब कोई मान्य उत्तर मौजूद नहीं है तो रिपोर्ट करना है. इस तरह की विश्वसनीयता को मापना कठिन है, लेकिन यह कच्चे उत्तर पीढ़ी से ज्यादा मायने रख सकता है।