क्या LLMs अनुक्रमिक संरचना को समझ सकते हैं? तर्क और पीढ़ी पर एक नियंत्रित प्रयोग
एक अध्ययन LLM अनुक्रमिक व्यवहार का परीक्षण करता है, मॉडल ढूंढना रणनीतियों को पहचान सकता है फिर भी उन्हें ईमानदारी से उत्पन्न करने में विफल रहता है, इसलिए मूल्यांकन दोनों की जांच करनी चाहिए।
मुख्य जानकारी
- एक नया arXiv अध्ययन परीक्षण करता है कि क्या LLMs वास्तव में अनुक्रमिक व्यवहार को समझता है या केवल रणनीतिक पहचान, मार्कोव नियम का पालन करने और उच्च-ऑर्डर निर्भरताओं से जुड़े नियंत्रित कार्यों के माध्यम से सतह पैटर्न को पुनः उत्पन्न करता है।
- LLMs एक रणनीति को पहचान या नामित कर सकता है, जो कि विश्वसनीय रूप से अनुक्रम उत्पन्न करने के बिना इसे अनुसरण करता है, समझ और वफादार सिमुलेशन के बीच अंतर का खुलासा करते हुए।
- लंबे समय तक संदर्भ स्वचालित रूप से अनुक्रमिक तर्क में सुधार नहीं करता है; अतिरिक्त इतिहास अप्रासंगिक विवरण पेश कर सकता है, मूल नियम से विचलित हो सकता है या प्रशंसनीय लेकिन गलत पैटर्न बना सकता है।
- मिलान क्रिया वितरण भ्रामक हो सकता है क्योंकि समान आउटपुट आवृत्तियां मौलिक रूप से गलत जनरेटिव तंत्र को छिपा सकती हैं।
- मूल्यांकनों को समय के साथ प्रक्रिया का परीक्षण करना चाहिए, विशेष रूप से कैसे मॉडल बदलती परिस्थितियों में अगली कार्रवाई उत्पन्न करते हैं, न कि केवल तथ्य के बाद वर्गीकरण या स्पष्टीकरण की जांच करने के बजाय।
मेटा विवरण: एक नया arXiv अध्ययन परीक्षण करता है कि क्या large language models अनुक्रमिक व्यवहार को समझते हैं, यह पाते हुए कि वे उन्हें ईमानदारी से नकल किए बिना रणनीतियों को पहचान सकते हैं।
टैग्सः # LLMs , (अंग्रेज़ी में अनुवादित)#SequentialBehavior, ं ी . ् े. , ी। । . . .#ModelEvaluation, ं ी . ् े. , ी। । . . .#AIResearch, ं ी . ् े. , ी। । . . .#InteractiveAgents
[अनुक्रमिक नोड्स, तीरों और एक तंत्रिका चिप का अमूर्त मैत्रीपूर्ण चित्रण, कोई लोग, लोगो या पाठ नहीं] viewBox='0 0 800 450'%3E%3Crect width='800' height='450' fill='%23f8f9fb'/% 3E% 3Ccircle cx='120' cy='225' r='45' fill = '% 237ec8ff'/ % 3E3% CX='280.r='35' fill="%23a5e6c0"/% E3Circle cx ='204='250' r'40'='2327e3d xmlns='http://www.w3.org/2000/svg' viewbox='00 0 800 45'% 3 E% 3 Crect चौड़ाई=' 800' ऊंचाई='400' भरने='500' भराव='150' भरना='350' भरनी='5080' पूरा करने के='155% L'190' चक्र की लंबाई='305' X'205' भरन='70' 80'
एक नया arXiv पेपर पूछता है कि क्या large language models वास्तव में अनुक्रमिक व्यवहार को समझते हैं या केवल सतह-स्तर के पैटर्न को पुनः उत्पन्न करते हैं। यह रणनीति की पहचान, मार्कोव नियम का पालन करने और उच्चतर क्रमबद्ध निर्भरताओं पर नियंत्रित प्रयोगों की रिपोर्ट करता है, और एक रणनीति को पहचानने और इसे ईमानदारी से सिमुलेट करने के बीच एक अंतर पाता है। कागज सुझाव देता है कि सामान्य मूल्यांकन विधियां इस अंतराल को याद कर सकती हैं, खासकर जब कोई मॉडल आउटपुट आँकड़े पैदा कर सकता है जो सही लग रहे हों।
अध्ययन में क्या परीक्षण किया गया
यह कागज उस व्यवहार पर केंद्रित है जो समय के साथ सामने आता है, न कि JUST एक एकल उत्तर। इसका महत्व इसलिए है क्योंकि large language models के कई व्यावहारिक उपयोगों में अनुक्रम शामिल होते हैंः चैट टर्न, गेम मूव्स, सिमुलेटेड ग्राहक, robot एक्शन या मल्टी-स्टेप वर्कफ़्लो। एक मॉडल विश्वसनीय रूप से उन रणनीतियों का पालन करने वाले कार्यों को उत्पन्न किए बिना रणनीति का नाम जान सकता है।
तीन कार्य जांच को लंगर बनाते हैं। रणनीति की पहचान पूछती है कि क्या एक मॉडल अनुक्रम के पीछे पैटर्न को पहचान या नाम दे सकता है। मार्कोव नियम निम्नलिखित परीक्षणों का एक सरल विचार हैः क्या अगली कार्रवाई लंबे समय तक इतिहास के बजाय वर्तमान स्थिति द्वारा शासित हो सकती है। उच्चतर क्रमबद्ध निर्भरताएं कठिनाई बढ़ाती हैं क्योंकि यह तय करने के लिए एक मॉडल को कई पहले चरणों का उपयोग करने की आवश्यकता होती है कि आगे क्या आता है।
यह सेटअप उपयोगी है क्योंकि यह दो चीजों को अलग करता है जिन्हें भ्रमित करना आसान होता है। एक मॉडल एक सतही परीक्षण पर अच्छी तरह से स्कोर कर सकता है, जैसे कि पैटर्न का नामकरण करना, और फिर भी गहरे टेस्ट में विफल हो जाता है, उदाहरण के लिए किसी अनुक्रम को उस तरीके से जारी रखना जो पैटर्न के बाद आता है। अध्ययन का निष्कर्ष यह नहीं है कि large language models कभी अनुक्रमों को समझते हैं। यह है कि "समझ" को इस तरह से मापा जाना चाहिए जो पहचान और पीढ़ी दोनों की जांच करे।
क्यों अधिक संदर्भ पर्याप्त नहीं हो सकता है
एक सहज समाधान मॉडल को अधिक इतिहास देना है। यदि कोई कार्य अनुक्रमिक व्यवहार पर निर्भर करता है, तो एक बड़ा context window पैटर्न को देखना आसान बना देगा। कागज से पता चलता है कि यह जरूरी नहीं कि सच हो। लंबे समय तक संदर्भ स्वचालित रूप से बेहतर क्रमिक तर्क का उत्पादन नहीं करते हैं।
ऐसा होने के कई कारण हो सकते हैं। अधिक इतिहास अप्रासंगिक विवरण जोड़ सकता है, महत्वपूर्ण नियम से ध्यान हटा सकता है या ऐसे पैटर्न बना सकता है जो प्रशंसनीय दिखते हैं लेकिन सही प्रक्रिया द्वारा उत्पन्न नहीं होते हैं। दूसरे शब्दों में, एक मॉडल में अधिक जानकारी उपलब्ध हो सकती है और फिर भी इसका खराब उपयोग किया जा सकता है।
अध्ययन में मिलान कार्रवाई वितरण पर भरोसा करने के खिलाफ भी चेतावनी दी गई है। एक क्रिया वितरण वर्णन करता है कि विभिन्न स्थितियों में मॉडल कितनी बार अलग-अलग चालें चुनता है। यदि दो प्रणालियाँ कई नमूनों पर समान विकल्प उत्पन्न करती हैं, तो वे समकक्ष दिख सकती हैं। लेकिन इसी तरह की आउटपुट आवृत्तियां मौलिक रूप से गलत जनरेटिव तंत्र को छिपा सकती हैं. एक मॉडल उस नियम का पालन किए बिना अनुक्रम की सतह लय की नकल कर सकता है जो इसे बनाएगा।
निर्माताओं और उपयोगकर्ताओं के लिए इसका क्या अर्थ है
large language models को एजेंट या सिमुलेटर के रूप में उपयोग करने वाले लोगों के लिए, व्यावहारिक सबक प्रक्रिया का परीक्षण करना है, न कि JUST उपस्थिति। एक chatbot कह सकता है कि यह एक नीति का पालन कर रहा है, और एक अनुकरण खिलाड़ी सही रणनीति से मिलते जुलते कदमों का उत्पादन कर सकता है। यदि मॉडल परिस्थितियों में परिवर्तन होने पर लगातार क्रम जारी नहीं रख सकता है तो यह पर्याप्त नहीं है।
यह विशेष रूप से इंटरएक्टिव एजेंटों के लिए प्रासंगिक है, जहां मॉडल को तय करना होगा कि पहले की घटनाओं के आधार पर आगे क्या करना है। यदि कोई मॉडल केवल प्रशिक्षण पाठ से पैटर्न पुनः उत्पन्न करता है, तो यह विफल हो सकता है जब एक अनुक्रम में एक नियम की आवश्यकता होती है जिसे वह नाम दे सकता है लेकिन लागू नहीं होता है। उत्पाद टीमों के लिये इसका मतलब है मूल्यांकन में ऐसे कार्य शामिल होने चाहिए जो मॉडल को समय के साथ व्यवहार उत्पन्न करने के लिए कहें, न कि केवल तथ्य के बाद व्यवहार को वर्गीकृत या समझाएं।
निष्कर्ष यह भी प्रभावित करते हैं कि पाठकों को AI दावों की व्याख्या कैसे करनी चाहिए। एक मॉडल जो रणनीति का वर्णन कर सकता है वह स्वचालित रूप से एक ऐसा मॉडल नहीं है जो उस रणनीति के अंदर रह सकता है। जब कोई उत्पाद कहता है कि उसका एजेंट ग्राहक यात्राओं, खेल नियमों या उपयोगकर्ता व्यवहार को समझता है, तो एक उपयोगी सवाल यह है कि क्या मूल्यांकन ने सिमुलेटेड कार्यों के साथ मान्यता प्राप्त रणनीतियों की तुलना की है, और क्या इसने केवल अल्पकालिक पैटर्न के बजाय उच्च-क्रम निर्भरताओं की जांच की है।
आगे क्या देखना है
यह सभी large language models के लिए एक एकल स्कोर प्रदान नहीं करता है, क्योंकि नियंत्रित प्रयोग विभिन्न प्रकार के अनुक्रमिक व्यवहार को लक्षित करते हैं। व्यापक संकेत मूल्यांकन डिजाइन के लिए हैः शोधकर्ताओं और बिल्डरों को ऐसे परीक्षण की आवश्यकता होती है जो उजागर करें कि क्या कोई मॉडल नियम का पालन कर रहा है या केवल नियम-जैसे व्यवहार के सांख्यिकीय आकार से मेल खाता है।
गैर-विशेषज्ञों के लिए, टेकअवे सरल है। अनुक्रमिक कार्य पूछते हैं कि क्या एक मॉडल प्रक्रिया को सुसंगत तरीके से आगे बढ़ा सकता है। अध्ययन में कहा गया है कि large language models सतह परीक्षण पास कर सकते हैं जबकि गहरे व्यक्ति विफल हो जाते हैं। जैसे-जैसे एजेंट अधिक सामान्य होते जा रहे हैं, महत्वपूर्ण सवाल यह नहीं है कि वे क्या कह सकते हैं, बल्कि वे आगे क्या कर सकते हैंः

Comments (0)