व्यापार बेंचमार्क वास्तविक दुनिया के व्यवसायों के लिए लंबी क्षितिज एजेंटों को तैनात करने में छिपी चुनौतियों का खुलासा करता है
BizAgentBench AI एजेंटों को स्टेटफुल पेमेंट्स वर्कफ़्लो में परीक्षण करता है, नियम, प्राधिकरण और समय की विफलताओं का पर्दाफाश करते हुए; केवल 40% कार्य लगातार पास होते हैं।
मुख्य जानकारी
- BizAgentBench केवल चैट-शैली के उत्तरों को मापने की बजाय लंबी क्षितिज, राज्यव्यापी व्यावसायिक कार्यप्रवाह में AI एजेंटों का मूल्यांकन करता है।
- जीपीटी-6 SOL ने 61.3% सख्त सफलता प्राप्त की, लेकिन सभी तीन रन में केवल 40% कार्य सफल हुए, यह दर्शाता है कि स्थिरता एक बड़ी चुनौती है।
- बेंचमार्क तीन प्रमुख विफलता मोड की पहचान करता है: गलत नियम चुनना, वैध प्राधिकरण या राज्य के बिना कार्य करना और समय के कारण व्यवहार्यता खो देना।
- मूल्यांकन लक्ष्य प्राप्ति, प्रक्रिया अनुपालन और निषिद्ध दुष्प्रभावों के लिए निर्धारित जांच का उपयोग करता है, जबकि विभिन्न वैध रणनीतियों की अनुमति देता है।
- यह एंटरप्राइज़ एजेंट टीमों और शोधकर्ताओं के लिए वास्तविक दुनिया की लंबी क्षितिज निष्पादन का आकलन करने के लिए सबसे उपयोगी है, इसलिए लघु कार्य या वार्तालाप-गुणवत्ता तुलनाओं के लिए कम।
मेटा विवरण: बिज़एजेंटबेंच ने AI एजेंटों का दीर्घकालिक भुगतान कार्यप्रवाह पर मूल्यांकन किया; जीपीटी-6 SOL सख्त सफलता प्राप्त करता है, जो नियमों, समय और अनुपालन के मामले को दर्शाता है।
टैगः AI एजेंट, BizAgentBench, GPT-6 SOL, व्यावसायिक कार्यप्रवाह, बेंचमार्क
विशेष रुप से प्रदर्शित छवि: दस्तावेजों, ग्राहक संदेशों और कार्यप्रवाह कार्यों का समन्वय करने वाले एक AI एजेंट के सार मित्रवत चित्रण; कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है
BizAgentBench, एक वैश्विक भुगतान कंपनी में वर्कफ़्लो से निर्मित एक बेंचमार्क, परीक्षण करता है कि क्या AI एजेंट केवल सवालों के जवाब देने के बजाय समय के साथ व्यावसायिक कार्यों को पूरा कर सकते हैं। एंटरप्राइज़ टीमों, एजेंट डेवलपर्स और शोधकर्ताओं के लिए, यह दिखाता है कि सिस्टम कहां विफल होते हैं जब उनके कार्य व्यवसाय की स्थिति बदलते हैं, संसाधनों को प्रतिबद्ध करते हैं और बाद के निर्णयों को आकार देते हैं। रिपोर्ट किए गए परिणाम में, GPT-6 SOL ने 61.3% कठोर सफलता प्राप्त की, और सभी तीन रन में केवल 40% कार्य सफलतापूर्वक पूरे हुए थे।
टेकआउट केवल यह नहीं है कि एक मॉडल ने गलतियाँ कीं। यह है कि व्यावसायिक कार्यप्रवाह तीन अलग-अलग विफलता मोड को उजागर करते हैंः गलत नियम चुनना, वैध प्राधिकरण के बिना काम करना और समय के कारण व्यवहार्यता खो देना।
बेंचमार्क चैट-शैली मूल्यांकन से आगे बढ़ता है
BizAgentBench एजेंटों को एक स्टेटफुल सिमुलेटेड वातावरण के अंदर रखता है, जिसका अर्थ है कि सिस्टम उन स्थितियों का रिकॉर्ड रखता है जो कार्य की प्रगति के रूप में बदल सकती हैं। एक एजेंट पाठ उत्पन्न नहीं करता है; यह ग्राहकों से बात करता है, दस्तावेजों को पुनर्प्राप्त करता है और उपकरणों का उपयोग करता है। वर्कफ़्लो लंबी क्षितिज है, इसलिए प्रारंभिक विकल्प बाद के परिणामों को प्रभावित करते हैं, और किसी कार्य को प्रक्रिया के साथ-साथ अंतिम परिणाम द्वारा भी आंका जा सकता है।
यह बेंचमार्क एक वैश्विक भुगतान कंपनी के कार्यप्रवाहों पर आधारित है। इसे तीन अंतर्दृष्टि के आसपास डिज़ाइन किया गया है कि व्यवसाय का काम वास्तव में कैसे व्यवहार करता हैः नियम घटना पर निर्भर करते हैं, अनुपालन निष्पादन के क्षण पर निर्भर करता है और देरी व्यावहारिकता को नष्ट कर सकती है। जो पाठकों के लिए उपयोगी बनाता है जिन्हें सतह से अधिक एजेंट प्रणालियों की तुलना करने की आवश्यकता होती है।
नियम बिखरे हुए हैं, और सही एक घटना पर निर्भर करता है
AI मूल्यांकन में एक सामान्य धारणा यह है कि नवीनतम निर्देश को देखकर सही उत्तर पाया जा सकता है। BizAgentBench उस तस्वीर को जटिल करता है. व्यावसायिक मार्गदर्शन मैनुअल, FAQs और परिचालन नोटिसों पर फैलाया जा सकता हैः पुराने और वर्तमान निर्देश सह-अस्तित्व में हो सकते हैं, और एक स्पष्ट विरोधाभास बिल्कुल भी त्रुटि नहीं हो सकती है। यह उत्पाद, क्षेत्र या प्रभावी अवधि में अंतर को प्रतिबिंबित कर सकता है
बीमा उदाहरण समस्या को दर्शाता है। एक पॉलिसी जो समाप्त हो गई है, वह अभी भी उस घटना पर लागू हो सकती है जो कवरेज सक्रिय होने के दौरान हुई थी। एजेंट को यह पहचानना होगा कि कौन सा स्रोत आधिकारिक है और कौन सी नियम विशिष्ट घटना को नियंत्रित करता है जिसे वह संभाल रहा है। गैर-विशेषज्ञ के लिए, व्यावहारिक संदेश यह है कि एजेंटों को समय और स्रोत संदर्भ को तथ्य के हिस्से के रूप में इलाज करने की आवश्यकता है, न कि मेटाडेटा को अनदेखा करने के लिए।
अनुमोदन और स्थिति कार्रवाई के समय वैध होना चाहिए
दूसरी अंतर्दृष्टि अनुपालन से अनुमति को अलग करती है। एक ग्राहक की सामान्य सहमति हर ऑपरेशन के लिए अधिकृत नहीं होती है। स्वीकृति विशिष्ट कार्रवाई और इसकी शर्तों को कवर करना चाहिए, आवश्यक प्राधिकरण वाले किसी व्यक्ति से आना चाहिए, और निष्पादन से पहले होना चाहिए। बेंचमार्क टूल-आधारित प्रणालियों में एक जाल पर भी प्रकाश डालता हैः एक उपकरण उस ऑपरेशन को स्वीकार कर सकता है जो आरक्षित आवश्यकता का उल्लंघन करता है या आवश्यक कवरेज को बाधित करता है।
यह महत्वपूर्ण है क्योंकि व्यावसायिक प्रतिबंधों का उल्लंघन इस तरह से किया जा सकता है कि इसे पूर्ववत करना मुश्किल हो। बाद में संतुलन बहाल करने से पहले के उल्लंघन को मिटाया नहीं जाता है। एजेंट को पूरे वर्कफ़्लो के दौरान महत्वपूर्ण बाधाओं को वैध रखना चाहिए, न कि केवल तथ्य के बाद अंतिम स्थिति को ठीक करना। संगठनों के लिए, यही कारण है कि एक उपकरण इंटरफ़ेस जो अनुमेय प्रतीत होता है वह अभी भी कार्यप्रवाह में असुरक्षित हो सकता है।
प्रतीक्षा करने से एक सुलझाने योग्य कार्य असंभव बन सकता है
तीसरी अंतर्दृष्टि समय का दबाव जोड़ती है। समीक्षा, धनवापसी या निपटान केवल एक और दायित्व की समय सीमा तक पहुंचने के बाद समाप्त हो सकते हैं। एक परिदृश्य में, गोदाम पुष्टि आने से पहले प्राथमिकता वितरण बुकिंग खिड़की बंद हो सकती है। यदि एजेंट पुष्टिकरण की प्रतीक्षा करता है, तो समय पर डिलीवरी असंभव हो जाती है।
यह कार्य एक समन्वय समस्या बनाता है। एजेंट को साझा संसाधनों और मौजूदा प्रतिबद्धताओं के लिए लेखांकन करते हुए जानकारी इकट्ठा करनी चाहिए और कार्रवाई करनी चाहिए। एक कदम के लिए उचित निर्णय धन या समय की आवश्यकता हो सकती है। इसलिए बेंचमार्क JUST शुद्धता का मूल्यांकन नहीं करता है, लेकिन क्या एजेंट अनुक्रमण और अवसर लागत का प्रबंधन कर सकता है। यह भी दिखाता है कि जब कई दायित्व समान प्रतिबद्धताओं पर प्रतिस्पर्धा करते हैं तो अनुक्रमण और संसाधन उपयोग क्यों मायने रखता है।
लक्ष्य, प्रक्रिया और दुष्प्रभावों द्वारा सफलता की जाँच की जाती है
BizAgentBench इन अंतर्दृष्टि को निर्धारात्मक जांच में बदल देता है, जिसका अर्थ है कि मूल्यांकन व्यक्तिपरक निर्णय के बजाय निश्चित नियमों को लागू करता है। यह विभिन्न वैध रणनीतियों की अनुमति देते हुए लक्ष्य प्राप्ति, प्रक्रिया अनुपालन और निषिद्ध दुष्प्रभावों को मापता है। वह डिजाइन पाठकों के लिए महत्वपूर्ण हैः दो एजेंट अलग-अलग रास्ते ले सकते हैं, लेकिन दोनों को एक ही व्यावसायिक बाधाओं को पूरा करना चाहिए।
रिपोर्ट किए गए प्रदर्शन से पता चलता है कि मूल्यांकन मॉडल को अभी भी उस प्रकार के निष्पादन में कठिनाई है। जीपीटी -6 SOL ने 61.3% सख्त सफलता हासिल की, और सभी तीन रन में केवल 40% कार्यों को सफलतापूर्वक पूरा किया गया था। डेवलपर्स के लिए, सभी-तीन रन का आंकड़ा बताता है कि एक ही भाग्यशाली समापन की तुलना में स्थिरता कठिन लक्ष्य है। बेंचमार्क व्यवसाय निष्पादन की मांगों के करीब मूल्यांकन को धक्का देता हैः सही नियमों की पहचान करना, सही समय पर कार्य करना और पूरे वैध निष्पादन को बनाए रखना।
किसको इसका उपयोग करना चाहिए/कौन इसे छोड़ना चाहिए
एंटरप्राइज़ एजेंट टीमों और शोधकर्ताओं को दीर्घकालिक व्यावसायिक निष्पादन का मूल्यांकन करने के लिए BizAgentBench पर विशेष ध्यान देना चाहिए, क्योंकि यह नियम चयन, प्राधिकरण, समय और साइड इफेक्ट्स एक साथ परीक्षण करता है। केवल वार्तालाप गुणवत्ता या लघु कार्य पूरा होने की तुलना करने वाले पाठक इसे कम उपयोगी पा सकते हैं, क्योंकि बेंचमार्क वर्कफ़्लो के आसपास बनाया गया है जहां क्रियाएं राज्य बदलती हैं और सही अंतिम उत्तर अभी भी विफल हो सकता है यदि प्रक्रिया अमान्य थी।

Comments (0)