दिल की धड़कन सोचने से वास्तविक समय के वॉयस एजेंटों को सुनते हुए अनुमानित तर्क करने और उपकरण निष्पादित करने में सक्षम बनाता है।
Heartbeat Thinking वॉयस एजेंटों को आंशिक भाषण के दौरान तर्क और उपकरण कॉल करने देता है, जिससे टूल कवरेज में 16 अंक की वृद्धि होती है और 36.4% तक विलंबता कम हो जाती है।
मुख्य जानकारी
- Heartbeat Thinking ध्वनि एजेंटों को सट्टा तर्क करने और उपकरण भेजने की अनुमति देता है जबकि उपयोगकर्ता अभी भी बोल रहा होता है, निष्क्रिय सुनने का समय कम करता है।
- ट्रांसक्रिप्ट अपडेट होने पर टूल कॉल को फिर से शुरू करने या काटने के बजाय, यह आवधिक थिंकर आह्वानों का उपयोग करता है जो आंशिक प्रतिलेख और पूर्ण तर्क और उपकरण परिणामों के साझा रिकॉर्ड पढ़ते हैं।
- रिपोर्ट किए गए परीक्षणों में, इस पद्धति से FDBench v3 टूल कवरेज में 16 प्रतिशत अंक का सुधार हुआ और SHANKS- शैली की विंडो वाली आधार रेखा के मुकाबले 36.4% तक औसत अंतिम प्रतिक्रिया विलंबता कम हो गई।
- मुख्य डिजाइन बदलाव आंशिक भाषण को एक नमूना इनपुट स्ट्रीम के रूप में व्यवहार करना है जो चल रहे कार्यों को बाधित किए बिना काम का मार्गदर्शन कर सकता है, हालांकि अंतिम कार्य की गुणवत्ता बेंचमार्क और वर्कलोड से भिन्न हो सकती है।
दिल की धड़कन सोचने से आवाज एजेंटों को भाषण के दौरान उपकरण तैयार करने में मदद मिलती है
मेटा विवरण: Heartbeat Thinking वॉयस एजेंटों को भाषण के दौरान टूल कॉल तैयार करने देता है, FDBench v3 कवरेज में 16 अंकों का सुधार करता है और विलंबता में 36.4 प्रतिशत की कटौती करता है।
टैगः आवाज एजेंट, उपकरण का उपयोग, भाषण AI, Heartbeat Thinking, विलंबता
विशेष रुप से प्रदर्शित छवि: अमूर्त, मैत्रीपूर्ण चित्रण शैली ध्वनि तरंगों को दिखाती है जो घड़ी के बगल में एक चेकलिस्ट और जुड़े उपकरण आइकन बनाते हैं, जिसमें कोई वास्तविक व्यक्ति, लोगो या पाठ नहीं होता है।
टूल-उपयोग वाले वॉयस एजेंटों के बिल्डर्स के लिए, मुख्य समस्या न केवल भाषण को समझना है, बल्कि स्पीकर समाप्त होने से पहले उपयोगी काम शुरू करना है। Heartbeat Thinking एक ऐसी विधि है जो अनुमानित तर्क और प्रेषित उपकरणों को चालू रखती है जबकि अपडेट किए गए ट्रांसक्रिप्ट टुकड़े आते हैं। हर बार वाणी इनपुट में बदलाव आने पर कॉल को पुनरारंभ करने या काटने के बजाय, यह नवीनतम आंशिक प्रतिलेख और पूर्ण तर्क और उपकरण परिणामों का साझा रिकॉर्ड पढ़ने के लिए नए थिंकर आह्वान का उपयोग करता है। रिपोर्ट किए गए परीक्षणों में, इस दृष्टिकोण ने FDBench v3 पर 16 प्रतिशत अंक की कवरेज बढ़ाई और SHANKS स्टाइल विंडो बेसलाइन की तुलना में 36.4% तक औसत अंतिम प्रतिक्रिया विलंबता कम कर दी।
क्यों इंतजार अभी भी उपयोगकर्ताओं को खर्च करता है
एक वॉयस एजेंट जो टूल का उपयोग करता है, उपयोगकर्ता बोलना बंद करने से पहले कार्रवाई योग्य जानकारी प्राप्त कर सकता है। अनुमानित विधियां भाषण के दौरान काम शुरू करने की कोशिश करती हैं। लेकिन यदि सिस्टम चंक-बाउंड या ट्रांसक्रिप्ट अपडेट होने पर पीढ़ी को बाधित करता है तो उपकरण कॉल अपने तर्कों के पूरा होने से पहले काट दिया जा सकता है. इससे खराब युग्मन बनता हैः गणना समय भाषण अद्यतनों से जुड़ा होता है, इसलिए कम उपयोगी कार्य अग्रिम में पूरा हो जाता है। उपयोगकर्ता चुप्पी सुनता है, फिर भाषण समाप्त होने के बाद फिर से प्रतीक्षा करता है।
कैसे दिल की धड़कन विचार चल रहे काम से इनपुट अद्यतन अलग करता है
Heartbeat Thinking नए थिंकर आह्वानों के माध्यम से अद्यतन इनपुट को संभालता है। एक ही समय में, चल रहे आव्हानों और भेजे गए टूल को समाप्त करने की अनुमति दी जाती है। आवधिक आवाहन नवीनतम आंशिक प्रतिलेख और पूर्ण तर्क और उपकरण परिणामों का एक साझा रिकॉर्ड पढ़ते हैं। वे रिकॉर्ड लापता तर्कों को हल करने और निर्भर कॉल शुरू करने में मदद कर सकते हैं। प्रभाव यह है कि तैयारी प्रत्येक अपडेट द्वारा खारिज किए जाने के बजाय भाषण अपडेट पर प्रगति कर सकती है।
बेंचमार्क क्या दिखाते हैं
रिपोर्ट किए गए मूल्यांकन SpeechFCEval, FDBench v3 और AudioCRAG को कवर करते हैं। उन बेंचमार्क के पार, हार्टबीट एक समग्र सट्टा उपकरण कवरेज में सुधार करता है या SHANKS-शैली विंडो बेसलाइन पर पुनर्प्राप्ति पुनः उपयोग करता है। परिणाम अंतिम कार्य की गुणवत्ता पर बेंचmark-निर्भर प्रभाव भी दिखाते हैं, इसलिए मुख्य अग्रिम एक कंबल दावा नहीं है कि प्रत्येक कार्य बेहतर हो जाता है। सबसे स्पष्ट लाभ एफडीबेन्च वी 3 पर है, जहां टूल कवरेज 16 प्रतिशत अंक बढ़ता है और अंतिम औसत प्रतिक्रिया विलंब 36.4% से कम होता है।
वॉयस-एजेंट डिजाइन के लिए इसका क्या अर्थ है
उपयोगकर्ताओं के लिए, व्यावहारिक वादा कम मृत समय हैः सुनना उपयोगी तैयारी बन सकता है। डेवलपर्स के लिए डिजाइन शिफ्ट आंशिक भाषण को एक इनपुट स्ट्रीम के रूप में व्यवहार करना है जिसे पहले से चल रहे काम को मारने के बिना नमूना लिया जा सकता है. विधि यह भी बताती है कि तर्क और टूल परिणामों के साझा रिकॉर्ड पिछले अटकलों और बाद के सुधारों के बीच पुल का काम कर सकते हैं। चेतावनी यह है कि अंतिम कार्य की गुणवत्ता अभी भी बेंचमार्क और कार्य प्रकार पर निर्भर करती है, इसलिए टीमों को इसे व्यापक रूप से अपनाने से पहले अपने स्वयं के भाषण, उपकरण-कॉलिंग और पुनर्प्राप्ति वर्कलोड के खिलाफ हार्टबीट शैली शेड्यूलिंग का परीक्षण करना चाहिए।
Comments (0)