Amazon बेड्रॉक एजेंटकोर का उपयोग करके शिपस्टेशन ग्लोबल ने AI सूचना प्रौद्योगिकी सहायता डेस्क कैसे बनाया

मेटा विवरणः ShipStation Global ने डेकहैंड का निर्माण किया, जो Amazon Bedrock AgentCore पर एक एआई-संचालित Slack IT हेल्प डेस्क एजेंट है, जो चैनल प्रश्नों के 97.5 प्रतिशत को हल करता है।

टैगः डेकहैंड, अमेज़ॅन बेड्रॉक एजेंटकोर, आईटी हेल्प डेस्क, स्लैक, AI एजेंट

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक स्लैक संदेश के संगठित आईटी टिकट बनने का अमूर्त मैत्रीपूर्ण चित्रण, जिसमें कोई वास्तविक व्यक्ति, लोगो या पाठ नहीं है।

ShipStation Global ने Amazon Bedrock AgentCore पर स्लैक के लिए एक एआई-संचालित आईटी हेल्प डेस्क एजेंट डिकहैंड का निर्माण किया, ताकि रूटीन सपोर्ट लोड को कम किया जा सके। एजेंट क्यूरेटेड नॉलेज बेस से आम आईटी और कंपनी प्रश्नों का जवाब देता है, त्रुटि संदेश स्क्रीनशॉट पढ़ता है, और Jira Service Management टिकट बनाता या अपडेट करता है। ShipStation Global Engineering टीम ने बताया कि Deckhand ने आने वाले चैनल क्वेरीज का 97.5 प्रतिशत हल किया और कर्मचारियों द्वारा चैनल कवरेज और प्रतिक्रिया के तीन महीने के दृश्य में 96 प्रतिशत सकारात्मक फीडबैक रेटिंग अर्जित की। सामग्री Kenneth Salmon, Edward Boswell, Jack Armstrong, Robert Bahn, और Nick Ciubotariu से ShipStation Global के साथ सह-लिखित थी।

आईटी समर्थन समस्या डेकहैंड हल करने के लिए बनाया गया था

ShipStation Global खुद को छोटे और मध्यम आकार के शिपर्स के लिए एक अग्रणी बुद्धिमान शिपिंग और लॉजिस्टिक्स प्लेटफॉर्म के रूप में वर्णित करता है। कंपनी का आंतरिक तर्क सरल हैः जब समर्थन टीमें समान उत्तरों को दोहराने में कम समय बिताती हैं, तो वे ग्राहक अनुभव में सुधार करने में अधिक समय व्यतीत कर सकते हैं। डेकहैंड उस विचार की व्यावहारिक अभिव्यक्ति है।

डेकहैंड से पहले, आईटी समर्थन एक व्यस्त हेल्प डेस्क स्लैक चैनल में रहता था। कर्मचारियों ने प्रश्न पूछे और आईटी स्टाफ ने उन्हें एक समय में एक धागा जवाब दिया। जानकारी अक्सर कहीं और मौजूद थी: एक कॉन्फ़्लुएंस कैसे-टू लेख, इंट्रानेट पेज, पीडीएफ गाइड, आई टी द्वारा बनाए गए दस्तावेज़ या पुराने स्लैक थ्रेड। कठिन हिस्सा इसे ढूंढ रहा था।

चैनल डेटा ने दबाव को दिखाई दिया। लॉन्च से पहले 12 महीनों में, कर्मचारियों ने 1,500 से अधिक धागे पोस्ट किए और मात्रा बढ़ती रही। US, UK, स्पेन, पोलैंड, ऑस्ट्रेलिया और फिलीपींस के कर्मचारियों के साथ, प्रश्नों का पांचवां हिस्सा US व्यावसायिक घंटों के बाहर आया था। दोहराए जाने वाले प्रश्न समय की खपत करते हैं जो संरचित स्वयं-सेवा चरण संभाल सकते थे।

Chris Collins, Senior Director IT at ShipStation Global, ने कहा कि टीम एक टिकट फॉर्म को डिक्रिप्ट करने या गायब होने वाले ईमेल भेजने के बजाय स्लैक में सवाल पूछने जितना सरल महसूस करना चाहती थी। उस दृष्टिकोण से, टिकट परिचालन घर्षण का संकेत हैं, उत्पादकता नहीं। डेकहैंड जगह पर सामान्य प्रश्नों को हल करता है और जब यह जवाब नहीं दे सकता है, तो बातचीत को एक क्लिक के साथ पूरी तरह से संदर्भित टिकट में परिवर्तित कर देता है।

स्लैक के अंदर डेकहैंड कैसे काम करता है

डेकहैंड स्लैक में एक टीम के साथी की तरह व्यवहार करता है. यह चैनलों से जुड़ता है, वार्तालापों को पढ़ता है और कर्मचारियों द्वारा पहले से ही पूछे जाने वाले आईटी सवालों का जवाब देने के लिए स्लैक प्रोफ़ाइल संदर्भ का उपयोग करता है।

सिस्टम Amazon Bedrock AgentCore पर बनाया गया है, जो विभिन्न फ्रेमवर्क या मॉडलों के साथ एजेंटों को बनाने, कनेक्ट करने और अनुकूलित करने का एक मंच है। एजेन्टकोर रनटाइम अलग-अलग सत्रों में एजेंट की मेजबानी करता है, इसलिए शिपस्टेशन को हेल्प डेस्क वर्कफ़्लो के लिए अपने स्वयं के सर्वर या कंटेनर प्रबंधित करने की आवश्यकता नहीं होती है।

वास्तुकला के चार मुख्य भाग हैं।

सबसे पहले, एक स्लैक सेवा घटनाओं को प्राप्त करती है। यह एक फास्टएपीआई और Slack Bolt एप्लिकेशन है जो AWS App Runner पर होस्ट किया गया है. यह तय करता है कि बॉट को प्रतिक्रिया देनी चाहिए या नहीं और अनुरोधकर्ता के स्लॉक प्रोफाइल से उपयोगकर्ता-संदर्भ पेलोड का निर्माण करना चाहिए, जिसमें नाम, ईमेल, समय क्षेत्र और प्रबंधक शामिल हैं।

दूसरा, एक एजेंट सेवा वार्तालाप को संभालती है। यह Amazon Bedrock AgentCore रनटाइम पर कंटेनर के रूप में तैनात किया गया एक स्ट्रैंड्स एजेंट है। एजेंट Amazon Bedrock में एंथ्रोपीक क्लाउड का उपयोग मल्टी-टर्न टूल लूप प्रबंधित करने के लिए करता हैः यह जानकारी की खोज करता है, उपकरण कहता है, परिणामों की व्याख्या करता है और फिर या तो जवाब देता है या स्पष्टीकरण मांगता है।

तीसरा, उपकरण और ज्ञान एजेंट से अलग हैं। एक एकल AWS Lambda फ़ंक्शन को AgentCore Gateway के माध्यम से Model Context Protocol, या एमसीपी, टूल के रूप में उजागर किया गया है। ये उपकरण अनुरोधों का वर्गीकरण करते हैं, Jira Service Management टिकट बनाते और अपडेट करते हैं और छवियों का विश्लेषण करते हैं। Amazon Bedrock नॉलेज बेस कॉन्फ्लुएंस, कंपनी इंट्रानेट, स्लैक और मार्केटिंग पेजों की सामग्री को इंडेक्स करता है, जो अनुक्रमित सामग्री को Amazon Simple Storage Service या Amazon S3 में संग्रहीत करता है।

चौथा, संचालन अवलोकन योग्य हैं. अमेज़ॅन डायनामोडीबी फीडबैक संग्रहीत करता है, AWS एक्स-रे ओपनटेलीमेट्री का उपयोग करके अनुरोध पथों को ट्रेस करता है और सेवाएं Amazon CloudWatch पर लॉग भेजती हैं।

जब कोई कर्मचारी एक चैनल में पोस्ट करता है जहां डेकहैंड सदस्य होता है, तो स्लैक सेवा पूर्ण थ्रेड इतिहास और उपयोगकर्ता संदर्भ को इकट्ठा करती है, फिर एजेंट कोर रनटाइम API के माध्यम से एजेंट का आह्वान करती है। एजेंट ज्ञान आधार की खोज करता है और आवश्यकतानुसार उपकरणों को बुलाता है। यदि इसे उत्तर मिलता है, यह स्व-सेवा चरणों को वापस कर देता है। अगर यह आत्मविश्वास से जवाब नहीं दे सकता है, वह स्पष्टीकरण प्रश्न पूछता है या टिकट बनाने की पेशकश करता है।

स्ट्रैंड्स और एजेंटकोर के साथ अभिकर्ता का निर्माण

एजेंट जानबूझकर हल्का होता है। ओपन सोर्स Strands Agents SDK का उपयोग करते हुए, एक एजेंट में एक मॉडल, टूल के सेट और सिस्टम प्रॉम्प्ट होते हैं। एसडीके तर्क लूप को प्रबंधित करता है, जिससे मॉडल उपकरण चुनता है, परिणामों की प्रक्रिया करता है और जब तक यह उत्तर नहीं देता तब तक पुनरावृत्ति करता है।

Deckhands एजेंट सेवा को पायथन की कुछ पंक्तियों में लागू किया गया है। मॉडल अधिकतम 2048 टोकन और 0.3 के तापमान के साथ कॉन्फ़िगर किया जाता है। मॉडेल आईडी एक पर्यावरण चर के माध्यम से सेट होती है, जो टीम को एप्लिकेशन कोड बदलने के बिना मॉडल स्विच करने की अनुमति देती है।

उपकरण दो तरीकों से जुड़े हुए हैं। Amazon Bedrock Knowledge Bases पुनर्प्राप्ति एक देशी स्ट्रैंड्स टूल है जो एकल आयात के साथ ज्ञान आधार खोज का समर्थन करता है। अन्य कार्य, जिसमें वर्गीकरण, टिकट प्रबंधन, उपयोगकर्ता रिज़ॉल्यूशन और छवि विश्लेषण शामिल हैं, AgentCore Gateway पर पंजीकृत लैम्ब्डा फ़ंक्शन में चलते हैं। गेटवे उन्हें एमसीपी टूल्स के रूप में उजागर करता है, और लैम्बडा प्रत्येक कॉल को टूल नाम द्वारा मार्ग देता है। यह अलगाव टीम को स्वतंत्र रूप से टूल लॉजिक अपडेट करने और एजेंट के पुनर्निर्माण के बिना नए टूल जोड़ने की अनुमति देता है.

स्लैक सेवा प्रत्येक संदेश के लिए एजेंट को सिंक्रोनस रूप से कॉल करती है, थ्रेड ट्रांसक्रिप्ट और उपयोगकर्ता संदर्भ पास करती है। क्योंकि कर्मचारी की प्रोफ़ाइल का संदर्भ हर अनुरोध के साथ शामिल होता है, जब टिकट की आवश्यकता होती है तो एजेंट स्वचालित रूप से टिकट विवरण पूरा कर सकता है।

पैटर्न को पुनः पेश करने के लिए, शिपस्टेशन ने कई पूर्व शर्तों की सूची दी हैः Amazon Bedrock, एजेंटकोर रनटाइम और AgentCore Gateway तक पहुंच वाला एक AWS खाता; इवेंट सब्सक्रिप्शन के साथ एक स्लैक ऐप, एक हस्ताक्षर रहस्य, और उपयोग मामले में एक बॉट टोकन; कंटेनर इमेज रजिस्ट्री जैसे कि Amazon Elastic Container Registry या Amazon ECR; एक Amazon S3 बाल्टी और एक 8 9 007 ज्ञान आधार; AWS Identity और Access Management या आईएएम, भूमिकाएं प्रत्येक चलाने का समय और उपकरण; और तीसरे पक्ष के क्रेडेंशियल के लिए AWS Secrets Manager प्रविष्टियां।

Mining Slack ज्ञान के आधार को जहर दिए बिना इतिहास

सबसे मूल्यवान ज्ञान स्रोत हल किए गए समर्थन धागे का संग्रह था। डेकहैंड के अस्तित्व से पहले, स्लैक वह जगह थी जहां समस्याओं को हल किया गया था: कर्मचारियों ने मुद्दों की व्याख्या की, और आईटी उन्हें फिक्स के माध्यम से चलाया। यह इतिहास एक कार्बनिक ज्ञान आधार है, जिन लोगों की समस्याएं वास्तव में ठीक हो गई थीं उनके द्वारा मान्य।

यह शोर भी है. एक कच्चे निर्यात में आकस्मिक वार्तालाप, स्वचालित अलर्ट और धागे हो सकते हैं जो कभी वास्तविक संकल्प तक नहीं पहुंचे। यदि अप्रमाणित फिक्स या भ्रमित सारांश ज्ञान आधार में प्रवेश करते हैं, तो एजेंट सही के समान आत्मविश्वास के साथ गलत उत्तर को सामने ला सकता है।

खनन प्रक्रिया तीन-चरण पाइपलाइन का उपयोग करती है।

सबसे पहले, एक स्क्रिप्ट Slack API के माध्यम से चैनल का पूरा इतिहास निर्यात करती है। यह प्रत्येक धागे के लिए पूर्ण उत्तरों को पुनर्प्राप्त करता है और एक संरचित डंप लिखता है जिसमें थ्रेड मार्कर, टाइमस्टैम्प और प्रतिक्रिया गणना शामिल होती है।

दूसरा, Amazon Bedrock पर क्लाउड चलाने वाला DSPy 89s Recursive Language Model या RLM, निर्यात को एक एकल संकेत के बजाय सैंडबॉक्स्ड पायथन रीड-एवल-प्रिंट लूप या आरईपीएल के अंदर नेविगेट करने योग्य मेमोरी स्पेस के रूप में मानता है। यह डेटा के माध्यम से पुनरावर्ती रूप से काम करता है, प्रत्येक थ्रेड को हल किए गए, अनसुलझे या बढ़े हुए और घोषणाओं और गैर-प्रश्नों को फ़िल्टर करते हुए वर्गीकृत करता है। मानदंड कड़े हैंः एक धागा केवल तभी हल किया जाता है जब पूर्ण, कार्यशील फिक्स खुद धागे में दिखाई देता है।

तीसरा, प्रत्येक हल किए गए धागे के लिए, आरएलएम संरचित क्षेत्रों को निकालने के लिए पुनरावर्ती उप-बड़ी भाषा मॉडल कॉल ऑर्केस्ट्रेट करता है। प्रत्येक फ़ील्ड एक पायडान्टिक मॉडल के खिलाफ मान्य होता है। फील्ड में समस्या सारांश, मूल प्रश्न, संकल्प शामिल होते हैं, चाहे फिक्स स्व-सेवा हो या टिकट की आवश्यकता हो, स्वयं सेवा चरणों, आवेदन और सिस्टम शामिल हों, त्रुटि संदेश और टैग। यदि कोई सब-एलएलएम कॉल कुछ ऐसा लौटाता है जो स्कीमा सत्यापन में विफल रहता है, तो RLMs कोड-आधारित लूप दुभाषिया में सत्यापन त्रुटि पकड़ लेता है और पुनः प्रयास करता है. परिणाम मुद्दे द्वारा आयोजित मार्कडाउन दस्तावेज़ के रूप में लिखे जाते हैं, फिर ज्ञान आधार को अनुक्रमित करने के लिए Amazon S3 पर अपलोड किया जाता है।

टीम ने आरएलएम चुना क्योंकि यह पूरे स्लैक इतिहास को एक स्थायी सैंडबॉक्स चर स्थान में रखता है, जिससे निर्यात और सुसंगत आउटपुट संरचना पर पुनरावर्ती तर्क की अनुमति मिलती है। नतीजतन, जब कोई कर्मचारी किसी सहकर्मी द्वारा पहले हल की गई समस्या का सामना करता है, तो डेकहैंड सिद्ध समाधान प्रदान कर सकता है, अक्सर कार्रवाई योग्य, क्रमांकित चरणों के रूप में।

जब एजेंट को चुप रहना चाहिए

साझा चैनल में एक बॉट तकनीकी रूप से विफल होने से पहले सामाजिक रूप से असफल हो सकता है। डेकहैंड का सबसे परिष्कृत तर्क न केवल यह है कि वह कैसे जवाब देता है, बल्कि जब वह नहीं चुनता है।

प्रत्येक संदेश के लिए, एजेंट का पहला निर्णय यह है कि पोस्ट एक घोषणा, सामाजिक संदेश या लोगों के बीच बातचीत है। यदि ऐसा है, तो यह SKIP आउटपुट करता है, और स्लैक सेवा प्रतिक्रिया को दबा देती है। धागे में, यह केवल मूल पोस्टर को जवाब देता है। अगर अंतिम उत्तर किसी अन्य मानव सहायक से आया था, तो वह चुप रहता है क्योंकि किसी व्यक्ति ने इसे संभाला है।

प्रत्येक उत्तर में फीडबैक बटन शामिल होते हैं। एक अंगूठा-अप सीधे रिकॉर्ड किया जाता है। थंबस-डाउन एक संक्षिप्त फ़ील्ड को यह पूछने के लिए प्रेरित करता है कि क्या गलत हुआ। मूल प्रश्न और बॉट की प्रतिक्रिया के साथ रेटिंग्स डायनामोडीबी में संग्रहीत होती हैं। नकारात्मक प्रतिक्रिया सिस्टम प्रॉम्प्ट में सुधार करने के लिए उपयोग किए जाने वाले मूल्यवान डेटासेट बन जाती है।

आईटी टीमों और कर्मचारियों के लिए परिणाम का क्या अर्थ है

डेकहैंड दिखाता है कि कैसे एक AI एजेंट मानव निर्णय को प्रतिस्थापित किए बिना नियमित समर्थन घर्षण को कम कर सकता है। कर्मचारियों के लिए, लाभ तात्कालिकता हैः आम सवालों का जवाब स्लैक में दिया जा सकता है, घंटे के बाद, टिकट कतार की प्रतीक्षा किए बिना। आईटी टीमों के लिए लाभ समय हैः दोहराए जाने वाले प्रश्नों को मौके पर संभाला जाता है, और अनसुलझी बातचीत आधे-समाप्त अनुरोधों के बजाय प्रासंगिक टिकट बन जाती हैं।

रिपोर्ट किए गए 97.5 प्रतिशत चैनल कवरेज और 96 प्रतिशत सकारात्मक प्रतिक्रिया से पता चलता है कि पैटर्न तीन शर्तों को पूरा करने पर काम कर सकता हैः एजेंट के पास भरोसेमंद ज्ञान तक पहुंच होती है, ज्ञान सावधानीपूर्वक निकाला जाता है और सत्यापित किया जाता है, और एजेंट जानता है कि कब कदम रखना है। स्लैक, कॉन्फ्लुएंस, Jira Service Management और AWS बुनियादी ढांचे का उपयोग करने वाली टीमों के लिए, आर्किटेक्चर एक हेल्प डेस्क एजेंट बनाने के लिए एक ठोस मॉडल प्रदान करता है जो मौजूदा वर्कफ़्लो में फिट बैठता है बजाय कर्मचारियों को यह बदलने के लिए मजबूर करने के कि वे कैसे मदद मांगते हैं।