एआई के साथ कोडिंग

Vercel AI Software Development किट के लिए नया MongoDB एकीकरण AI अनुप्रयोगों को स्थायी स्मृति लाता है।

MongoDB Vercel AI Software Development किट apps में स्थायी एटलस मेमोरी जोड़ता है, जिसमें पांच प्रकार की स्मृति, वेक्टर खोज और प्रतिधारण मोड होते हैं।

मुख्य जानकारी

  • MongoDB ने एक ओपन-सोर्स इंटीग्रेशन, ∀@mongodb-developer/vercel-ai-memory` जारी किया है जो Vercel AI SDK के साथ बनाए गए AI ऐप्स और एजेंटों में स्थायी मेमोरी जोड़ता है।
  • पैकेज डेवलपर्स के लिए कस्टम मेमोरी इंफ्रास्ट्रक्चर बनाने की आवश्यकता को हटा देता है, जैसे कि डेटाबेस स्कीमा, डेटा क्लीनअप जॉब और वेक्टर खोज, एप्लिकेशन यादों को एटलस दस्तावेजों के रूप में संग्रहीत करके जो सत्रों, उपयोगकर्ताओं और पुनरारंभों पर बनी रहती हैं।
  • यह पाँच प्रकार की स्मृति का समर्थन करता है - सत्र, सिमेंटिक, प्रक्रियात्मक, एपिसोडिक और स्क्रैचपैड प्रत्येक अलग-अलग जीवनकाल और पुनर्प्राप्ति व्यवहारों के साथ, जबकि समय के साथ परिवर्तन को संरक्षित करने के लिए शब्दार्थ और प्रक्रियात्मक यादें संस्करणित होती हैं।
  • मेमोरी रिटेन्शन को चार मोडों के माध्यम से कॉन्फ़िगर किया जा सकता है ∀none`, ≠ttl゙, ∂ttl+importance̅ और ∆dynamic̅dynऔर इसमें मॉडल-संचालित भूलना शामिल है ताकि उपयोगकर्ता स्पष्ट रूप से ऐप को विशिष्ट यादें हटाने के लिए कह सकें।
  • उत्पादन रिलीज़ में AI SDK हुक के माध्यम से विश्वसनीय ट्रांसक्रिप्ट बचत, `tenant_id` जैसे फ़ील्ड्स के जरिए किरायेदार अलगाव, अनुकूलन योग्य संग्रह और सूचकांक नामकरण, और अपाचे 2.0 लाइसेंस के तहत किसी भी मॉडल के साथ संगतता जैसी विशेषताएं जोड़ी गई हैं।

MongoDB ने एक ओपन सोर्स इंटीग्रेशन जारी किया है जो Vercel AI SDK के साथ बनाए गए एप्लिकेशन और एजेंटों को MongoDB एटलस में स्थायी मेमोरी स्टोर देता है। यह पैकेज, अपाचे 2.0 लाइसेंस के तहत npm पर ∀@mongodb-developer/vercel-ai-memory` के रूप में प्रकाशित हुआ है, अब आम तौर पर उपलब्ध है और किसी भी MongoDB Atlas क्लस्टर पर AI SDK v6 और v7 के साथ काम करता है। इसकी घोषणा Ajay Tandon, Nasir Qureshi और Pavel Duchovny द्वारा की गई थी।

Vercel AI SDK को मेमोरी लेयर की आवश्यकता क्यों है

Vercel AI SDK AI अनुप्रयोगों के निर्माण के लिए एक टाइपस्क्रिप्ट टूलकिट है। यह कॉल मॉडल, स्ट्रीमिंग प्रतिक्रियाओं, उपकरणों का उपयोग करने और एजेंट चलाने को संभालता है जो बहु-चरण कार्यों के माध्यम से काम करते हैं। इसमें शामिल नहीं है कि रन के बीच स्मृति में बने रहने के लिए डेटाबेस है। इसके बिना, AI एप्लिकेशन हर बातचीत की शुरुआत अंतिम ज्ञान के साथ करता हैः यह नहीं जानता कि उपयोगकर्ता कौन है, उन्होंने कल क्या पूछा था, या इसने रास्ते में क्या सीखा था।

जो डेवलपर्स आज मेमोरी चाहते हैं, उन्हें अपना टूलिंग बनाना पड़ता है। इसका मतलब आमतौर पर डेटाबेस स्कीमा डिजाइन करना, पुराने डेटा को साफ़ करने के लिए जॉब लिखना और वेक्टर खोज स्थापित करना होता है ताकि एप्लिकेशन सटीक कीवर्ड के बजाय सिमेंटिक अर्थ द्वारा प्रासंगिक पिछली जानकारी पा सके। नए पैकेज का उद्देश्य उस काम को हटाना हैः एक बार इंस्टॉल होने के बाद, यह MongoDB एटलस से Vercel AI SDK ऐप को जोड़ता है और दस्तावेज़ों के रूप में अनुप्रयोग की यादें संग्रहीत करता है, इसलिए वे सत्रों, उपयोगकर्ताओं और पुनरारंभों में बने रहते हैं।

पाँच प्रकार की स्मृति, प्रत्येक का अपना जीवनकाल होता है

एकीकरण स्वचालित रूप से स्मृति को पांच प्रकारों में वर्गीकृत करता है, प्रत्येक अलग-अलग समय के लिए बनाए रखा जाता है और विभिन्न तरीकों से पुनः प्राप्त किया जाता हैः

  • सत्रः- (अंग्रेज़ी में) - (अँग्रेजी में) । बातचीत एक आवेदन या एजेंट प्रत्येक सत्र में है, तो यह क्या उपयोगकर्ता बस कहा था का पालन कर सकते हैं.
  • शब्दार्थः- (अंग्रेज़ी में) "Semantic" - (संज्ञा) लोगों, संस्थाओं और वरीयताओं के बारे में तथ्य, इसलिए उपयोगकर्ताओं को खुद को दोहराने की आवश्यकता नहीं है।
  • प्रक्रियात्मक रूप से: - (अंग्रेज़ी में) - (बजिया) कार्यप्रवाह और निर्देश, इसलिए अनुप्रयोग कार्यों को उसी तरह से करता है जिस प्रकार वे परिभाषित किए गए थे।
  • आकस्मिक: (एपिसोडिक) - 1 2 3 4 5 6 7 प्रमुख घटनाओं और परिणामों, तो आवेदन याद कर सकते हैं कि पहले क्या हुआ. डिफ़ॉल्ट रूप से निष्क्रियता के एक वर्ष के लिए रखा गया।
  • स्क्रैचपैड (Scratchpad) - (अंग्रेज़ी में) प्रगति में कार्य के लिए अस्थायी नोट्स. ये एक घंटे बाद समाप्त हो जाते हैं और यदि वे मामला बनते हैं तो उन्हें एपिसोडिक मेमोरी में पदोन्नत किया जा सकता है।

सिमेंटिक और प्रक्रियात्मक यादें संस्करणित होती हैं, इसलिए जब कोई तथ्य बदलता है तो इतिहास संरक्षित होता है। अर्थपूर्ण, प्रक्रियागत और एपिसोडिक स्तर MongoDB Vector Search का उपयोग करते हैं, जो सटीक कीवर्ड के बजाय अर्थ द्वारा संग्रहीत यादों को ढूंढता है। एकीकरण स्वचालित रूप से वेक्टर इंडेक्स बनाता है और स्टार्टअप पर एम्बेडिंग आयामों का पता लगाता है, और डेवलपर्स किसी भी AI SDK एम्बेड मॉडल का उपयोग कर सकते हैं, जिसमें Voyage AI, OpenAI, Cohere या Google शामिल हैं।

प्रतिधारण एक संतुलन कार्य है

प्रत्येक मेमोरी श्रेणी की अपनी रिटेंशन नीति होती है, इसलिए अल्पकालिक नोट्स जल्दी समाप्त हो जाते हैं जबकि दीर्घकालिक तथ्य लंबे समय तक रहते हैं। पैकेज हर श्रेणी के लिए डिफ़ॉल्ट के साथ जहाज करता है, और डेवलपर्स उन्हें अनुकूलित कर सकते हैं। तर्क व्यावहारिक हैः यादों को अनिश्चित काल तक रखने से पुनर्प्राप्ति प्रदर्शन में गिरावट आ सकती है और लागत बढ़ सकती है, जबकि उन्हें बहुत पहले हटाने से एप्लिकेशन महत्वपूर्ण संदर्भ भूल जाते हैं।

डेवलपर्स को सही संतुलन खोजने में मदद करने के लिए, एकीकरण चार प्रतिधारण मोड प्रदान करता हैः ∀none` (कभी समाप्त नहीं होता है), ≠ttl` (एक निर्धारित समय के बाद समाप्त हो जाता है),

चूंकि यादें MongoDB एटलस में रहती हैं, एक एप्लिकेशन का परिचालन डेटा, इसकी मेमोरी और वेक्टर खोज जो इसे पुनर्प्राप्त करती है वह सभी एक मंच पर चलती है। डेवलपर्स अलग-अलग वेक्टर स्टोर या इसके साथ स्मृति सेवा पर बोल्ट करने के बजाय एकल डेटाबेस को सुरक्षित, मॉनिटर और स्केल कर सकते हैं।

उत्पादन में क्या परिवर्तन

उत्पादन रिलीज़ उन नियंत्रणों को जोड़ता है जो एक बार प्रोटोटाइप चरण छोड़ देते हैं:

  • भरोसेमंद सत्र इतिहास: (% s) '_s' => '_t' डिफ़ॉल्ट रूप से मॉडल तय करता है कि कब वार्तालाप मोड़ को सहेजना और पढ़ना है, इसलिए यह कभी-कभी एक को छोड़ सकता है। उत्पादन के लिए, AI SDK हुक एप्लिकेशन के अपने कोड लोड करते हैं और प्रत्येक मोड़ पर प्रतिलेख को बचाते हैं, ताकि हर उपयोगकर्ता, सहायक और टूल संदेश ठीक एक बार बचाया जा सके।
  • प्रति ग्राहक अलग-अलग डेटाः डेवलपर्स वेक्टर इंडेक्स में एक फिल्टर फ़ील्ड जैसे कि ∀tenant_id` जोड़ सकते हैं ताकि प्रत्येक खोज को एकल ग्राहक की यादों तक सीमित किया जा सके।
  • एप्लिकेशन नाम और लेआउटः संग्रह और सूचकांक का नाम बदलकर मौजूदा अनुप्रयोग स्कीमा से मेल किया जा सकता है, और अप्रयुक्त श्रेणियों के लिए अनुक्रमण को बंद कर दिया जाता है।
  • ओपन सोर्सः (अंग्रेज़ी में) ।. . . . ! . . Apache 2.0 लाइसेंस लागू होता है, और पैकेज किसी भी AI SDK मॉडल के साथ काम करता है।

शुरुआत

एक मौजूदा Vercel AI SDK परियोजना के लिए स्मृति जोड़ने तीन कदम लेता है, प्रलेखन के अनुसार. सबसे पहले, ∀npm install @mongodb-developer/vercel-ai-memory ai mongodb` साथ पैकेज और उसके सहकर्मी निर्भरता स्थापित करें. दूसरा, एटलस कनेक्शन स्ट्रिंग और एम्बेडिंग मॉडल के साथ एक मेमोरी उदाहरण बनाएँ. तीसरा, एक उपयोगकर्ता और सत्र को स्कोप किए गए एप्लिकेशन में स्मृति उपकरण पास करें।

घोषणा से एक न्यूनतम उदाहरण OpenAI एम्बेडिंग मॉडल (`text-embedding-3-small∀) के साथ मेमोरी इंस्टेंस बनाता है और इसे ゙ToolLoopAgent∂ में पास करता है जो gpt-4.1̅ चलाता है, जिसका स्कोप ≠userId: 'alice'` और ‡sessionId: "sess-001"̅ होता है। वहां से, मॉडल यह तय करता है कि कब सहेजना है और कब यादों की खोज करनी है।

क्या देखना है

रिलीज़ एटलस को एप्लिकेशन डेटा और AI मेमोरी दोनों के लिए एक एकल स्टोर के रूप में स्थान देती है, जो पहले से ही एटल्स चलाने वाली टीमों के लिए स्टैक को सरल बना सकती है। खुले प्रश्न वे हैं जो हमेशा प्रबंधित स्मृति के साथ आते हैंः जैसे-जैसे स्मृति की मात्रा बढ़ती है, वैक्टर खोज और भंडारण स्केल पर चलने वाले खर्चों में कितना जोड़ते हैं, और क्या मॉडल संचालित भूलना उत्पादन उपयोग के लिए पर्याप्त पूर्वानुमान योग्य व्यवहार करता है। डेवलपर्स स्वयं का मूल्यांकन कर सकते हैं, क्योंकि पैकेज खुला स्रोत है और प्रलेखन सार्वजनिक है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.