एम्बेडिंगगेमा का संस्करण 2

मेटा विवरणः अपाचे 2.0 लाइसेंस के तहत गेमा 2 को एम्बेड करने से टीमों को एक बैकअप मिलता है यदि होस्ट किए गए embedding मॉडल बदल जाते हैं, तो संग्रहीत वैक्टरों की महंगी पुनः- embedding से बचने में मदद मिलती है।

टैगः एम्बेडिंग गेमा 2, अपाचे 2.0, मेजबान embedding मॉडल, वेक्टर खोज

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक खुली कुंजी और बादल से जुड़ने वाले चमकते वेक्टर बिंदुओं का अमूर्त मैत्रीपूर्ण चित्रण, कोई वास्तविक व्यक्ति नहीं, कोई लोगो नहीं, न ही पाठ।

एम्बेडिंगगेमा 2 अपाचे 2.0 लाइसेंस के तहत है, और डेवलपर्स और प्लेटफ़ॉर्म टीमों के लिए खोज, सिफारिश या पुनर्प्राप्ति प्रणालियों का निर्माण करने वाले प्लेटफार्मों की पसंद मायने रखती है जो बड़ी संख्या में embedding वैक्टर संग्रहीत करते हैं। नोट इस बात पर प्रकाश डालता है कि कई अन्य मॉडल उपयोगों की तुलना में खुला-वजन एक्सेस क्यों अधिक महत्वपूर्ण हैः संग्रहित वेक्टर लंबे समय तक रहते हैं, और जिस मॉडल ने उन्हें बनाया था उसे खोना महंगा प्रसंस्करण को मजबूर कर सकता है।

क्यों embedding लाइसेंस संग्रहीत वेक्टरों को प्रभावित करते हैं

embedding मॉडल पाठ, दस्तावेज़ों या अन्य सामग्री को संख्यात्मक वैक्टर में बदल देते हैं जिनकी समानता के लिए तुलना की जा सकती है। कई वास्तविक अनुप्रयोगों को हजारों या यहां तक कि लाखों वेक्टर्स की गणना करने और बाद की तुलना के लिए उन्हें संग्रहीत करने की आवश्यकता होती है। एक बार जब ये वेक्टर सहेजे जाते हैं, तो मॉडल अब JUST नहीं होता है API कॉल. यह खोज सूचकांकों, सिफारिश सूची या पुनर्प्राप्ति पाइपलाइनों के पीछे बुनियादी ढांचे का हिस्सा बन जाता है।

इसलिए लेखक का तर्क है कि बंद, मालिकाना, केवल होस्ट किए गए embedding मॉडल इस तरह के काम के लिए बहुत मायने नहीं रखते हैं। यदि कोई विक्रेता बाद में मॉडल की पेशकश करना बंद कर देता है, तो ग्राहकों के पास अभी भी इसके द्वारा बनाए गए लाखों संग्रहीत वेक्टर हो सकते हैं। एक प्रतिस्थापन मॉडल बेहतर हो सकता है, लेकिन ये पुराने वैक्टर अभी भी मूल मॉडल के आउटपुट स्पेस से बंधे हुए हैं। परिणामों को तुलनीय रखने के लिए, टीम को सभी मौजूदा संग्रहित वैक्टरों की पुनः गणना करने के लिए भुगतान करने की आवश्यकता हो सकती है।

व्यावहारिक जोखिम केवल मॉडल स्वैप ही नहीं है। यह छिपा हुआ बिल है जो बाद में आता हैः embedding एक बड़ा संग्रह, दस्तावेजों को फिर से अनुक्रमित करना और पुराने वैक्टरों पर निर्भर हर खोज या सिफारिश प्रवाह का पुनः परीक्षण करना।

होस्ट किए गए मॉडल समस्या

बिंदु यह नहीं है कि प्रत्येक टीम को मॉडल की मेजबानी करनी चाहिए। नोट स्पष्ट है कि लेखक व्यक्तिगत रूप से एम्बेडिंगगेमा 2 की मेज़बानी नहीं करना चाहता है। पसंदीदा सेटअप एक प्रदाता को होस्ट किए गए अनुमान के लिए भुगतान करना है, जबकि यह जानते हुए कि खुले वजन एक बैकअप के रूप में मौजूद हैं।

यह एक उपयोगी मध्य मार्ग बनाता है. एक विक्रेता मॉडल चला सकता है, सेवा को अद्यतन कर सकता है और बुनियादी ढांचे को संभाल सकता है। लेकिन यदि विक्रेਤਾ मॉडल की मेजबानी करना बंद कर देता है, तो ग्राहक केवल मृत API एंडपॉइंट के साथ नहीं रहता है। ग्राहक स्वयं ओपन वेट्स संस्करण चला सकते हैं, या इसे होस्ट करने वाले किसी अन्य विक्रेताओं का पता लगा सकते हैं।

अपाचे 2.0 एक अनुमेय open-source लाइसेंस है जो आम तौर पर इसके नियमों के तहत उपयोग, संशोधन और वितरण की अनुमति देता है।

अप्रैल 2024 OpenAI की पेशकश ने क्या दिखाया

नोट में अप्रैल 2024 का भी उल्लेख किया गया है, जब OpenAI ने नए मॉडलों के साथ उपयोगकर्ताओं की वित्तीय लागत को कवर करने की पेशकश की थी, जैसा कि https://openai.com/index/gpt-4-api-general-availability/ पर दर्ज किया गया था। यह उदाहरण एक प्रमुख प्रदाता से पता चलता है कि embedding रिफंड महंगा हो सकता है, खासकर जब बड़े datasets शामिल हैं।

लेकिन लेखक की चिंता यह है कि ऐसे प्रस्ताव कुछ ऐसा नहीं हैं जिस पर हर प्रदाता भरोसा कर सके। एक विक्रेता लागत को कवर कर सकता है, लेकिन इससे दीर्घकालिक प्रश्न का समाधान नहीं होता है कि क्या भविष्य के मॉडल सेवानिवृत्ति को उसी तरह से संभाला जाएगा। यह भी गारंटी नहीं देता है कि प्रतिस्थापन मॉडल संगत वेक्टर पैदा करेगा।

टीमों के लिए जो पुनर्प्राप्ति प्रणालियों का निर्माण करते हैं, सुरक्षित प्रश्न न केवल यह है कि आज फिर से एम्बेड करने की लागत क्या होगी। यह भी अगर मेजबान मॉडल गायब हो जाता है तो क्या होता है और क्या हम अभी भी वेक्टर को पुनः उत्पन्न या प्रतिस्थापित कर सकते हैं जिन्हें हमने पहले ही संग्रहीत किया है?

पाठकों को आगे क्या देखना चाहिए

उत्पादन में embedding मॉडल का उपयोग करने वाले पाठकों के लिए, उपयोगी टेकअवे आर्किटेक्चर के हिस्से के रूप में लाइसेंसिंग का इलाज करना है। एक मॉडल चुनने से पहले, जांचें कि क्या यह अपाचे 2.0 जैसे अनुमेय लाइसेंस के तहत खुला-भारित है। प्रदाता से पूछें कि यदि होस्ट किया गया मॉडल रिटायर हो जाता है तो क्या होता है। पूछिए कि क्या खुले भार को कहीं और चलाया जा सकता है, और क्या कोई अन्य विक्रेता संगत मेजबानी की पेशकश कर सकता है।

जो संख्याएँ मायने रखती हैं वे मॉडल की कीमत प्रति मिलियन JUST या इसकी बेंचमार्क स्थिति नहीं है। इनमें शामिल हैं कि टीम पहले से ही कितने वैक्टर संग्रहीत करती है, उन्हें फिर से एम्बेड करने में कितना खर्च आएगा और प्रतिस्थापन प्रक्रिया कितनी जल्दी पूरी हो सकती है। गेमा 2 के अपाचे 2.0 लाइसेंस को सम्मिलित करना उल्लेखनीय है क्योंकि यह उन छिपे हुए परिचालन जोखिमों को बदल देता है जिन्हें आज भी होस्ट किए गए अनुमान का उपयोग करते समय योजना बना सकते हैं।