AI प्रणालियों को कैसे कार्य करना चाहिए, और निर्णय कौन लेता है?

ChatGPT के व्यवहार को कैसे आकार दिया जाता है और क्या OpenAI बदलने की योजना बनाता है

मेटा विवरणः सीखें कि ChatGPT के व्यवहार को कैसे आकार दिया जाता है, OpenAI कस्टमाइज़ेशन और सार्वजनिक इनपुट के बारे में क्या कहता है, और ये परिवर्तन आपके लिए क्या अर्थ रख सकते हैं।

टैगः ChatGPT , OpenAI , AI अनुकूलन, मॉडल व्यवहार, पारदर्शिता

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> एक दोस्ताना अमूर्त चित्रण चैट बुलबुले को धीरे-धीरे डायल और स्लाइडर्स द्वारा समायोजित किया जा रहा है, नरम नीले रंग और गर्म नारंगी में, बिना लोगों या लोगो के।

यदि आप ChatGPT का उपयोग करते हैं और कभी सोचा है कि यह इस तरह से जवाब क्यों देता है, तो OpenAI के एक हालिया बयान पर आपका ध्यान देने योग्य है। कंपनी ने बताया है कि कैसे ChatGPT के व्यवहार को पर्दे के पीछे आकार दिया जाता है, और उसने तीन चीजों की ओर इशारा किया है जिस पर वह काम करने की योजना बना रहा हैः समय के साथ उस व्यवहार में सुधार करना, उपयोगकर्ताओं को अधिक जगह देना ताकि वे अनुकूलित कर सकें कि सहायक कैसे प्रतिक्रिया करता है और जनता से अधिक इनपुट के लिए अपने निर्णय लेने को खोलना। यह लेख सादा शब्दों में इसका क्या मतलब है और रोजमर्रा के उपयोगकर्ताओं, रचनाकारों और डेवलपर्स दोनों के लिए क्यों महत्वपूर्ण है।

आदर्श व्यवहार क्यों मायने रखता है

जब लोग chatbot के "व्यवहार" की बात करते हैं, तो उनका मतलब आदतों, स्वरों और प्रवृत्तियों का संग्रह होता है जो वह बातचीत में दिखाता है। क्या यह अत्यधिक सतर्क महसूस करता है? क्या यह हानिरहित अनुरोधों को अस्वीकार कर देता है? यह बहस वाले विषयों पर एक निश्चित तरीके से झुकाव रखता है? ये पैटर्न दुर्घटनाएं नहीं हैं. वे इस बात से उभरते हैं कि किसी मॉडल को कैसे प्रशिक्षित किया जाता है, किस डेटा से सीखता है, और इसके डेवलपर्स द्वारा इसे सुरक्षित और उपयोगी रखने के लिए निर्धारित दिशानिर्देश।

अधिकांश उपयोगकर्ताओं के लिए, व्यवहार उत्पाद है. आप अंतर्निहित वास्तुकला या मॉडल के आकार की परवाह नहीं कर सकते हैं। जो आपको मायने रखता है वह यह है कि क्या ChatGPT सहायक है, संतुलित महसूस करता है और आपको उत्तर देता है जिस पर आप भरोसा कर सकते हैंः यही कारण है कि OpenAI का स्वीकार करना कि व्यवहार को निरंतर ध्यान देने की आवश्यकता है महत्वपूर्ण है। यह सहायक के व्यक्तित्व और निर्णय को कुछ ऐसा मानता है जिसे बनाए रखा जाना चाहिए और परिष्कृत किया जाना चाहिए, जैसे software उत्पाद के किसी भी अन्य हिस्से में।

व्यवहार भी विश्वास को छूता है। यदि लोग मानते हैं कि एक व्यापक रूप से उपयोग किया जाने वाला AI उपकरण चुपचाप उन्हें कुछ विचारों की ओर निर्देशित कर रहा है, तो टूल में भरोसा कम हो जाता है। OpenAI ने राजनीतिक स्पेक्ट्रम के उपयोगकर्ताओं से इन पंक्तियों पर सवालों का सामना किया है, प्रत्येक पक्ष कभी-कभी पूर्वाग्रह पर संदेह करता है। व्यवहार को खुले तौर पर संबोधित करके, कंपनी उस अविश्वास से आगे निकलने की कोशिश कर रही है बजाय इसके कि यह जड़ जाए।

क्या OpenAI यह सुधार करना चाहता है कहते हैं

बयान स्पष्ट करता है कि ChatGPT के व्यवहार में सुधार करना एक चल रही परियोजना है, न कि एक बार का फिक्स। व्यावहारिक रूप से इसका मतलब यह है कि मॉडल विवादास्पद विषयों को कैसे संभालता है, जब उपयोगकर्ता मजबूत व्यक्तिगत विश्वास साझा करते हैं तो वह कैसे प्रतिक्रिया देता है और नुकसान से बचने के साथ मददगार होने का संतुलन कैसे रखता है।

इसका मतलब यह भी है कि कंपनी ऐसे मामलों का अध्ययन करना जारी रखेगी जहां ChatGPT के उत्तर उपयोगकर्ताओं को गलत लगते हैं, चाहे वह इसलिए हो क्योंकि मॉडल भटकता हुआ प्रतीत होता है, एकतरफा लगता है या बस किसी प्रश्न के इरादे से चूक जाता है। व्यवहार ट्यूनिंग प्रसिद्ध रूप से कठिन है क्योंकि उचित लोग इस बात पर असहमत होते हैं कि "अच्छा" कैसा दिखता है। एक व्यक्ति जो जवाब ठीक से संतुलित पाता है, दूसरा उसे भटक सकता है।

व्यक्तिगत उपयोगकर्ताओं के लिए अधिक अनुकूलन

अधिक ठोस वादों में से एक विस्तारित अनुकूलन है। आज, ChatGPT कुछ वैयक्तिकरण सुविधाएँ प्रदान करता है, जैसे कि कस्टम निर्देश और मेमोरी, जो उपयोगकर्ताओं को उनकी प्राथमिकताओं और संदर्भ का वर्णन करने की अनुमति देते हैं। कंपनी के नवीनतम संदेश से पता चलता है कि यह आगे जाना चाहता है, जिससे लोगों को इस बात पर अधिक नियंत्रण मिल सके कि सहायक उनके साथ कैसे बातचीत करता है।

विचार सीधा है: हर किसी के लिए एक कठोर वार्तालाप शैली के बजाय, उपयोगकर्ताओं को अपनी आवश्यकताओं के अनुरूप अनुभव को आकार देने में सक्षम होना चाहिए। एक लेखक एक रचनात्मक, चंचल साथी चाहता हो सकता है। एक पेशेवर संक्षिप्त, तटस्थ उत्तर चाहते हैं। कोई व्यक्ति जो गहराई से व्यक्तिगत विषय पर चर्चा कर रहा है वह उन प्रतिक्रियाओं की इच्छा रख सकता है जो उन्हें सही करने के बजाय उनके घोषित मूल्यों के साथ संलग्न हों।

अनुकूलन सीमाओं के साथ आता है. कुछ गार्डरेल निश्चित रूप से बने रहेंगे, विशेष रूप से सुरक्षा के आसपास, कोई फर्क नहीं पड़ता कि उपयोगकर्ता सहायक को कैसे कॉन्फ़िगर करता है। लेकिन दिशा OpenAI की ओर इशारा कर रहा है स्पष्ट हैः टोन, शैली पर अधिक उपयोगकर्ता एजेंसी, और मॉडल असहमति का दृष्टिकोण कैसा है, समझदार सीमा के भीतर।

प्रक्रिया में जनता को शामिल करना

तीसरा स्तंभ सार्वजनिक इनपुट है. ChatGPT को क्या कहना चाहिए और क्या नहीं, इसके बारे में निर्णय पारंपरिक रूप से OpenAI की टीमों द्वारा आंतरिक रूप से किए गए हैं। कंपनी अब कहती है कि वह इन फैसलों में शामिल बाहरी आवाजें चाहती है।

यह कई रूप ले सकता हैः मॉडल को कैसे व्यवहार करना चाहिए, इसके विकल्पों का मार्गदर्शन करने वाले सिद्धांतों के बारे में अधिक विस्तार से साझा करना या दुनिया भर में उपयोगकर्ताओं के विभिन्न समूहों को AI सहायक कैसे कार्य करना चाहते हैं, इसका अध्ययन करना। विशिष्टता अभी भी सामने आ रही है, लेकिन खुलेपन की प्रतिबद्धता उल्लेखनीय हिस्सा है। " chatbot को कैसे प्रतिक्रिया देनी चाहिए जब कोई उपयोगकर्ता एक विवादास्पद राजनीतिक मुद्दे पर अपनी राय पूछता है?" जैसे प्रश्न विशुद्ध रूप से तकनीकी नहीं हैं। वे सामाजिक सवाल हैं, और OpenAI स्वीकार करते हुए प्रतीत होता है कि उन्हें केवल एक कंपनी द्वारा जवाब नहीं दिया जाना चाहिए।

उपयोगकर्ताओं के लिए, यह अंततः अधिक पारदर्शिता का मतलब हो सकता है कि ChatGPT एक निश्चित तरीके से व्यवहार क्यों करता है, और संभवतः प्रस्तावित परिवर्तनों पर सीधे वजन करने वाले तंत्र।

आपके लिए इसका क्या मतलब है

यदि आप एक आकस्मिक उपयोगकर्ता हैं, तो निकट-अवधि का प्रभाव सूक्ष्म हो सकता हैः प्रतिक्रियाएं जो कम उपदेशात्मक महसूस करती हैं, विवादास्पद विषयों पर अधिक संतुलित होती हैं और अनुकूलन के विस्तार के रूप में आपकी प्राथमिकताओं के अनुरूप होती हैं। यदि आप ChatGPT से लेकर इसके API तक निर्माण करते हैं या इसे पेशेवर काम के लिए उपयोग करते हैं, स्पष्ट व्यवहार दिशानिर्देश और सार्वजनिक प्रलेखन सहायक को अधिक अनुमानित और डिजाइन करने में आसान बना सकते हैं।

इसके अलावा उचित चेतावनी भी हैं. आशय की घोषणाएं शिप किए गए परिवर्तनों के समान नहीं होती हैं, और प्रतिस्पर्धी अपेक्षाओं को संतुलित करना गन्दा रहेगा। कुछ उपयोगकर्ताओं को लगता है कि कोई भी समायोजन बहुत दूर चला जाता है, अन्य पर्याप्त नहीं होते हैं। लेकिन एक बड़ी AI कंपनी सार्वजनिक रूप से बेहतर व्यवहार, अधिक अनुकूलन और बाहरी इनपुट के लिए प्रतिबद्ध है जो AI सिस्टम की ओर एक सार्थक कदम है जो एक एकल संपादकीय आवाज के बजाय मानव दृष्टिकोण की व्यापक रेंज को दर्शाता है।

आने वाले महीनों में पता चलेगा कि क्या ये प्रतिबद्धताएं दृश्य परिवर्तनों में बदलती हैं। अभी के लिए, उपयोगकर्ता ChatGPT की वैयक्तिकरण सुविधाओं के अपडेट और नए चैनलों को देख सकते हैं जिनके माध्यम से OpenAI सार्वजनिक प्रतिक्रिया एकत्र करता है। यदि आपके पास AI सहायक का व्यवहार कैसे होना चाहिए, इस पर दृढ़ विचार हैं, तो यह ध्यान देने का एक अच्छा समय है, क्योंकि उन निर्णयों को आकार देने का निमंत्रण पहले की तुलना में अधिक व्यापक रूप से दिया जा रहा है।