एआई द्वारा उत्पन्न फीडबैक लोगों को त्रुटियों की पहचान करने में सहायता करता है
शोधकर्ताओं ने एआई-जनित सारांशों में खामियों की पहचान करने के लिए AI आलोचना मॉडल को प्रशिक्षित किया, जैसे कि लापता विवरण और असमर्थित दावे। मानव समीक्षकों ने दिखाया कि इन आलोचनाओं ने अकेले समीक्षा करते समय कहीं अधिक त्रुटियां पकड़ीं। विशेष रूप से, बड़े मॉडल आलोचना करने में बेहतर साबित हुए, यह सुझाव देते हुए कि AI पर्यवेक्षण उपकरण उन प्रणालियों की तुलना में तेजी से सुधार कर सकते हैं जिनकी वे निगरानी करते हैं, जो बढ़ती क्षमता वाले AI के स्केलेबल निरीक्षण का समर्थन करता है।
यह शोध किस बारे में है
यदि आपने कभी सोचा है कि हम AI प्रणालियों पर नज़र कैसे रख सकते हैं क्योंकि वे अधिक जटिल कार्य से निपटते हैं, तो हाल ही में एक शोध प्रयास एक आशाजनक उत्तर प्रदान करता हैः आलोचना करने के लिए AI को प्रशिक्षित करें। शोधकर्ताओं ने "आलोचना-लेखन" मॉडल विकसित किए जिनका एकमात्र काम एआई द्वारा उत्पन्न सारांशों में कमजोरियों और त्रुटियों की ओर इशारा करना है। विचार सरल लेकिन शक्तिशाली है जब मानव समीक्षकों को ये एआई-लिखित आलोचनाएं दिखाई जाती हैं, तब वे उन समस्याओं को पकड़ने में काफी बेहतर हो जाते हैं जो अन्यथा चूक जाएंगे।
यह AI सुरक्षा और पर्यवेक्षण में रुचि रखने वाले किसी भी व्यक्ति के लिए मायने रखता है। जैसे-जैसे मॉडल अधिक सक्षम होते जाते हैं, मनुष्य कठिन कार्यों पर उनके आउटपुट का मूल्यांकन करने के लिए तेजी से संघर्ष करते हैं। एक दूसरे AI को समीक्षक के रूप में कार्य करना हर परीक्षक को डोमेन विशेषज्ञ होने की आवश्यकता के बिना मनुष्यों को लूप में रखने का एक व्यावहारिक तरीका बन सकता है।
कैसे आलोचनात्मक मॉडल को प्रशिक्षित किया गया
टीम ने एक विशिष्ट, मापने योग्य कार्य पर ध्यान केंद्रित कियाः सारांश। उन्होंने महत्वपूर्ण विवरणों को याद करने, स्रोत पाठ का गलत वर्णन करने या असमर्थित दावों को जोड़ने जैसी चीजों के सार में खामियों का वर्णन करने के लिए डिज़ाइन किए गए मॉडल बनाए।
एक मॉडल को केवल बेहतर सारांश तैयार करने के लिए कहने के बजाय, शोधकर्ताओं ने इन प्रणालियों को प्रशिक्षित किया ताकि वे अधिक सावधानीपूर्वक संपादक की तरह कार्य कर सकें। क्या गलत हो गया यह अंतर मायने रखता है. आलोचना लिखना सामग्री लिखने से एक अलग कौशल है, और शोध सुझाव देता है कि इसे अलग-अलग और जानबूझकर विकसित किया जा सकता है।
मानव मूल्यांकनकर्ताओं ने क्या पाया
सबसे उत्साहजनक परिणाम मानव परीक्षण से आया। जब मूल्यांकनकर्ताओं को मॉडल द्वारा उत्पादित आलोचनाएं दिखाई गईं, तो उन्होंने अपने दम पर सारांशों की समीक्षा करने की तुलना में बहुत अधिक बार सारांश में खामियों का पता लगाया।
दूसरे शब्दों में, AI की आलोचना सिर्फ तकनीकी रूप से दिलचस्प नहीं थी वे वास्तव में लोगों को वास्तविक समस्याओं पर ध्यान देने में मदद करते थे. यही यहाँ का प्रमुख मीट्रिक हैः यह नहीं कि क्या AI के आलोचक वाक्पटु थे, लेकिन क्या इसने मनुष्यों को उनके पर्यवेक्षी कार्य में बेहतर बनाया।
बड़े मॉडल बेहतर आलोचक बनाते हैं
सबसे उल्लेखनीय निष्कर्षों में से एक पैमाने को शामिल करता है। बड़े मॉडल अपनी तरह की आलोचना करने के लिए अधिक सक्षम हैं, और दिलचस्प बात यह है कि समीक्षात्मक लेखन में सारांश-लेखन की तुलना में स्केल का लाभ अधिक दृढ़ता से दिखाई दिया।
इससे पता चलता है कि जैसे-जैसे AI मॉडल आकार और क्षमता में बढ़ते जाते हैं, उनके पर्यवेक्षण उपकरण के रूप में उनकी क्षमता कार्य-निष्पादक की संभावनाओं से भी तेजी से बढ़ती जा सकती है। यह एक उत्साहजनक विषमता हैः जिन उपकरणों का हम उपयोग करेंगे वे उन प्रणालियों से आगे सुधार कर सकते हैं जिन्हें वे देख रहे हैं।
यहाँ एक आत्म-आलोचना कोण भी है बड़े मॉडल अपने स्वयं के स्तर पर काम का मूल्यांकन करने में बेहतर थे, जो भविष्य की ओर इशारा करता है जहां मॉडलों को मनुष्यों से पहले एक दूसरे के आउटपुट में समस्याएं होती हैं।
यह पर्यवेक्षण के लिए क्यों मायने रखता है
शोध एक व्यापक विचार की ओर इशारा करता है जिसे अक्सर स्केलेबल पर्यवेक्षण कहा जाता हैः AI प्रणालियों का उपयोग अन्य AI प्रणालीओं की देखरेख में मनुष्यों की सहायता करने के लिए, विशेष रूप से मानव समीक्षा के लिए बहुत जटिल या विशिष्ट कार्यों पर।
सारांश केवल एक प्रारंभिक बिंदु है. यदि आलोचना मॉडल विश्वसनीय रूप से मनुष्यों को सारांशों का मूल्यांकन करने में मदद कर सकते हैं, तो इसी तरह के दृष्टिकोण अंततः अधिक जटिल कार्य - तर्क, कोडिंग, अनुसंधान या अन्य डोमेन पर लागू हो सकते हैं जहां गलतियों का पता लगाना आम लोगों के लिए कठिन होता है।
यह कहा गया है कि, यह प्रारंभिक शोध है, तैयार समाधान नहीं। निष्कर्ष सबूत के बजाय वादा दिखाते हैं, और वास्तविक दुनिया की देखरेख में संभवतः विभिन्न कार्यों और सेटिंग्स पर अधिक परीक्षण की आवश्यकता होगी।
इस काम का अनुसरण किसको करना चाहिए?
AI संरेखण और सुरक्षा पर काम करने वाले शोधकर्ताओं और चिकित्सकों को ये परिणाम सीधे प्रासंगिक लगेंगे, क्योंकि वे एआई-सहायता प्राप्त मानव पर्यवेक्षण के लिए अनुभवजन्य समर्थन प्रदान करते हैं। समीक्षा या मूल्यांकन वर्कफ़्लो बनाने वाली उत्पाद टीमों में व्यावहारिक अनुप्रयोग भी हो सकते हैं। आम पाठक इस बारे में उत्सुक होंगे कि कैसे मनुष्य तेजी से सक्षम AI प्रणालियों पर सार्थक नियंत्रण बनाए रख सकता है यह एक आशाजनक और ठोस डेटा बिंदु पाएगा एक संकेत है कि AI अपनी निगरानी चुनौती के समाधान का हिस्सा हो सकता है।
Comments (0)