उन AI लोगों को जो समझने की कोशिश करना छोड़ चुके थे

मेटा विवरण: ग्रोकिंग एक machine learning खोज है जहां एक मॉडल पहले याद करने और बाद में सामान्यीकृत करने के लिए प्रतीत होता है, जिससे पाठकों को देरी से सीखने में मदद मिलती है।

टैगः machine learning , ग्रोकिंग, AI शिक्षा, मॉडल प्रशिक्षण

चित्रित छवि: प्रशिक्षण वक्र के समतल होने के बाद बनने वाले चमकते तंत्रिका मार्गों का अमूर्त, मैत्रीपूर्ण चित्रण, बिना लोगों, लोगो या पाठ के।

यदि आप एक डेवलपर, छात्र या जिज्ञासु AI उपयोगकर्ता हैं, तो ग्रोकिंग जानने योग्य है क्योंकि यह सामान्य धारणा को चुनौती देता है कि neural network प्रशिक्षण के दौरान सीखता है या विफल हो जाता है। machine learning में एक छोटी सी असामान्य खोज जिसे ग्रोक्किंग कहा जाता है, का वर्णन "AI That Learned से Understand Long After It तक" शीर्षक वाली Towards Data Science पोस्ट में किया गया था। पोस्ट एक ऐसे मॉडल पर प्रकाश डालती है जो सतह पर सुधार करना बंद कर दिया था, फिर भी बाद में सक्रिय प्रशिक्षण के अंत में कार्य को बेहतर ढंग से समझने लगते थे।

इस खोज से क्या पता चलता है

ग्रोकिंग एक नया उत्पाद या नए मॉडल परिवार नहीं है। यह कुछ प्रशिक्षण चलाने में देखा गया व्यवहार है। सामान्य neural network में, अदृश्य उदाहरणों पर प्रदर्शन आमतौर पर सुधार होता है क्योंकि मॉडल प्रशिक्षण कार्य में बेहतर हो जाता है। ग्रोक्किंग उस सरल पैटर्न को तोड़ता है। नेटवर्क पहले प्रशिक्षण उदाहरणों को पुनः पेश करना सीखता है, जो याद रखने जैसा दिख सकता है। फिर, प्रशिक्षण संकेत के बाद पहले से ही बहुत अच्छा हो गया है, इसके प्रदर्शन में तेजी से वृद्धि हो सकती है।

अजीब हिस्सा समय है. मॉडल अधिक प्रयास करने के लिए प्रतीत नहीं होता है। प्रशिक्षण हानि, जो सीखने के लिए उपयोग किए गए डेटा पर त्रुटि को मापता है, पहले से ही अपने सबसे निचले बिंदु के पास हो सकता है। फिर भी इनपुट को संभालने की क्षमता में सुधार जारी रहता है जिसे यह नहीं देखा गया है। यही कारण है कि Towards Data Science लेख इसे स्पष्ट प्रयास बंद होने के बाद लंबे समय तक सीखना कहता है।

क्यों यह एक जिज्ञासु तथ्य से अधिक है

AI सिस्टम बनाने वाले लोगों के लिए, ग्रोकिंग बदलता है कि प्रशिक्षण वक्र को कैसे पढ़ा जाना चाहिए। यदि एक मॉडल का मूल्यांकन केवल एक बिंदु पर किया जाता है, तो यह समाप्त, ओवरफिट या अटक सकता है। बाद में मूल्यांकन से पता चल सकता है कि इसने अधिक मजबूत समझ हासिल की है। इसका मतलब यह नहीं है कि हर देरी वाला सुधार उपयोगी है, और इसका मतलब इंतजार हमेशा मदद करता है। लेकिन यह सुझाव देता है कि जल्दी रोकना छिपी हुई लागतों के साथ डिजाइन विकल्प हो सकता है.

गैर-विशेषज्ञों के लिए, ग्रोकिंग AI के बारे में एक बहुत ही सरल कहानी का एक उपयोगी सुधार भी है। मॉडल हमेशा सीधे उपकरण नहीं होते हैं जो चिकनी रेखा में बेहतर हो जाते हैं। वे चरणों से गुजर सकते हैंः पहले उदाहरण फिट करना, फिर पैटर्न को व्यवस्थित करना, तब सामान्यीकरण करना। वह पैटर्न यह समझाने में मदद कर सकता है कि समान डेटा पर प्रशिक्षित दो मॉडल बहुत अलग तरीके से व्यवहार क्यों कर सकते हैं, या निर्देशों में स्पष्ट परिवर्तन के बिना सिस्टम में सुधार क्यों होता है।

रोजमर्रा के लिए इसका क्या अर्थ है AI कार्य

ग्रोकिंग सेटिंग्स में सबसे ज्यादा मायने रखता है जहां नए मामलों पर सटीकता ज्ञात मामलों को दोहराने से अधिक महत्वपूर्ण है। सरल गणित, तर्क पहेलियाँ या संरचित पैटर्न पूरा करने जैसे स्पष्ट नियमों के साथ कार्य अक्सर ऐसे होते हैं जहाँ शोधकर्ता इस प्रकार के विलंबित सामान्यीकरण की चर्चा करते हैं। उन मामलों में, एक मॉडल जो याद किया गया है वह अभी भी विफल हो सकता है जब उदाहरण बदलते हैं, जबकि एक मॉडल जिसने ग्रॉक्ड किया है वह अंतर्निहित नियम लागू कर सकता है।

इस अंतर का व्यावहारिक मूल्य है। एक मॉडल जो सक्षम प्रतीत होता है क्योंकि यह प्रशिक्षण उदाहरणों की नकल करता है, वह त्वरित डेमो में मजबूत दिख सकता है लेकिन वास्तविक उपयोग के तहत कमजोर हो सकता है। सामान्यीकृत करने वाला एक मॉडल अधिक विश्वसनीय होगा, हालांकि इसे लंबे समय तक प्रशिक्षण या अलग मूल्यांकन की आवश्यकता हो सकती है। तेजी से पुनरावृत्ति और गहन सत्यापन के बीच चयन करने वाली टीमों के लिए, ग्रॉकिंग एक अनुस्मारक है कि सबसे महत्वपूर्ण मीट्रिक यह नहीं है कि सिस्टम ने जो देखा उसे कितनी अच्छी तरह दोहराया है, बल्कि यह कितना अच्छा संभालता है।

खुले प्रश्न और क्या देखना है

अभी भी महत्वपूर्ण अज्ञात हैं. शोधकर्ताओं के पास ग्रोकिंग क्यों होता है, इसके लिए एक एकल सहमत स्पष्टीकरण नहीं है। कुछ विचारों में अनुकूलन गतिशीलता, मॉडल का आकार, सीखने की दरें, डेटा संरचना और नेटवर्क जो सीखता है उसे नियमित करने वाले दबाव को फिर से कैसे शामिल किया जाता है। इनमें से किसी को भी विशिष्ट प्रयोग से अधिक संदर्भ के बिना सार्वभौमिक नियम के रूप में प्रस्तुत नहीं किया जा सकता है।

सुरक्षित टेकआउट यह नहीं है कि AI अचानक जादुई हो जाता है। यह है कि सीखना असमान हो सकता है और दृश्य प्रगति का अंत उपयोगी विकास का अंत नहीं हो सकता। भविष्य के लेखों में ग्रॉकिंग का सामना करने वाले पाठकों को तीन व्यावहारिक प्रश्न पूछने चाहिए: क्या मॉडल अनदेखे उदाहरणों पर परीक्षण किया गया था? क्या समय के साथ सुधार जारी रहा? क्या कार्य में एक सरल छिपा हुआ नियम था जिसे देर से सीखा जा सकता था? ये सवाल machine learning दावों का न्याय करने के लिए एक अजीब खोज को एक उपयोगी लेंस में बदल देते हैं।