यह अध्ययन मूल्यांकन करता है कि क्या हेरिस्टिक लर्निंग AI एजेंटों को लंबे समय तक चलने वाली गेम एजेंट प्रतियोगिता में शीर्ष पर पहुंचने में मदद कर सकता है।
AAArena खेल कोड में सुधार करने के लिए निश्चित मॉडल का उपयोग करके AI एजेंटों का परीक्षण करता है। Opus5.5 Claude Code के साथ छह स्वर्ण पदक जीतता है लेकिन छह लीडरबोर्ड से चूक जाता है।
मुख्य जानकारी
- AAArena Adversarial Heuristic Learning का परीक्षण करता है, जहां एक AI एजेंट अनुभव और प्रतिक्रिया के माध्यम से निष्पादन योग्य गेम-प्ले कार्यक्रमों में सुधार करता है जबकि foundation model s भार स्थिर रहते हैं।
- मूल्यांकन 12 ऐतिहासिक प्रतियोगिता खेलों और 1,920 मानव-लिखित प्रस्तुतियों का उपयोग करता है, जिसमें एजेंट एक निश्चित बजट के तहत प्रतिस्पर्धा करते हैं और एलो आधारित रैंकिंग।
- एजेंट मानव-जैसे लूप का पालन करते हैंः नियमों को समझते हैं, विरोधियों का चयन करते हैं, पुनरावृत्तियों का विश्लेषण करते हैं और मूल्यांकन बजट के भीतर अपनी सबसे मजबूत कोड प्रस्तुत करते हैं।
- Claude Code के साथ ओपस5.5 ने सात परीक्षण किए गए मॉडल विन्यासों में छह स्वर्ण पदक जीते, लेकिन कोई भी कॉन्फ़िगरेशन अन्य छह लीडरबोर्ड में शीर्ष पर नहीं था।
- मिश्रित परिणामों से पता चलता है कि फिक्स्ड-मॉडल एजेंट कुछ खेलों में मजबूत मानव प्रतिस्पर्धियों की बराबरी कर सकते हैं, फिर भी इस पद्धति की स्पष्ट सीमाएं हैं और अंतराल को बंद करने के लिए बेहतर एजेंट वर्कफ़्लो की आवश्यकता हो सकती है।
मेटा विवरणः AAArena 12 ऐतिहासिक खेलों और 1,920 मानव सबमिशन पर Adversarial Heuristic Learning का उपयोग करके AI एजेंटों का परीक्षण करता है; ओपस 5.5 और 89003 छह स्वर्ण पदक जीतते हैं।
टैगः AI एजेंट, प्रतिद्वंद्वितात्मक हेरिस्टिक लर्निंग, AAArena, Claude Code , ओपस5.5
विशेष रुप से प्रदर्शित छवि: एक डिजिटल क्षेत्र का अमूर्त मैत्रीपूर्ण चित्रण जहां कोड ब्लॉक प्रतिस्पर्धा करते हैं, कोई वास्तविक लोग नहीं, कोई लोगो नहीं, न ही पाठ।
एक अध्ययन ने Adversarial Heuristic Learning का परीक्षण करने के लिए एएरेना बनाया, एक दृष्टिकोण जिसमें Claude Code एजेंट निष्पादन योग्य गेम-प्ले कार्यक्रमों को बेहतर बनाने के लिए अनुभव और प्रतिक्रिया का उपयोग करता है जबकि foundation model के वजन तय रहते हैं। मूल्यांकन में 12 ऐतिहासिक प्रतियोगिता खेलों और 1,920 मानव-लिखित प्रोग्राम सबमिशन का इस्तेमाल किया गया था जो प्रतियोगिता अभिलेखागार से थे। सात AI मॉडलों और उनके रनटाइम कॉन्फ़िगरेशन पर, ओपस5.5 ने Claude Code के साथ छह स्वर्ण पदक अर्जित किए, और कोई भी परीक्षण विन्यास अन्य छह लीडरबोर्ड में सबसे ऊपर नहीं रहा।
AAArena क्या परीक्षण करता है
यह विचार Learning Beyond Gradients से आया है, जहां Jiayi Weng (@trinkle23897) ने Heuristic Learning पर चर्चा की। उस फ्रेमिंग में एजेंट को ग्रेडिएंट अपडेट के माध्यम से प्रशिक्षित नहीं किया जाता है। इसके बजाय, एजेंट सीखने वाले के रूप में कार्य करता हैः यह अनुभव और प्रतिक्रिया लेता है और सीधे प्रोग्राम जैसे निष्पादन योग्य संरचनाओं में सुधार करता है।
एक मानव प्रतियोगिता खिलाड़ी के लिए तुलना उपयोगी है। एक प्रतियोगी नियमों को समझता है, एक रणनीति लिखते हैं, इसका परीक्षण करते हैं, नुकसान पर फिर से विचार करता है, कमजोरी पाता है और अंतर्दृष्टि को कोड में बदल देता है। प्रतिभागी सीखने का इंजन होता है, अनुभव को मजबूत कार्यक्रम में परिवर्तित करता है। एएरेना उस मानवीय इंजन की जगह AI एजेंट लेता है।
Adversarial Heuristic Learning समान विचार को प्रतिस्पर्धी कार्यों पर लागू करता है। एक विरोधी सेटिंग में, एक प्रोग्राम दूसरे से बेहतर प्रदर्शन करने की कोशिश करता है. foundation model के वजन तय रहते हैं, इसलिए सीखना मॉडल के अंदर नहीं होता है। एजेंट इसके बजाय नियमों को समझता है, विरोधियों का चयन करता है, प्रतिक्रिया का विश्लेषण करता है और प्रत्येक मैच में प्रवेश करने वाले गेम-प्लेइंग एजेंट को उत्पन्न और बनाए रखता है।
एजेंट कैसे प्रतिस्पर्धा करते हैं
AAArena एक व्यावहारिक प्रश्न का उत्तर देने के लिए बनाया गया था: क्या AI सीखने वाला इंजन वास्तव में जीत सकता है? यह क्षेत्र 12 ऐतिहासिक प्रतियोगिता खेलों और 1,920 मानव-लिखित कार्यक्रम प्रस्तुतियों को इकट्ठा करते हुए, एक प्रतियोगिता के अभिलेखागार पर आकर्षित करता है। एजेंट समान बुनियादी प्रक्रिया के माध्यम से लीडरबोर्ड पदों के लिए प्रतिस्पर्धा करते हैं जैसे कि मानव खिलाड़ीः नियम पढ़ें, मैच खेलें और कोड में सुधार करें।
प्रत्येक खेल एक सामान्य मूल्यांकन बजट प्रदान करता है। एजेंटों को छोटे मैचों के लिए 128 इकाइयां और पूर्ण प्रतिद्वंद्वी पूल के खिलाफ 16 मूल्यांकन प्राप्त होते हैं। लघु-मैच चरण में एक एजेंट विरोधियों का चयन करने, प्रतिस्पर्धा करने और रिप्ले का निरीक्षण करने देता है। पूर्ण-मूल्यांकन चरण वर्तमान रणनीति की एलो रेटिंग और रैंक लौटाता है। एलओ प्रदर्शन को रैंक करने के लिए उपयोग किया जाने वाला प्रतिस्पर्धी स्कोर है, इसलिए अंतिम परिणाम न केवल गेम खेलने पर बल्कि सबसे मजबूत कोड संस्करण प्रस्तुत करने पर निर्भर करता है.
एजेंट तय करते हैं कि कब सीखना है और कब सबमिट करना है। तुलना प्रत्येक एजेंट के बजट के भीतर प्राप्त किए गए सर्वश्रेष्ठ आधिकारिक परिणाम का उपयोग करती है। यह बजट नियम महत्वपूर्ण है क्योंकि यह एक परिणाम को केवल असीमित परीक्षण द्वारा समझाए जाने से रोकता है। इससे व्यापार भी बनता हैः अधिक छोटे मैच प्रतिक्रिया प्रदान कर सकते हैं, जबकि अधिक पूर्ण मूल्यांकन पता लगा सकते हैं और रैंक में लॉक हो सकते हैं।
डिजाइन एजेंटों को मनुष्यों पर संभावित लाभ देता है। एजेंट अधिक दृढ़ता से परीक्षण कर सकते हैं, व्यवस्थित रूप से पुनरावृत्तियों का आयोजन करते हैं, और विभिन्न खिलाड़ियों से प्रेरणा लेते हैं। लेकिन अध्ययन यह नहीं मानता कि ये फायदे स्वचालित रूप से जीत पैदा करते हैं। यह पूछता है कि क्या वे वास्तविक प्रतियोगिता के माध्यम से जीत की ओर ले जाते हैं?
परिणाम क्या दिखाते हैं
सात AI मॉडल और उनके रनटाइम कॉन्फ़िगरेशन में, ओपस5.5 ने Claude Code के साथ छह स्वर्ण पदक जीते। कोई भी परीक्षण किया गया विन्यास अन्य छह लीडरबोर्ड में शीर्ष पर नहीं था। परिणाम मिश्रित है। एजेंट पहले से ही कुछ खेलों में मजबूत मानव प्रतियोगियों का मुकाबला कर सकते हैं, जबकि शेष गेम यह प्रकट करते हैं कि उनकी क्षमताएं कहां कम हैं।
पाठकों के लिए, टेकअवे यह नहीं है कि एक निश्चित मॉडल अब हर विरोधी कोडिंग कार्य को हल कर सकता है। अध्ययन एक संकीर्ण क्षमता का सुझाव देता हैः एजेंट नियम समझ, मैच चयन, प्रतिक्रिया विश्लेषण, पुनरावृत्ति निरीक्षण और कोड रखरखाव के बाहरी लूप के माध्यम से एक कार्यक्रम में सुधार कर सकते हैं। वह लूप कुछ वातावरणों में प्रतिस्पर्धी हो सकता है, लेकिन यह अभी भी खेल पर निर्भर करता है, मूल्यांकन बजट, और रनटाइम कॉन्फ़िगरेशन एजेंट ड्राइव करने के लिए इस्तेमाल किया.
शीर्ष पर परीक्षण किए गए कॉन्फ़िगरेशन के बिना छह लीडरबोर्ड वर्तमान परिणामों की सीमा को चिह्नित करते हैं। वे दिखाते हैं कि एएरेना में लागू Heuristic Learning विधि, उच्चतम प्रतिस्पर्धी रैंक तक नहीं पहुंची है। अगला सवाल यह है कि क्या बेहतर एजेंट वर्कफ्लो अंतर्निहित मॉडल भार को बदले बिना उस अंतर को बंद कर सकते हैं?

Comments (0)