एक्सियन 1.0 ओपन एजेंट फाउंडेशन मॉडल को सरल करता है।
एक्सियन 1.0 वैज्ञानिक तर्क और उपकरण उपयोग के लिए 18,000 उदाहरणों, हल्के चरणों और reinforcement learning के साथ खुले एजेंट मॉडल को सरल करता है।
मुख्य जानकारी
- Axion 1.0 लगभग 18K पर्यवेक्षित fine-tuning उदाहरणों, दो हल्के एसएफटी चरणों और वैज्ञानिक तर्क और उपकरण उपयोग के लिए reinforcement learning के साथ खुले एजेंट फाउंडेशन-मॉडल प्रशिक्षण को सरल करता है।
- प्रशिक्षण नुस्खा तीन लक्ष्यों को लक्षित करता हैः तर्क के लिए चुनौतीपूर्ण वैज्ञानिक समस्याओं का निर्माण, जांच के लिए सत्यापित पुनर्प्राप्ति / उपकरण-उपयोग कार्यों का उपयोग करना और पूर्ण एजेंट प्रक्षेपवक्रों पर आरएल के माध्यम से सुधार।
- एक्सियन 1.0-35B और 122B का उद्देश्य छह मूल्यांकन सेटिंग्स में प्रतिस्पर्धी परिणाम प्राप्त करना हैः एचएलई, बायोमाइस्ट्रीबेंच, सील-0, हाइफो, तथा FrontierScience Olympiad और अनुसंधान विभाजन।
- 35B प्रजनन चेकपॉइंट एचएलई पर 52.8 और FrontierScience Olympiad के लिए 85.0 जैसे प्रमुख स्कोर की रिपोर्ट करता है, जबकि रिलीज़ एक ही सूची में अलग-अलग 122B बेंचमार्क स्कोर प्रदान नहीं करती है।
- अपाचे 2.0 लाइसेंसिंग, पेपर, प्रोजेक्ट पेज, कोड, training data और चेकपॉइंट के साथ मिलकर रिलीज़ को निरीक्षण, पुनः उपयोग और आगे एजेंट-उन्मुख वैज्ञानिक तर्क कार्य के लिए उपयोगी बनाता है।
मेटा विवरणः Axion 1.0-35B और 122B लगभग 18K पर्यवेक्षित fine-tuning उदाहरण, दो हल्के चरणों का उपयोग करते हैं, फिर वैज्ञानिक तर्क और उपकरण के उपयोग के लिए reinforcement learning ।

टैगः एक्सियन 1.0, एजेंट फाउंडेशन मॉडल, वैज्ञानिक तर्क, उपकरण का उपयोग, खुला चेकपॉइंट
विशेष रुप से प्रदर्शित छवि: एक छोटे robot का अमूर्त मैत्रीपूर्ण चित्रण जो एक आणविक मॉडल पढ़ रहा है, कोई वास्तविक लोग नहीं हैं, कोई लोगो या पाठ नहीं है।
यह डेवलपर्स, शोधकर्ताओं और AI टीमों के लिए है जो एजेंट मॉडल बनाने का एक कॉम्पैक्ट तरीका ढूंढ रहे हैं जो विज्ञान के बारे में तर्क दे सकते हैं और उपकरण का उपयोग कर सकते हैं। एक्सियन 1.0 ने Open Agent Foundation Models, सरलीकृत पेश किया हैः एक पोस्ट-प्रशिक्षण दृष्टिकोण जो नुस्खा को संक्षिप्त रखता है जबकि मजबूत वैज्ञानिक तर्क और टूल का उपयोग करने का लक्ष्य रखता है।
लगभग 18K पर्यवेक्षित fine-tuning उदाहरणों के साथ एक छोटा नुस्खा
Axion 1.0 की घोषणा में कहा गया है कि मॉडल लगभग 18K SFT उदाहरणों से सीखता है। एसएफटी का अर्थ पर्यवेक्षित fine-tuning है, जहां मॉडल को वांछित आउटपुट के साथ उदाहरणों पर प्रशिक्षित किया जाता है। नुस्खा दो हल्के पर्यवेक्षण वाले fine-tuning -चरणों का उपयोग करता है, फिर reinforcement learning. यहां reinforcement learning का मतलब है कि केवल निश्चित उदाहरणों के बजाय अपने स्वयं के कार्यों पर प्रतिक्रिया के माध्यम से मॉडल बेहतर होता है।
प्रशिक्षण पथ को तीन लक्ष्यों में विभाजित किया गया है। पहला, चुनौतीपूर्ण, स्व-निहित वैज्ञानिक समस्याओं को बनाने के लिए मॉडल-जागरूक निर्माण का उपयोग करके तर्क करना सीखें। दूसरा, सत्यापन योग्य कार्यों के माध्यम से जांच करना सीखना जिसके लिए जानकारी प्राप्त करने और उपकरणों का उपयोग करने की आवश्यकता होती है। तीसरा, एजेंट ट्रेजेक्टरीज पर reinforcement learning लागू करके बातचीत द्वारा सीखना, जिसका अर्थ है कि किसी कार्य पर काम करते समय मॉडल द्वारा किए जाने वाले कार्यों का पूरा अनुक्रम।
35B और 122B छह सेटिंग्स पर प्रतिस्पर्धी स्कोर के लिए लक्ष्य
Axion 1.0-35B और 122B को छह मूल्यांकन सेटिंग्स में प्रतिस्पर्धी परिणाम प्राप्त करने के रूप में वर्णित किया गया हैः HLE, BioMysteryBench, SEAL-0, HiPhO, और फ्रंटियरसाइंस के ओलंपियाड और अनुसंधान विभाजन।
Axion 1.0-35B प्रजनन जांच बिंदु के लिए, रिपोर्ट किए गए स्कोर: हैं
- HLE: 52.8
- जैव रहस्य बेंचः 35.3
- सील-0: 60.4
- HiPhO: 45.9
- फ्रंटियर साइंस ओलंपियाडः 85.0
- फ्रंटियर साइंस रिसर्च: 55.0
सबसे मजबूत सूचीबद्ध स्कोर FrontierScience Olympiad पर 85.0 है, जबकि 52.8 एचएलई परिणाम रिलीज़ में प्रमुख संख्याओं में से एक है। घोषणा उसी स्कोर सूची में 122B मॉडल के लिए अलग बेंचमार्क नंबर प्रदान नहीं करती है।
अपाचे 2.0 चेकपॉइंट क्यों महत्वपूर्ण है
Axion 1.0-35B प्रजनन चेकपॉइंट अब अपाचे 2.0 के तहत उपलब्ध है, एक व्यापक रूप से इस्तेमाल किया जाने वाला open-source software लाइसेंस। पाठकों के लिए, यह एजेंट-उन्मुख वैज्ञानिक तर्क और उपकरण उपयोग कार्य के लिए प्रारंभिक बिंदु के रूप में निरीक्षण और पुनः उपयोग के लिए चेकप्वाइंट को उपलब्ध कराता है।
रिलीज़ पेपर, प्रोजेक्ट पेज, कोड और training data की ओर भी इशारा करती है ताकि पाठक यह पता लगा सकें कि लगभग 18K पर्यवेक्षित fine-tuning उदाहरण और तीन सीखने के चरण एक साथ कैसे फिट होते हैं।
जांच करने के लिए संसाधन
- कागजः https://arxiv.org/abs/2611.03233
- परियोजना: https://axion1-0.github.io/
- कोडः https://github.com/bytedance/axion1_0
- training data : https://huggingface.co/datasets/Axion1-0/axion-training-data
- मॉडल (35B प्रजनन): https://huggingface.co/Axion1-0/Axion-1.0-35B
Comments (0)