अधिक सुरक्षित AI प्रणालियों को विकसित करने के लिए US CAISI और UK AISI के साथ भागीदारी
OpenAI ने US Center के लिए AI Standards और इनोवेशन (CAISI) और UK AI Security Institute (AISI) के साथ अपनी चल रही साझेदारी का विवरण दिया। सरकारी विशेषज्ञों को खतरनाक क्षमताओं, सुरक्षा कमजोरियों और दुरुपयोग जोखिमों के परीक्षण के लिए फ्रंटियर मॉडल तक प्रारंभिक, पूर्व-विनियोजन पहुंच प्राप्त होती है। निष्कर्ष OpenAI के सुरक्षा प्रशिक्षण और तैनाती निर्णयों में वापस आते हैं, जबकि संस्थान भविष्य के AI मानकों और विनियम को सूचित करने के लिए पहले से ज्ञान हासिल करते हैं।
ओपनएआई ने दो सरकारी समर्थित AI सुरक्षा संस्थानों के साथ अपने चल रहे सहयोग पर एक अद्यतन साझा किया है 89 US Center के लिए AI Standards और इनोवेशन (CAISI, जिसे पहले US AI Safety Institute के रूप में जाना जाता था) और UK AI Security Institute (AISI) । यदि आप इस बात का पालन करते हैं कि उन्नत AI मॉडल कैसे परीक्षण और विनियमित किए जाते हैं, तो यह अपडेट मायने रखता हैः यह एक दुर्लभ झलक प्रदान करता है कि अग्रणी AI लैब और सार्वजनिक क्षेत्र के निकाय कैसे रिलीज़ से पहले और बाद में सीमांत मॉडलों का मूल्यांकन करने के लिए मिलकर काम कर रहे हैं। यह लेख बताता है कि साझेदारी क्या शामिल है, अब तक क्या हुआ है, और क्यों यह आकार दे सकता है कि दुनिया भर में AI सुरक्षा कैसे अभ्यास की जाती है।
साझेदारी किस बारे में है
सहयोग के पीछे मूल विचार सरल हैः स्वतंत्र सरकारी विशेषज्ञों को ओपनएआई के नवीनतम मॉडलों तक प्रारंभिक, पूर्व-विनियोजन पहुंच मिलती है, साथ ही वे जो कुछ भी पाते हैं उसके बारे में रिपोर्ट करने के लिए एक औपचारिक चैनल होता है। केवल कंपनी की आंतरिक सुरक्षा जांच पर भरोसा करने के बजाय, बाहरी विशेषज्ञ खुद मॉडल की जांच कर सकते हैं - खतरनाक क्षमताओं, सुरक्षा कमजोरियों और व्यवहार का परीक्षण करते हुए यदि सिस्टम का दुरुपयोग किया गया तो जोखिम पैदा हो सकता है।
यह व्यवस्था 2024 में ओपनएआई द्वारा हस्ताक्षरित समझौतों से विकसित हुई थी, जो तब US AI Safety Institute और UK AI Safety Institute नाम के थे। इसके बाद से दोनों संस्थानों का नाम बदल दिया गया है और पुनर्गठन किया गया है 89 UK निकाय अब AI Security Institute है, और US प्रयास अब CAISI के तहत बैठता है लेकिन स्वतंत्र मॉडल मूल्यांकन का अंतर्निहित मिशन बना हुआ है।
वास्तव में अब तक क्या हुआ है
ओपनएआई के अद्यतन के अनुसार, साझेदारी कागजी कार्रवाई से अभ्यास में स्थानांतरित हो गई है। दोनों संस्थानों की टीमों को सार्वजनिक लॉन्च से पहले हालिया OpenAI मॉडल तक पहुंच प्राप्त हुई है, जिसमें प्रमुख रिलीज़ से जुड़े परीक्षण भी शामिल हैं। संस्थान इस बात की जांच करते हैं कि तनाव के तहत मॉडल कैसे व्यवहार करते हैंः क्या वे हानिकारक कार्यों में मदद कर सकते हैं, चाहे वे दुरुपयोग प्रयासों का विरोध करें और क्या घोषित सुरक्षा उपाय व्यावहारिक रूप से बनाए रखें।
प्रगति की रिपोर्ट से कुछ तत्वों को उजागर किया गया है। वे हैं: - 1.
- प्रक्षेपण से पहले प्रारंभिक पहुंच। संस्थान के शोधकर्ता मॉडल का मूल्यांकन कर सकते हैं जबकि विकास अभी भी चल रहा है, जिससे ओपनएआई को जनता द्वारा सिस्टम देखने से पहले निष्कर्षों पर कार्य करने का समय मिलता है।
- दो-तरफा प्रतिक्रिया लूप। सरकारी परीक्षकों के निष्कर्ष ओपनएआई में वापस आते हैं, मॉडल व्यवहार, सुरक्षा प्रशिक्षण और तैनाती निर्णयों में परिवर्तन को सूचित करते हैं।
- सुरक्षा के साथ-साथ सुरक्षा पर भी ध्यान दें। UK संस्थान का नाम और जोर में बदलाव न केवल मॉडल क्या कर सकते हैं, बल्कि सिस्टम को छेड़छाड़, चोरी या हमले से कितनी अच्छी तरह संरक्षित किया जाता है, इसकी बढ़ती चिंता को दर्शाता है।
ओपनएआई इसे एक व्यापक प्रतिबद्धता के हिस्से के रूप में फ्रेम करता हैः शक्तिशाली AI का निर्माण जिम्मेदारी से बाहरी जांच को आमंत्रित करने का मतलब है, न कि केवल सावधान रहने का दावा करना।
स्वतंत्र मूल्यांकन क्यों महत्वपूर्ण है
जब कोई कंपनी अपने स्वयं के सुरक्षा रिकॉर्ड की प्रशंसा करती है, तो संदेह करना आसान होता है। यही कारण है कि इस तरह की व्यवस्थाएं मौजूद हैं। जब सरकारी तकनीकी कर्मचारी - जो लोग OpenAI को रिपोर्ट नहीं करते और इसके शेयरधारकों को जवाब नहीं देते - एक मॉडल का तनाव-परीक्षण कर सकते हैं, परिणाम जनता के साथ अधिक वजन रखते हैं, अन्य सरकारों के साथ, और व्यापक शोध समुदाय के साथ।
साझेदारी संस्थानों को भी मदद करती है। सीमांत मॉडल का मूल्यांकन एक विशेष कौशल है, और हाथ से पहुंच इन एजेंसियों को वास्तविक डेटा देती है कि अत्याधुनिक प्रणालियां कैसे व्यवहार करती हैं। यह अनुभव तब मानकों, नीतिगत सिफारिशों और भविष्य के नियामक ढांचे को सूचित कर सकता है। वास्तव में, दोनों पक्ष कुछ मूल्यवान सीखते हैंः ओपनएआई विशेषज्ञ की जांच प्राप्त करता है और संस्थान उस तकनीक का प्रत्यक्ष ज्ञान प्राप्त करते हैं जिसे वे अंततः शासन करने में मदद कर सकते हैं।
संस्थानों के संसाधन उन प्रयोगशालाओं की तुलना में छोटे हैं जिनका वे मूल्यांकन करते हैं, और स्वैच्छिक व्यवस्थाएं बाध्यकारी नियमों के समान नहीं हैं। आलोचकों ने "सुरक्षा" और "संरक्षण" फ़्रेमिंग के बीच तनाव को भी नोट किया है 89 एक US इंस्टीट्यूट को कथित तौर पर व्यापक सुरक्षा सवालों के बजाय राष्ट्रीय-सुरक्षा और रक्षा उपयोग पर जोर देने के लिए कहा गया था, जैसे कि पूर्वाग्रह और मानसिक स्वास्थ्य प्रभाव। ये लाइव बहस हैं और यह प्रगति अद्यतन उन्हें व्यवस्थित नहीं करता है।
अगला क्या है
ओपनएआई का कहना है कि सहयोग जारी रहेगा और गहरा होगा, दोनों संस्थानों को एक ही पूर्व-विनियोजन परीक्षण मॉडल के तहत भविष्य के मॉडलों तक पहुंच प्राप्त होगी। AI क्षमताओं में वृद्धि के साथ, मूल्यांकन का दायरा भी विस्तारित होने की उम्मीद है न केवल जो मॉडल आज कर सकते हैं, बल्कि अधिक जोखिम भरी क्षमताएं जो अधिक उन्नत प्रणालियों में उभर सकती हैं।
रोजमर्रा के उपयोगकर्ताओं के लिए, यह कुछ भी नहीं बदलता है कि चैटजीपीटी कल कैसे काम करता है। लेकिन समय के साथ, इस तरह का परीक्षण बुनियादी ढांचा पूरे उद्योग में एक मानक अपेक्षा बन सकता हैः स्वतंत्र समीक्षा के बिना कोई प्रमुख मॉडल लॉन्च नहीं किया जा सकता। एंथ्रोपिक और Google DeepMind सहित अन्य प्रयोगशालाओं ने समान संस्थानों के साथ इसी तरह की प्रतिबद्धताओं को बनाया है, इसलिए ओपनएआई अकेले कार्य करने के बजाय व्यापक, अभी भी विकसित होने वाले मानदंड का हिस्सा है।
टेकअवे
OpenAICACAISIAISI साझेदारी AI पर्यवेक्षण में एक व्यावहारिक प्रयोग का प्रतिनिधित्व करती हैः सरकारी विशेषज्ञ, प्रारंभिक पहुंच और प्रत्यक्ष रिपोर्टिंग लाइन, सभी मॉडल जनता तक पहुंचने से पहले। अद्यतन दिखाता है कि व्यवस्था काम कर रही है मूल्यांकन हो रहे हैं, निष्कर्ष साझा किए जा रहे हैं और दोनों पक्ष जारी रखने के लिए मूल्य देखते हैं। क्या यह पर्याप्त होगा क्योंकि मॉडल अधिक सक्षम होते जाते हैं एक खुला प्रश्न है, लेकिन यह सबसे ठोस उदाहरणों में से एक है कि कैसे सीमावर्ती AI डेवलपर्स और लोकतांत्रिक सरकारें सुरक्षा पर मिलकर काम कर सकती हैं। इस भागीदारी को परिपक्व करने का अवलोकन करना यह समझने का एक अच्छा तरीका है कि AI शासन वास्तव में कहां जा रहा है - न केवल प्रेस विज्ञप्ति में बल्कि व्यवहार में भी।
Comments (0)