AI के शासन को आगे बढ़ाना

यदि आप सोच रहे हैं कि क्या शक्तिशाली AI सिस्टम बनाने वाली कंपनियां सुरक्षा को गंभीरता से ले रही हैं, तो OpenAI और अन्य अग्रणी प्रयोगशालाओं की स्वैच्छिक प्रतिबद्धताओं की हालिया लहर एक स्पष्ट तस्वीर प्रदान करती है। यह लेख बताता है कि इन प्रतिबद्धताओं में क्या शामिल है, वे क्यों महत्वपूर्ण हैं, और उन्हें मूल्यांकन करते समय आपको किन सीमाओं को ध्यान में रखना चाहिए।

स्वैच्छिक प्रतिज्ञाओं में क्या शामिल है

OpenAI , कई अन्य प्रमुख AI डेवलपर्स के साथ, सार्वजनिक रूप से साझा सिद्धांतों के एक सेट पर सहमत हुए हैं जो artificial intelligence को अधिक सुरक्षित और विश्वसनीय बनाने के लिए डिज़ाइन किए गए हैं। ये सरकारी जनादेश नहीं हैं। इसके बजाय, वे स्वयं प्रयोगशालाओं द्वारा कुछ प्रथाओं का पालन करने का सार्वजनिक वादा करते हैं क्योंकि प्रौद्योगिकी विकसित होती है।

प्रतिबद्धताएं आम तौर पर तीन व्यापक क्षेत्रों में केंद्रित हैंः

सुरक्षा परीक्षण। प्रयोगशालाओं ने जनता के लिए जारी करने से पहले AI नई प्रणालियों का गहन परीक्षण करने पर सहमति व्यक्त की है। इसका मतलब खतरनाक क्षमताओं, पक्षपाती व्यवहार और अन्य जोखिमों की जांच करना और उन मूल्यांकनों के परिणामों को किसी भी रूप में नियामकों और शोधकर्ताओं के साथ साझा करना है।

सुरक्षा उपाय। कंपनियों ने चोरी और दुरुपयोग से अपने AI मॉडल की रक्षा करने का वादा किया। इन प्रणालियों को बनाने के लिए कितना शक्तिशाली और महंगा है, उन्हें अनधिकृत पहुंच के खिलाफ संरक्षित करना जिम्मेदार विकास का एक महत्वपूर्ण हिस्सा माना जाता है।

पारदर्शिता और विश्वास। प्रतिबद्धताओं में शामिल हैं कि मॉडल कैसे काम करते हैं, उनकी सीमाएं क्या हैं और कंपनियां उपयोगकर्ता डेटा को कैसे संभालती हैं, इसके बारे में अधिक खुला होना। लक्ष्य जनता, व्यवसायों और नीति निर्माताओं को यह स्पष्ट रूप से समझाना है कि वे AI आउटपुट पर भरोसा कर सकते हैं या नहीं।

स्वैच्छिक प्रतिज्ञाएँ क्यों ज़रूरी हैं

आप तर्कसंगत रूप से पूछ सकते हैं: यदि ये वादे कानूनी तौर पर बाध्यकारी नहीं हैं, तो क्या वे वास्तव में कुछ भी मायने रखते हैं?

सबसे पहले, वे एक सार्वजनिक मानक बनाते हैं। जब OpenAI और उसके साथियों ने अपनी प्रतिबद्धताओं को लिखित रूप में रखा है, तो उपयोगकर्ता, पत्रकार और शोधकर्ता उन वादों की ओर इशारा कर सकते हैं यदि कोई कंपनी कम दिखती है। सार्वजनिक जवाबदेही कानूनी प्रवर्तन के समान नहीं है, लेकिन यह दबाव पैदा करता है।

दूसरा, स्वैच्छिक प्रतिबद्धताएं भविष्य के विनियमन को आकार दे सकती हैं। औपचारिक नियमों का मसौदा तैयार करते समय सरकारें अक्सर उद्योग प्रथाओं पर विचार करती हैं। अब एक सामान्य आधार रेखा पर सहमत होकर, प्रयोगशालाएं यह परिभाषित करने में मदद कर सकती हैं कि जिम्मेदार AI विकास कानून में बाद में कैसा दिखता है।

यदि सभी प्रमुख प्रयोगशालाएं समान सुरक्षा परीक्षण और पारदर्शिता प्रथाओं के लिए प्रतिबद्ध हैं, तो किसी भी एकल कंपनी को सुरक्षा पर कोनों में कटौती करके लाभ प्राप्त करना कठिन हो जाता है।

ध्यान में रखने की सीमाएँ

यह इस बारे में ईमानदार होने के लायक है कि ये प्रतिबद्धताएं क्या नहीं करती हैं। क्योंकि वे स्वैच्छिक हैं, यदि कोई प्रयोगशाला चुपचाप एक को पूरा करने में विफल रहती है तो स्वचालित दंड नहीं होता है। पर्यवेक्षण काफी हद तक स्वतंत्र प्रवर्तन निकाय की बजाय बाहरी जांच पर निर्भर करता है।

दायरे का सवाल भी है. प्रतिबद्धताएं उन कंपनियों पर लागू होती हैं जिन्होंने हस्ताक्षर किए। छोटे डेवलपर्स, open-source परियोजनाओं और भाग लेने वाले समूह के बाहर के संगठनों को उनके द्वारा बाध्य नहीं किया जाता है, जो इस बारे में प्रश्न उठाता है कि समग्र जोखिम परिदृश्य वास्तव में कितना बदलता है।

अंत में, परिभाषाएं मायने रखती हैं। "सुरक्षा" और "विश्वसनीयता" जैसी शर्तों को अलग-अलग तरीकों से व्याख्या की जा सकती है। एक प्रतिबद्धता का कितनी सख्ती से पालन किया जाता है यह इस बात पर निर्भर करता है कि प्रत्येक प्रयोगशाला कैसे ठोस इंजीनियरिंग प्रथाओं और रिलीज़ निर्णयों में व्यापक वादा का अनुवाद करती है।

रोजमर्रा के उपयोगकर्ताओं के लिए इसका क्या अर्थ है

अधिकांश लोगों के लिए, इन प्रतिबद्धताओं का व्यावहारिक प्रभाव नाटकीय होने की बजाय धीरे-धीरे होता है। आप AI उत्पादों के साथ अधिक विस्तृत प्रलेखन देख सकते हैं, मॉडल सीमाओं के बारे में स्पष्ट प्रकटीकरण और सुरक्षा मूल्यांकन पर अधिक दृश्यमान रिपोर्टिंग। समय के साथ, इस तरह की खुलेपन आपको बेहतर निर्णय लेने में मदद कर सकती है कि आपके काम और दैनिक जीवन में AI उपकरणों पर कब और कैसे भरोसा किया जाए।

बड़ी तस्वीर यह है कि AI सुरक्षा एक बाद की सोच के बजाय उत्पाद विकास का एक अपेक्षित हिस्सा बन रही है। चाहे स्वैच्छिक प्रतिज्ञाओं, भविष्य के कानून या विश्वसनीयता प्रदर्शित करने के लिए प्रयोगशालाओं के बीच प्रतिस्पर्धा के माध्यम से, यात्रा की दिशा अधिक दृश्य जवाबदेही की ओर है।

सारांश

OpenAI और अन्य अग्रणी AI प्रयोगशालाओं ने सार्वजनिक, स्वैच्छिक प्रतिबद्धताओं को सुरक्षा परीक्षण, सुरक्षा और पारदर्शिता को कवर किया है। ये वादे सार्थक हैं क्योंकि वे जनता की अपेक्षाएं निर्धारित करते हैं और भविष्य के विनियमन को प्रभावित कर सकते हैं, लेकिन वे स्वतंत्र पर्यवेक्षण या बाध्यकारी कानून का विकल्प नहीं हैं। उपयोगकर्ताओं के लिए, सबसे अच्छा दृष्टिकोण सूचित रहना हैः देखें कि क्या लैब्स अपने घोषित सिद्धांतों पर अमल करते हैं, और AI प्रणाली पर कितना भरोसा करने का निर्णय लेते समय कई लोगों में से एक उपयोगी संकेत के रूप में पारदर्शी रिपोर्ट का इलाज करें।