आयु का अनुमान लगाने के लिए हमारी विधि
OpenAI ने ChatGPT के लिए एक आयु-अनुमान प्रणाली को रोल आउट करना शुरू कर दिया है जो व्यवहार संकेतों के आधार पर भविष्यवाणी करता है कि क्या कोई खाता 18 वर्ष से कम उम्र के किसी व्यक्ति का है। ध्वजांकित खाते सख्त सामग्री गार्डरेल्स के साथ सुरक्षित किशोर मोड में स्विच करते हैं। नाबालिगों के रूप में गलत तरीके से वर्गीकृत वयस्क पूर्ण पहुंच हासिल करने के लिए अपनी उम्र की पुष्टि कर सकते हैं। यह कदम AI प्लेटफार्मों के लिए बढ़ते नियामक और अभिभावकीय दबाव का जवाब देता है ताकि वे नाबालिक उपयोगकर्ताओं की सुरक्षा कर सकें, स्व-रिपोर्ट किए गए जन्म तिथियों से परे जा सके जिन्हें आसानी से नकली बनाया जा सकता है।
OpenAI के युवा उपयोगकर्ताओं को कैसे संभाल रहा है, इस बारे में कोई भी उत्सुक व्यक्ति अपने नए आयु-अनुमान प्रणाली को समझना चाहेगा। कंपनी ने एक ऐसी तकनीक शुरू कर दी है जो भविष्यवाणी करती है कि क्या खाता 18 वर्ष से कम या उससे अधिक उम्र के किसी व्यक्ति का है और यह उन खातों पर मजबूत सुरक्षा सेटिंग्स लागू करता है जिनके बारे में उसका मानना है कि वे किशोर हैं। यहां सादे अंग्रेजी में टूटने की बात है जो बदल रहे हैं, क्यों महत्वपूर्ण है, और इसका अर्थ दोनों युवा उपयोगकर्ताओं और वयस्कों के लिए है।
युग पूर्वानुमान कैसे काम करता है
OpenAI की नई प्रणाली विश्लेषण करती है कि खाते कैसे व्यवहार करते हैं और उस संकेत का उपयोग यह अनुमान लगाने के लिए करता है कि क्या उपयोगकर्ता नाबालिग होने की संभावना है। जब ChatGPT को संदेह होता है कि कोई खाता 18 वर्ष से कम उम्र के किसी व्यक्ति का है, तो वह स्वचालित रूप से उस खाते को किशोरों के लिए डिज़ाइन किए गए सुरक्षित मोड में स्विच कर देता है। यह मोड कुछ प्रकार की सामग्री को प्रतिबंधित करता है और संवेदनशील विषयों के आसपास अतिरिक्त गार्डरेल लागू करता है।
कंपनी ने स्वीकार किया है कि कोई भी पूर्वानुमान प्रणाली सही नहीं है। कुछ वयस्कों को गलती से किशोर के रूप में चिह्नित किया जा सकता है, और कुछ किशोर वयस्क के तौर पर फिसल सकते हैं। इस वजह से OpenAI का कहना है कि यह समय के साथ सिस्टम की सटीकता को परिष्कृत करने की योजना बना रहा है, वास्तविक दुनिया के उपयोग से सीखते हुए अनुमानों को कैसे समायोजित करता है।
क्या होता है जब आप 18 वर्ष से कम के रूप में चिह्नित कर रहे हैं
यदि ChatGPT का अनुमान है कि कोई खाता एक किशोर से संबंधित है, तो कई सुरक्षाएं शुरू होती हैं। अनुभव मानक वयस्क खाते की तुलना में अधिक प्रतिबंधात्मक हो जाता है, जिसका उद्देश्य युवा उपयोगकर्ताओं को ऐसी सामग्री से बचाना है जो उनकी आयु वर्ग के लिए उपयुक्त नहीं है।
गलत तरीके से चिह्नित वयस्कों के लिए, उम्मीद है कि उनकी वास्तविक आयु की पुष्टि करने और पूर्ण पहुंच हासिल करने का एक तरीका होगा। OpenAI ने संकेत दिया है कि वह झूठे सकारात्मक को कम करना चाहता है ताकि वयस्क उपयोगकर्ता अनावश्यक रूप से मंच की पूरी क्षमताओं से बाहर न हों। फिर भी, जो कोई भी ChatGPT का उपयोग कर रहा है उसे पता होना चाहिए कि यदि सिस्टम का अनुमान गलत है तो उनका खाता अस्थायी रूप से किशोर श्रेणी में आ सकता है।
OpenAI अब यह क्यों कर रहा है
AI chatbots लाखों युवाओं के दैनिक जीवन का हिस्सा बन गए हैं, और नियामक, माता-पिता और सुरक्षा अधिवक्ता कंपनियों को नाबालिग उपयोगकर्ताओं के लिए अधिक जिम्मेदारी लेने के लिए धक्का दे रहे हैं।
ChatGPT में सीधे आयु अनुमान का निर्माण करके, OpenAI इन चिंताओं से आगे निकलने की कोशिश कर रहा है। साइन अप करते समय केवल जन्म तिथि पर भरोसा करने के बजाय - जिसे आसानी से नकली किया जा सकता है - कंपनी अपना निर्णय लेने के लिए व्यवहार संकेतों का उपयोग कर रही है। यह एक अधिक सक्रिय दृष्टिकोण है, भले ही यह त्रुटिहीन न हो।
रोजमर्रा के उपयोगकर्ताओं के लिए इसका क्या अर्थ है
अधिकांश वयस्क उपयोगकर्ताओं के लिए, कुछ भी नहीं बदलेगा। यदि सिस्टम सही ढंग से आपको 18 वर्ष से अधिक की पहचान करता है, तो आप पहले की तरह ChatGPT का उपयोग करना जारी रखेंगे। परिवर्तन मुख्य रूप से उन खातों को प्रभावित करते हैं जिन्हें किशोरावस्था से संबंधित बताया गया था, साथ ही बड़ी संख्या में वयस्कों को गलत वर्गीकृत किया जाता है।
माता-पिता के लिए, यह सुरक्षा की एक परत जोड़ता है जो कि बच्चे को अपनी उम्र के बारे में सच्चाई बताने पर निर्भर नहीं करता है। किशोरों के लिए इसका मतलब कुछ अनुरोधों के आसपास तंग सीमाओं के साथ ChatGPT अनुभव होता है। और सभी के लिए यह संकेत देता है कि उद्योग कहां जा रहा हैः AI प्लेटफार्मों से तेजी से उम्मीद की जाती है कि वे अपने उपयोगकर्ताओं को जानते हैं या कम से कम अनुमान लगाते हैं और तदनुसार समायोजित करते हैं।
जैसे-जैसे सिस्टम परिपक्व होता है, OpenAI से यह उम्मीद करने की अपेक्षा करें कि यह उपयोगकर्ता स्वतंत्रता के साथ सटीकता को कैसे संतुलित करता है। आयु अनुमान अभी भी एक विकासशील तकनीक है, और यह व्यवहार में कितनी अच्छी तरह काम करता है इस पर निर्भर करेगा कि कंपनी ने निरंतर सुधार करने का वादा किया है।
Comments (0)