AI काम के लिए

हमारी मानसिक स्वास्थ्य पहलों पर नवीनतम

OpenAI ने मानसिक स्वास्थ्य के लिए नए ChatGPT सुरक्षा उपायों की घोषणा की। परिवारों को शांत घंटे, सुविधा प्रतिबंध और संकट अधिसूचनाओं सहित अभिभावकीय नियंत्रण मिलता है। वयस्क संकट स्थितियों के लिए विश्वसनीय संपर्कों को नामित कर सकते हैं। ChatGPT को आत्महत्या, आत्म-हानि और मनोदशा संकेतों का बेहतर पता लगाने के लिए प्रशिक्षित किया जा रहा है, उपयोगकर्ताओं को पेशेवर मदद और संकट संसाधनों पर पुनर्निर्देशित करता है। एक विशेषज्ञ परिषद काम का मार्गदर्शन करती है, जबकि OpenAI उपयोगकर्ता आत्महत्याओं पर मुकदमे का सामना करती है और सुरक्षा पर पुनरावृत्ति जारी रखती है।

यदि आप स्वयं चैटजीपीटी का उपयोग करते हैं, या आपके बच्चे और किशोर इसके साथ समय बिताते हैं, तो ओपनएआई की नवीनतम सुरक्षा घोषणा आपके लिए मायने रखती है। कंपनी ने एक अपडेट साझा किया है कि यह संवेदनशील वार्तालापों को कैसे संभालता है, विशेष रूप से मानसिक स्वास्थ्य संकट वाले लोगों के बारे में। इस लेख में, हम क्या बदल रहे हैंः नए अभिभावकीय नियंत्रण, एक विश्वसनीय संपर्क सुविधा, सुधार कैसे ChatGPT किसी को संकट में पहचानता है और जहां चीजें चल रही मुकदमेबाजी के साथ खड़ी होती हैं। यहां आपको सादे भाषा में जानने की आवश्यकता है।

क्यों ओपनएआई मानसिक स्वास्थ्य पर ध्यान केंद्रित कर रहा है

चैटजीपीटी का उपयोग सैकड़ों लाखों लोगों द्वारा किया जाता है, और उनमें से कुछ वार्तालाप भारी हो जाते हैं। लोग अकेलेपन, चिंता और अंधेरे विचारों को चैटबॉट में लाते हैं, कभी-कभी ऐसे घंटों में जब दोस्त और परिवार उपलब्ध नहीं होते हैं। उस वास्तविकता ने ओपनएआई पर दबाव डाला है कि सावधानीपूर्वक विचार करें कि इसका सहायक कैसे प्रतिक्रिया करता है जब कोई संघर्ष कर रहा होता है।

कंपनी स्वीकार करती है कि इसके मॉडल हमेशा यह सही नहीं हो पाए हैं। दुर्लभ मामलों में, चैटजीपीटी संकट के संकेतों को पहचानने या उन तरीकों से जवाब देने में विफल हो सकता था जो सहायक नहीं थे। ओपनएआई का कहना है कि वह चिकित्सकों और सुरक्षा विशेषज्ञों के साथ काम कर रहा है ताकि सिस्टम इन क्षणों को कैसे संभाल सके, और नए उपाय उस निरंतर प्रयास को प्रतिबिंबित करें।

नए अभिभावकीय नियंत्रण और भरोसेमंद संपर्क

परिवारों के लिए हेडलाइन फीचर अभिभावकीय नियंत्रण का एक सेट है। माता-पिता अपने किशोर के खाते से अपने खाते को लिंक करने में सक्षम होंगे, जिससे उन्हें इस बात की निगरानी मिलेगी कि उपकरण का उपयोग कैसे किया जा रहा है। प्रमुख विकल्पों में शामिल हैंः

  • उपयोग नियंत्रण माता-पिता शांत घंटे सेट कर सकते हैं, जिसमें रात भर स्वचालित रूप से चैटजीपीटी बंद करना भी शामिल है।
  • विशेषता प्रतिबंध परिवार कुछ क्षमताओं को अक्षम कर सकते हैं, जैसे आवाज मोड, स्मृति और छवि पीढ़ी, यदि माता-पिता अधिक सीमित अनुभव पसंद करते हैं।
  • संकट अधिसूचनाएँ ऐसी स्थितियों में जहां चैटजीपीटी का पता चलता है कि एक किशोर गंभीर संकट में हो सकता है और मानवीय निर्णय की आवश्यकता होती है, ओपनएआई का कहना है कि प्रशिक्षित समीक्षक कदम उठा सकते हैं, और सबसे गंभीर मामलों में माता-पिता को सूचित किया जा सकता है। कंपनी जोर देकर कहती है कि यह केवल गंभीर, स्पष्ट परिस्थितियों पर लागू होगा।

अभिभावकीय नियंत्रण के साथ, ओपनएआई वयस्क उपयोगकर्ताओं के लिए भी "विश्वसनीय संपर्क" अवधारणा पेश कर रहा है। विचार यह है कि यदि सिस्टम संकेतों का पता लगाता है कि कोई वास्तविकता से संपर्क खो सकता है या तीव्र संकट में हो सकता है, तो वह उस व्यक्ति को एक निर्दिष्ट संपर्क से जोड़ने का सुझाव दे सकता है जो उन्हें देख सकता है। इसे स्वचालित हैंडऑफ के बजाय मानव समर्थन की ओर धक्का देने के रूप में डिज़ाइन किया गया है।

संकट का बेहतर पता लगाना और सुरक्षित प्रतिक्रिया

अद्यतन का दूसरा स्तंभ चैटजीपीटी की वास्तविक प्रतिक्रियाओं को बेहतर बनाने के बारे में है। ओपनएआई का कहना है कि यह परिष्कृत कर रहा है कि मॉडल आत्महत्या, आत्म-हानिकार और संभावित मनोभ्रंश या उन्माद से जुड़ी बातचीत को कैसे संभालता है।

जब कोई बातचीत गंभीर संकट के संकेत दिखाती है, तो चैटजीपीटी को देखभाल के साथ प्रतिक्रिया करने के लिए प्रशिक्षित किया जा रहा है, व्यक्ति को वास्तविक दुनिया में समर्थन तक पहुंचने के लिए प्रोत्साहित करें और उन्हें हॉटलाइन जैसे संकट संसाधनों की ओर निर्देशित करें। लक्ष्य यह है कि सहायक उच्च जोखिम वाले क्षणों में चिकित्सक या विश्वासपात्र की भूमिका निभाने से बचें, और इसके बजाय पेशेवर सहायता और उनके आसपास के लोगों के लिए व्यक्ति को पुल बनाने में मदद करें।

OpenAI यह भी नोट करता है कि इस काम का मार्गदर्शन करने के लिए मनोचिकित्सा, बाल चिकित्सा और मानसिक स्वास्थ्य में चिकित्सकों और शोधकर्ताओं सहित विशेषज्ञों की एक परिषद को इकट्ठा किया गया है। कंपनी इन परिवर्तनों को समाप्त होने के बजाय चल रहे रूप से तैयार करती है, और कहती है कि यह प्रतिक्रिया और वास्तविक दुनिया के साक्ष्य के आधार पर पुनरावृत्ति जारी रखेगी।

मुकदमे की स्थिति

घोषणा कानूनी मामलों को भी छूती है। ओपनएआई उन मामलों से जुड़े मुकदमों का सामना कर रहा है जहां उपयोगकर्ताओं की आत्महत्या के कारण मृत्यु हो गई, वादी ने आरोप लगाया कि चैटजीपीटी ने हानिकारक भूमिका निभाई थी। कंपनी का कहना है कि वह इन मामलों की सावधानीपूर्वक समीक्षा कर रही है और चिंताओं को गंभीरता से ले रही है।

ओपनएआई की स्थिति यह है कि ये स्थितियां दिल तोड़ने वाली हैं और वह बेहतर करना चाहता है, जबकि आज तक अपने काम का बचाव भी करता है। कंपनी का कहना है कि घोषित किए गए जैसे सुरक्षा सुधार आंशिक रूप से इन कठिन मामलों से सीखे जाने के जवाब में हैं। पाठकों को ध्यान देना चाहिए कि मुकदमेबाजी विवरण विकसित होते रहते हैं, और परिणाम अनिश्चित बने हुए हैं।

अलग से, ओपनएआई ने कहा है कि यह सरकारी भागीदारों और सुरक्षा संस्थानों के साथ व्यापक मूल्यांकन पर काम कर सकता है कि इसके मॉडल संवेदनशील वार्तालापों को कैसे संभालते हैं - एक संकेत है कि कंपनी इस क्षेत्र में बढ़ते नियामक ध्यान का सामना करने की उम्मीद करती है।

रोजमर्रा के उपयोगकर्ताओं के लिए इसका क्या अर्थ है

अधिकांश वयस्कों के लिए, चैटजीपीटी का दिन-प्रतिदिन का अनुभव नाटकीय रूप से अलग नहीं लगेगा। परिवर्तन मुख्य रूप से तब शुरू होते हैं जब बातचीत संकट क्षेत्र को छूती है। हालांकि, किशोरों के माता-पिता के लिए प्रभाव अधिक तात्कालिक होता हैः लिंक्ड-खाता नियंत्रण स्थापित करने से परिवारों को पर्यवेक्षण की एक वास्तविक परत मिलती है जो पहले मौजूद नहीं थी।

यदि आप माता-पिता हैं, तो उपलब्ध सेटिंग्स की समीक्षा करने और स्वस्थ उपयोग के बारे में अपने किशोर से बातचीत करने के लिए कुछ मिनट लेने लायक है। अगर आप एक वयस्क उपयोगकर्ता हैं, यह जानकर कि चैटजीपीटी गंभीर संकट को मानव सहायता की ओर पुनर्निर्देशित किया जा रहा है आश्वस्त हो सकता है और यह एक अच्छा अनुस्मारक है कि chatbot पेशेवर देखभाल का विकल्प नहीं है।

ओपनएआई ने इस विषय पर अधिक प्रकाशित करने के लिए प्रतिबद्ध किया है क्योंकि काम विकसित होता है, इसलिए परिवार और उपयोगकर्ता समय के साथ आगे के अपडेट की उम्मीद कर सकते हैं।

टैगः OpenAI, चैट जीपीटी, मानसिक स्वास्थ्य, अभिभावकीय नियंत्रण, AI सुरक्षा

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.