OpenAI ने AI की उम्र में युवा उपयोगकर्ताओं को सुरक्षित रखने के लिए समर्पित एक अंतरराष्ट्रीय संगठन बनाने का प्रस्ताव दिया है। यह प्रस्ताव मजबूत सुरक्षा उपायों, साझा वैश्विक मानकों और युवाओं के लिए AI क…
OpenAI ने सरकारों और AI उद्योग के बीच सहयोग का आग्रह करते हुए एक सार्वजनिक नीति एजेंडा की घोषणा की है। इसमें चार प्राथमिकताओं को शामिल किया गया हैः स्वतंत्र मूल्यांकन के साथ सुरक्षित और विश्वसनीय AI प…
आरएसआई का सुझाव है कि LLMs अपने स्वयं के संस्करणों में सुधार करने में मदद कर सकता है, AI विकास को केवल मानव-इंजीनियरिंग से सहायक, पुनरावर्ती पुनरावृत्ति की ओर स्थानांतरित करता है।
OpenAI ने GPT-OSS -सेफगार्ड जारी किया, जो सुरक्षा वर्गीकरण के लिए डिज़ाइन किए गए ओपन-वेट रीजनिंग मॉडल (120 बी और 20 बी पैरामीटर) की एक जोड़ी है। पारंपरिक मॉडरेशन टूल के विपरीत, डेवलपर्स सादे भाषा में …
OpenAI ने Aardvark का परिचय दिया है, जो एक स्वायत्त AI- संचालित सुरक्षा शोधकर्ता है जिसे बड़े पैमाने पर software कमजोरियों को खोजने, सत्यापित करने और ठीक करने में मदद करने के लिए डिज़ाइन किया गया है। …
OpenAI का Teen Safety Blueprint निर्माण करने के लिए एक ढांचा है AI जो किशोर सुरक्षित रूप से उपयोग कर सकते हैं। यह आयु-उपयुक्त डिजाइन, माता-पिता नियंत्रण जैसे डिफ़ॉल्ट सुरक्षा, गोपनीयता संतुलन और युवा …
Jev कुछ शॉट परीक्षण चार उदाहरण प्लेसमेंट की तुलना करते हैं। कोई भी हर जगह जीतता नहीं है; समतल स्थिति जोखिम का पक्षधर है लेकिन महत्वपूर्ण गुणवत्ता प्रतिगमन का कारण बनती है।
तंत्रिका पारदर्शिता एक MIT Media Lab उपकरण है जो कस्टम AI साथी के लाइव होने से पहले संभावित chatbot व्यक्तित्व लक्षणों का पूर्वावलोकन करता है। यह आंतरिक सक्रियण पैटर्न का उपयोग करता है, उन संकेतों की …
RL-Teacher एक open-source उपकरण है जो AI एजेंटों को हाथ से तैयार किए गए इनाम कार्यों के बजाय कभी-कभी मानव प्रतिक्रिया के माध्यम से प्रशिक्षित करता है। यह जटिल वास्तविक दुनिया के कार्यों के लिए पुरस्का…
यह लेख Appia Foundation में OpenAI की भागीदारी का वर्णन करता है, जो उन्नत AI के लिए सामान्य मानक बनाने की एक पहल है। इसमें तीन स्तंभ शामिल हैंः तुलनीय और जवाबदेह मॉडल परीक्षण के लिए साझा मूल्यांकन ढां…
यह लेख बताता है कि कैसे OpenAI दो रक्षा परतों के माध्यम से GPT-5.1-Codex-Max की सुरक्षा करता हैः मॉडल स्तर का सुरक्षा प्रशिक्षण जो मॉडल को हानिकारक अनुरोधों को अस्वीकार करने और फ़ाइलों या वेब सामग्री …
शोधकर्ताओं ने एआई-जनित सारांशों में खामियों की पहचान करने के लिए AI आलोचना मॉडल को प्रशिक्षित किया, जैसे कि लापता विवरण और असमर्थित दावे। मानव समीक्षकों ने दिखाया कि इन आलोचनाओं ने अकेले समीक्षा करते …
Anthropic Frontier Red Team: GLM - 5.3 और Claude Mythos Preview को 100 द्विआधारी कार्यों पर 4% और 6% नियंत्रण-प्रवाह अपहरण मिला; पहले के मॉडल ने शून्य स्कोर किया।
OpenAI में पूर्वाग्रह को कम करने और सुरक्षा बढ़ाने के लिए एक नया दृष्टिकोण पेश कर रहा है, जिससे छवि उत्पादन मॉडल लोगों की छवियां बना सके जो दुनिया की आबादी की वास्तविक विविधता को अधिक सटीक रूप से दर्श…
DALL·E ने अपनी वेटलिस्ट को हटा दिया है, जिससे कोई भी AI के साथ तुरंत निर्माण शुरू कर सकता है। उन्नत सुरक्षा प्रणालियों और वास्तविक दुनिया की तैनाती से सबक सक्षम करके, नए उपयोगकर्ताओं को त्वरित साइन-अप…
OpenAI और अन्य अग्रणी AI प्रयोगशालाओं ने सुरक्षा परीक्षण, सुरक्षा उपायों और पारदर्शिता को कवर करते हुए अधिक सुरक्षित AI विकास के लिए स्वैच्छिक प्रतिबद्धताओं का पालन किया है। ये प्रतिज्ञा सार्वजनिक जवा…
OpenAI का विचारशील संरेखण o1 तर्क मॉडल में निर्मित एक नई सुरक्षा तकनीक है। यह अस्वीकृति पैटर्न को याद रखने के लिए मॉडलों को प्रशिक्षित करने के बजाय, उन्हें स्पष्ट लिखित सुरक्षा विनिर्देशों सिखाता है, …
यह आलेख पहले अनदेखी किए गए सिकोफैंसी मुद्दों पर करीब से नज़र डालता है। यह हमारे विश्लेषण के परिणामों की समीक्षा करता है, रास्ते में हुई गलतियों की स्पष्ट रूप से जांच करता है और AI प्रणालियों में बेहतर…
OpenAI और American Psychological Association ने मानसिक स्वास्थ्य संबंधी चिंताओं को उठाने वाले युवा उपयोगकर्ताओं के लिए ChatGPT को सुरक्षित बनाने के लिए एक साझेदारी शुरू की है। सहयोग साक्ष्य-आधारित मनो…
