उपकरण समीक्षाएँ

Cerebras के साथ OpenAI टीमों

OpenAI ने अपने AI स्टैक में 750 मेगावाट हाई-स्पीड कंप्यूटिंग क्षमता जोड़ने के लिए चिपमेकर सेरेब्रास के साथ साझेदारी की है। Using Cerebras' wafer स्केल इंजन, सौदा तेजी से अनुमान को लक्षित करता है, तर्क-भारी और रीयल-टाइम वर्कलोड के लिए ChatGPT प्रतिक्रिया विलंबता को कम करता है। यह कदम AI प्रयोगशालाओं की एक व्यापक प्रवृत्ति को दर्शाता है जो hardware भागीदारी के माध्यम से गणना को सुरक्षित करते हैं, जबकि Cerebras के अपरंपरागत चिप डिज़ाइन को मान्य करते हैं।

मेटा विवरणः OpenAI ने सेरेब्रस के साथ 750 मेगावाट की समर्पित AI कंप्यूटिंग जोड़ने के लिए टीम बनाई, जिससे अनुमान विलंबता में कटौती हुई और ChatGPT को ध्यान देने योग्य रूप से तेज महसूस हुआ। (150 वर्ण)

टैगः OpenAI , सेरेब्रस, AI अवसंरचना

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> दो शैलीबद्ध server आकारों के बीच प्रवाहित चमकदार डेटा धाराओं का एक मैत्रीपूर्ण, अमूर्त चित्रण, नरम नीले और नारंगी रंग में प्रस्तुत किया गया। कोई लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं है।

OpenAI टैप्स सेरेब्रस 750 मेगावाट तेज AI कंप्यूटिंग जोड़ने के लिए

यदि आप ChatGPT का उपयोग करते हैं और कभी प्रतिक्रिया उत्पन्न करने के दौरान थोड़ा अंतराल देखा है, तो एक नया बुनियादी ढांचा सौदा ठीक करना है। OpenAI ने चिपमेकर सेरेब्रास के साथ 750 मेगावाट की उच्च-गति कंप्यूटिंग क्षमता को अपने AI स्टैक में लाने के लिए साझेदारी की घोषणा की है। लक्ष्य सरल हैः AI मॉडल के जवाब देने में कितना समय लगता है, विशेष रूप से वास्तविक समय कार्यभारों के लिए जहां हर मिलीसेकंड मायने रखता है। इस लेख में, हम यह तोड़ देंगे कि सौदे में क्या शामिल है, अनुमान गति इतनी बड़ी बात क्यों है, और इसका मतलब दैनिक उपयोगकर्ताओं के लिए क्या हो सकता है।

साझेदारी में क्या शामिल है

समझौते के तहत, सेरेब्रास 750 मेगावाट की रेटेड कंप्यूटिंग क्षमता के साथ OpenAI की आपूर्ति करेगा। यह आंकड़ा hardware द्वारा ली जा सकने वाली शक्ति की मात्रा को संदर्भित करता है, जो AI- data center क्षमता के विशाल पैमाने को मापने का एक सामान्य तरीका है। इसे परिप्रेक्ष्य में रखने के लिए, 750 मेगावॉट सैकड़ों हजारों घरों को बिजली देने के लिए पर्याप्त बिजली है, जिससे आपको JUST की भावना मिलती है कि कितनी कम्प्यूटिंग मांसपेशियां जुड़ रही हैं।

सेरेब्रास एक विशिष्ट चिप कंपनी नहीं है। कई छोटी चिप्स को एक साथ वायर्ड करने के बजाय, यह wafer स्केल इंजन का निर्माण करता है - अनिवार्य रूप से विशाल एकल चिप्स जो एक इकाई में प्रोसेसरों की पूरी मात्रा को पैक करते हैं। इस डिजाइन से डेटा पारंपरिक सेटअप की तुलना में बहुत तेज़ी से चिप पर स्थानांतरित हो सकता है, जहां जानकारी को कई अलग-अलग प्रोसेसर्स के बीच कूदना पड़ता है।

अनुमान गति क्यों मायने रखती है

AI मॉडल को प्रशिक्षित करना एक बार का (या कभी-कभी) प्रयास है, लेकिन अनुमान लगाना - जब आप कोई संकेत टाइप करते हैं तो वास्तव में उत्तर उत्पन्न करने की प्रक्रिया - दिन में अरबों बार होती है। प्रत्येक चैट संदेश, हर कोडिंग सुझाव और प्रत्येक छवि विवरण के लिए अनुमान गणना की आवश्यकता होती है.

जैसे-जैसे अधिक लोग ChatGPT का उपयोग करते हैं और जैसा कि मॉडल उत्तर देने से पहले चरणबद्ध तरीके से समस्याओं के माध्यम से "सोचने" की क्षमता प्राप्त करते हैं, प्रति उपयोगकर्ता अनुमानित कार्य की मात्रा बढ़ती रहती है। तेजी से अनुमान लगाना JUST त्वरित प्रतिक्रियाओं का मतलब नहीं है। इसका अर्थ यह भी है कि मॉडल एक ही समय में अधिक चरणों के साथ तर्क कर सकते हैं, जो जटिल प्रश्नों के लिए बेहतर गुणवत्ता वाले उत्तरों में तब्दील हो सकता है।

ChatGPT उपयोगकर्ताओं के लिए इसका क्या अर्थ है

औसत व्यक्ति के लिए, सबसे अधिक ध्यान देने योग्य परिवर्तन गति होना चाहिए। तर्क की लंबी श्रृंखलाओं, वास्तविक समय वार्तालाप या आवाज बातचीत से जुड़ी प्रतिक्रियाएं वे क्षेत्र हैं जहां विलंबता में कटौती सबसे ज्यादा महसूस होती है। OpenAI के मंच पर अनुप्रयोगों का निर्माण करने वाले डेवलपर्स भी लाभान्वित हो सकते हैं, क्योंकि तेजी से प्रतिक्रिया समय AI सुविधाओं को बनाना आसान बनाता है जो धीमे होने के बजाय तत्काल महसूस करते हैं।

यह ध्यान देने योग्य है कि OpenAI ने इस क्षमता के ऑनलाइन होने या व्यवस्था की विस्तृत मूल्य निर्धारण शर्तों के लिए एक सटीक लॉन्च तिथि निर्दिष्ट नहीं की है, इसलिए उपयोगकर्ताओं को रात भर के बजाय धीरे-धीरे रोल आउट करने की उम्मीद करनी चाहिए।

AI बुनियादी ढांचे में एक व्यापक रुझान

यह सौदा AI प्रयोगशालाओं और hardware निर्माताओं के बीच साझेदारी की एक बड़ी लहर का हिस्सा है। चूंकि AI कंप्यूटिंग की मांग आपूर्ति से आगे निकलती रहती है, इसलिए OpenAI जैसी कंपनियां अपनी क्षमता को सुरक्षित करने के लिए विभिन्न चिप और data center प्रदाताओं के साथ कई समझौतों पर हस्ताक्षर कर रही हैं जिनकी उन्हें आवश्यकता है। अपने मौजूदा आपूर्तिकर्ताओं के अलावा Cerebras के साथ काम करना, OpenAI को स्केल करने का एक अन्य मार्ग देता है जबकि इसकी सेवाओं को संचालित करने वाले hardware के प्रकारों में भी विविधता लाती है।

सेरेब्रस के लिए, यह सौदा एक समय में अपने wafer पैमाने पर दृष्टिकोण का एक प्रमुख सत्यापन है जब अधिकांश उद्योग अधिक पारंपरिक GPU आधारित प्रणालियों पर निर्भर करता है।

सारांश

OpenAI Cerebras साझेदारी 750 मेगावाट की उच्च-गति कंप्यूटिंग जोड़ती है जिसका उद्देश्य एक चीज हैः AI प्रतिक्रियाओं को तेज करना। चाहे आप ChatGPT के आकस्मिक उपयोगकर्ता हों, API पर निर्माण करने वाले डेवलपर हों, या JUST ने AI बुनियादी ढांचे की दौड़ का पालन किया हो, यह सौदा इस बात का संकेत है कि प्रतियोगिता का अगला चरण स्मार्ट मॉडल के बारे में नहीं है - यह तेजी से भी है।

Comments (0)

  1. No comments yet. Be the first to share what worked for you.

Leave a comment

Comments are reviewed before they appear. Your email address is not published.