एमआईटी से IBM तक Accelerating AI और Quantum Deployment

अकादमिक AI अनुसंधान कैसे वास्तविक उत्पाद बन जाता है, इस बारे में उत्सुक पाठकों के लिए आईबीएम में अब तीन पूर्व एमआईटी शोधकर्ताओं द्वारा लिया गया मार्ग एक ठोस उत्तर प्रदान करता है। Srinivasan Arunachalam झांग-Wei Hong पीएचडी 225, और Irene Ko PhD 24 प्रत्येक ने अपने प्रारम्भिक शोध वर्षों को MIT से जुड़ा हुआ बितायाIBM Computing Research Lab (पूर्व में MIT-IBM Watson AI Lab) । वे कहते हैं कि कनेक्शन ने उन्हें शिक्षा और रोजगार के बीच की खाई को बंद करने में मदद की और उनके विचारों को व्यावसायिक प्रभाव की ओर धकेल दिया। वे अब क्रमशः क्वांटम मशीन लर्निंग, सुदृढीकरण सीखने और AI एजेंटों पर काम करते हैं, और भरोसेमंद और निष्पक्ष AI हैं।

उद्योग में विचारों को स्थानांतरित करने के लिए निर्मित एक प्रयोगशाला

एमआईटी- IBM Computing Research Lab अनुसंधान संबंध निर्माण और उद्योग अनुप्रयोगों में विशेषज्ञता को स्थानांतरित करने के लिए एक नली के रूप में कार्य करता है। प्रयोगशाला के साथ एक आईबीएम शोध स्टाफ सदस्य, होंग ने 2020 Electrical Engineering और Computer Science (ईसीएस) विभाग में MIT में अपनी पीएचडी शुरू की। उनका तर्क है कि लैब अपने शैक्षणिक सहयोग नीति और अवसर के लिए औद्योगिक प्रयोगशालाओं के बीच बाहर खड़ा है।

यह नीति महत्वपूर्ण है क्योंकि तीन शोधकर्ता बहुत अलग-अलग प्रश्नों के साथ आए थे। जो उन्हें एकजुट करता है वह सिद्धांत में संभव और व्यवहार में उपयोगी होने के बीच अंतरिक्ष में विचारों को स्थानांतरित करने की वृत्ति है। प्रत्येक पीछा कर रहा है जिसे वे "किलर एप्लिकेशन" के रूप में वर्णित करते हैं, वास्तविक दुनिया के उपयोग के मामले जो प्रयोगशाला से परे अंतर्निहित अनुसंधान मामलों को साबित करते हैं।

सुदृढीकरण सीखना जो एक व्यक्ति की तरह सीखता है

हांग ने अपनी रुचि को उस समय तक ट्रैक किया जब उन्हें पता चला कि डीपमाइंड अटारी खेल सकता है और फीचर इंजीनियरिंग के माध्यम से कच्चे स्क्रीन पिक्सेल से सीख सकता है। लैब के साथ एक प्रमुख अन्वेषक EECS Associate Professor Pulkit अग्रवाल के साथ स्नातक कार्य के दौरान, हॉन्ग ने वीडियो गेम में सुदृढीकरण सीखने के लिए मूल्य फ़ंक्शन लर्निंग में सुधार करने पर काम किया। उन्होंने एजेंट की नीति प्रदर्शन का पूर्वानुमान लगाने और अनुकूलित करने के लिए अटारी में "मोंटेज़ुमा रिवेंज" का उपयोग किया।

लैब के साथ, हांग ने अधिक यथार्थवादी अनुप्रयोगों के लिए ग्राउंड करने की तकनीक विकसित की और बेहतर इनाम प्रतिक्रिया प्रदान करते हुए उन्हें रोबोटिक्स, बड़े भाषा मॉडल (एलएलएम) और विज्ञान के लिए सुदृढीकरण सीखने पर लागू किया। वह विशेष रूप से जिज्ञासा-संचालित अन्वेषण के बारे में उत्साही हैं, जो एजेंटों को नए डेटा के प्रति उत्सुक होने देता है जिस तरह मनुष्य होते हैं। यह क्षमता परीक्षण मामलों को उत्पन्न करने से लेकर तनाव-परीक्षण एलएलएम तक नए वातावरण का पता लगाने के कार्यों का समर्थन करती है।

अब अपने स्वयं के छात्रों के लिए एक संरक्षक, हांग ओपन-एंडेड सुदृढीकरण सीखने अनुसंधान जारी रखता है। वह एजेंटों और नींव मॉडल के लिए परीक्षण समय प्रशिक्षण की जांच करता है, और एंटरप्राइज़ कार्यों जैसे चार्ट रीडिंग और डेटाबेस क्वेरीज को कॉल करने वाले टूल के लिए आईबीएम के एजेन्टिक फ्रेमवर्क के लिए बुनियादी ढांचे का विकास करता है। उनके काम में अन्वेषण के लिए बेहतर अनुकूलन चलाने के लिए विकासवादी कंप्यूटिंग और तैनाती-समय मॉडल सुधार को सूचित करने के लिए तंत्रिका विज्ञान का लाभ उठाना शामिल है। यदि सफल हो, तो उनका कहना है कि यह पहला ऐसा ढांचा होगा जो एक मॉडल को तैनात समय पर ऑनलाइन अपना वजन विकसित करने में सक्षम करेगा - एक प्रणाली जिसे वे मानते हैं कि प्रैक्टिशनरों के लिए उपयोगी होगी।

Trustworthy AI, पहले दिन से लेकर तैनाती तक

को का अनुसंधान व्यक्तिगत और पेशेवर दोनों दृष्टिकोण से मूल्य-संचालित रहा है। उसने अपने पीएचडी के पहले दिन से आईबीएम शोधकर्ताओं के साथ भरोसेमंद AI पर काम करना शुरू कर दिया क्योंकि इसे एमआईटी-आईबीएम द्वारा वित्त पोषित किया गया था। यह फायदेमंद था, वह कहती हैं कि सीमांत सुरक्षित, मजबूत, सटीक और निष्पक्ष विकसित करने के उनके लक्ष्यों के बाद से IBM Computing Research Lab एमआयटी और आईबीएन के लोगों के साथ संरेखित करें, विकास और वास्तविक दुनिया की तैनाती के बीच अंतर को बंद करें। इसने शुद्ध अनुसंधान और उद्योग मानक या मूल्य के कुछ के बीच संतुलन बनाया।

उनका एमआईटी-आईबीएम सहयोग ईईसीएस, जोसेफ एफ. और नैन्सी पी Keithley Professor Luca Daniel में उनके सलाहकार के माध्यम से चला गया, और IBM Principal Research Scientist पिन - Yu Chen। उस युग्मन ने पहले तंत्रिका नेटवर्क में और बाद में फाउंडेशन मॉडल और एलएलएम के साथ प्रभाव को अधिकतम करने के लिए अपने काम की दिशा और मापदंडों को परिभाषित करने में मदद की। 2024 में स्नातक होने के बाद, को एक शोध वैज्ञानिक के रूप में शामिल हो गए।

उसने उद्योग को चुना, और विशेष रूप से आईबीएम, क्योंकि उसे पीएचडी के दौरान सहयोग में बहुत खुशी मिली. उन पांच वर्षों ने उसे उच्च व्यक्तिगत पूर्ति दी, और वह गति जारी रखना चाहती थी।

उनकी वर्तमान परियोजना भरोसेमंद तरीकों में दर्द बिंदुओं पर केंद्रित है जो व्यापक रूप से AI अनुमान प्लेटफार्मों में तैनात नहीं हैं। कम रैंक वाले एडेप्टर के विपरीत, जो मॉडल व्यवहार की निगरानी और संशोधित करने के लिए अतिरिक्त कदम जोड़ते हैं, vLLM हुक पर उनका काम एलएलएम को डिकोड करने के लिये छिपे हुए राज्यों या सक्रियण जैसे आंतरिक मॉडल संकेतों तक पहुंचने का एक तरीका प्रदान करता है। यह वेक्टर प्रोम्प्ट-इंजेक्शन और मतिभ्रम की संभावना की पहचान सहित सुरक्षा स्कोर का विश्लेषण करने केलिए ट्रांसफार्मर मॉड्यूल पर कार्य करता है । उन्होंने अन्य विधियों के मुकाबले महत्वपूर्ण लागत बचत की पेशकश कर सकने वाले मॉडल इंटर्नल प्रोग्रामिंग के लिए हल्के वजन वाला वीएलएलएम इन्फरेंस इंजन प्लगइन फ्रेमवर्क विकसित किया है। वह इसे टीम के अनुसार विश्वसनीय AI अनुमान इंजन के साथ तैनाती और विकास के बीच पहला पुल कहती हैं।

स्पष्ट दृष्टि में छिपे हुए क्वांटम अंतर्दृष्टि

अरुणाचलम ने हमेशा क्वांटम अनुसंधान में डब किया है, जबकि सिद्धांत के अन्य क्षेत्रों की लगातार खोज करते हुए, जांच और पत्रों की अप्रत्याशित पंक्तियों में क्वॉन्टम अंतर्दृष्टि और गहरे गणित के लिए शिकार कर रहे हैं। जैसा कि वह इसका वर्णन करता है, आप अक्सर इसे पहले नहीं देखते समस्या वैनिला दिखती है लेकिन आगे की जांच दिलचस्प गणित का खुलासा करती है।

उस वृत्ति ने उन्हें भौतिक विज्ञान विभाग में 2018 के समूह में एक पोस्टडॉक्टर के रूप में एमआईटी में आकर्षित किया। सीखने के सिद्धांत-पहले परिप्रेक्ष्य को लेते हुए, अरुणाचलम लक्ष्य एल्गोरिदम, सबरूटीन और सर्किट की तलाश करते थे जहां क्वांटम स्पीड-अप संभव हो सकता है। Electrical Engineering और भौतिकी में जूलियस ए Stratton Professor के साथ बातचीत और MIT -IBM PI ने उन्हें प्रयोगशाला और आईबीएम शोधकर्ता के साथ सहयोग करने का नेतृत्व किया ।

आईबीएम में उनका संक्रमण निर्बाध था, और उन्होंने खुद को निकट-अवधि के क्वांटम उपकरणों पर संभावित रूप से लागू करने योग्य समस्याओं के साथ अधिक बारीकी से शामिल किया, बाधाओं को ध्यान में रखते हुएः निकटतम पड़ोसी वास्तुकला, शोर और सरल अवलोकनयोग्य माप। उन्होंने क्वांट्म मशीन लर्निंग और उन क्षेत्रों पर ध्यान केंद्रित किया जहां क्लासिकल कंप्यूटिंग की तुलना में क्वांटिम कम्प्यूटिंग बेहतर होगा, तेजी से सिद्धांत पर आधारित प्रमाणीकरण को प्राथमिकता दी गई थी। एमआईटी-आईबीएम कनेक्शन ने सैद्धांतिक प्रश्नों को ठोस अनुसंधान दिशाओं में बदलने में मदद की।

उस काम का समापन दो प्रमुख पत्रों में हुआ। एक, हैमिल्टनियन लर्निंग पर, क्वांटम सिस्टम की गतिशीलता को सीखने के लिए कठोर गारंटी दी गई थी। दूसरा, क्वान्टम कर्नेल पर, सैद्धांतिक सबूत प्रदान किया गया था कि व्यापक रूप से माना जाने वाले कठोरता धारणाओं के तहत क्लासिक कर्नलों पर क्वांट्म फीचर स्पेस लाभ दे सकते हैं। अरुणाचलम ने कंप्यूटर विज्ञान की विभिन्न शाखाओं में भी खुद को ढांचा उजागर करने के लिए डाला जो अन्य लोग याद कर सकते थे। अलग-अलग क्षेत्रों के बीच संबंधों को उजागर करते हुए, उन्होंने कहा कि उन्हें पूरी तरह से शास्त्रीय सिमुलेबल क्वांटिम ऑब्जेक्ट्स से लेकर बेहद जटिल लोगों तक सीखने की अनुमति मिली है।

पाठकों के लिए इसका क्या अर्थ है

तीन करियर एक व्यावहारिक पैटर्न की ओर इशारा करते हैंः लंबे समय तक चलने वाली अकादमिक-उद्योग साझेदारी सैद्धांतिक परिणाम और तैनात प्रणाली के बीच की दूरी को कम कर सकती है। स्नातक कार्यक्रमों का वजन करने वाले छात्रों और शुरुआती कैरियर शोधकर्ताओं के लिए, सबक यह है कि वित्तपोषण संरचनाएं और सलाहकार नेटवर्क आकार देते हैं कि क्या काम सैद्धान्तिक रहता है या वास्तविक बाधाओं को पाता है। उत्पादों AI बनाने वाली टीमों के लिए vLLM हुक पर कार्य और तैनाती-समय स्व-विकास से पता चलता है कि विश्वसनीय और अनुकूली प्रणालियां आगे कहां जा सकती हैं। खुला प्रश्न यह है ਕਿ ये ढांचे अनुसंधान प्रोटोटाइप से पहले से चल रही निहितार्थ प्लेटफार्मों में कितनी जल्दी स्थानांतरित होते हैं।