कैसे "एल्गोरिथमिक मोनोकल्चर" बाहर खेलता है विशिष्टताओं पर टिका

मेटा विवरण: एमआईटी शोधकर्ताओं का तर्क है कि भर्ती में एल्गोरिदमिक मोनोकल्चर का मतलब बहिष्करण नहीं हो सकता, लेकिन प्रतिध्वनि कक्ष, मजदूरी प्रभाव और समूह परिणामों को आकार देते हैं।

टैगः एल्गोरिदमिक मोनोकल्चर, AI भर्ती, एमआईटी अनुसंधान, एस्सेम्बल अल्गोरिदम

विशेष रुप से प्रदर्शित छवि: एक समान एल्गोरिथम गियर का अमूर्त मैत्रीपूर्ण चित्रण जो एक भर्ती फ़नल बना रहा है, कोई लोग नहीं, कोई लोगो नहीं, न ही कोई पाठ।

भर्ती, नौकरी की तलाश या AI शासन में शामिल किसी भी व्यक्ति के लिए, एक नया एमआईटी विश्लेषण एल्गोरिथम मोनोकल्चर का अधिक सावधानीपूर्वक दृष्टिकोण प्रदान करता है, वह मामला जहां एक अल्गोरिदम डोमेन भर में निर्णयों को निर्देशित करता है। उपकरण कुछ मानवीय फैसलों पर कब्जा कर रहे हैं। फिर से शुरू करें स्क्रीनिंग सिस्टम तेजी से और अधिक सुसंगत निर्णय ले सकते हैं। कुछ विद्वानों को डर है कि स्वचालित प्रणालियां एक ऐसे एल्गोरीथ्म पर अभिसरण हो सकती हैं जो तथाकथित एल्गोरामिक मोनोक्ल्चर के लिए नकारात्मक परिणामों के साथ उद्योग में हर निर्णय को आकार देती है। शोधकर्ताओं ने व्यवस्थित बहिष्करण सहित मुख्य आपत्तियों का परीक्षण किया और निष्कर्ष निकाला कि वे असफल होते हैं या प्रत्येक प्रकार की एकल संस्कृति के खिलाफ निर्णायक नहीं होते हैं। इसके बजाय, उनका गणितीय प्रमाण दिखाता है कि एकल संस्कृति सूचनात्मक प्रतिध्वनि कक्ष बनाने की प्रवृत्ति रखती है जो अन्वेषण को सीमित करती है। भर्ती में, यह सबसे अच्छे उम्मीदवारों द्वारा नौकरियां प्राप्त करने की संभावना को कम कर सकता है। लेकिन कई एल्गोरथिम्स को संयोजित करना

यह अध्ययन एमआईटी के भाषाविज्ञान और दर्शन विभाग में एक प्रोफेसर है, जो Electrical Engineering और Computer Science (ईईसीएस) विभाग के साथ कम्प्यूटिंग की साझा स्थिति रखता है और सूचना और Decision Systems (एलआईडीएस) प्रयोगशाला में मुख्य अन्वेषक है। उन्होंने Manish Raghavan , Drew Houston (2005) Career Development Professor पर MIT Sloan School प्रबंधन और ईईसीसी में पेपर का सह-लेखन किया, जो एलआईडीएड में भी प्रमुख शोधकर्ता हैं।

एक एकल एल्गोरिथ्म कैसे फैल सकता है

चिंता केवल सैद्धांतिक नहीं है। व्यक्तिगत बैंकों में स्वतंत्र बैंकरों ने एक बार ऋण देने के फैसले किए थे, लेकिन आज कई उधारकर्ता की मानकीकृत क्रेडिट स्कोर पर आधारित समान जानकारी का उपयोग करते हैं, जो कि Fair Isaac Corporation (FICO) एल्गोरिथ्म से आते हैं। भर्ती में, बहुत सी फॉर्च्यून 500 कंपनियों में पहले से ही कम संख्या में रिज्यूमे स्क्रीनिंग अल्गोरिदम आम हैं। राघवन कहते हैं कि चिंता बढ़ती है क्योंकि अधिक लोग सूचना प्राप्त करने और निर्णय लेने के लिए AI और एल्गोरीथम का उपयोग कर रहे हैं, क्योंकि इससे सहसंबंधित परिणामों के लिए अधिक गुंजाइश पैदा होती है।

लेखकों ने भर्ती पर ध्यान केंद्रित किया, लेकिन उनका तरीका अन्य डोमेन जैसे कि उधार देने के लिए लागू हो सकता है। हालांकि, वे नोट करते हैं कि जनरेटिव AI सामग्री निर्माण या एआई-निर्देशित वैज्ञानिक अनुसंधान जैसे क्षेत्र अलग तरह से काम कर सकते हैं, और उन क्षेत्रों में से कुछ में मोनोकल्चर अधिक समस्याग्रस्त हो सकती है। हेडन का कहना है कि एल्गोरिदमिक मोनोक्लचर की ओर एक प्रवृत्ति यथार्थवादी और महत्वपूर्ण है क्योंकि यह फैल गया है, लेकिन अमूर्त रूप से न्याय करना मुश्किल है। परिणाम डोमेन और स्वयं एल्गोरीथ्म की सटीकता पर निर्भर करता है।

क्यों व्यवस्थित बहिष्करण मुख्य खतरा नहीं हो सकता है

एक आम आपत्ति यह है कि कई फर्मों द्वारा उपयोग किए जाने वाले समान एल्गोरिथ्म व्यवस्थित बहिष्करण पैदा कर सकते हैं। यदि कोई कंपनी उम्मीदवार के फिर से शुरू करने की जांच करती है, तो उस व्यक्ति को उसी प्रणाली का उपयोग करके हर दूसरी कंपनी में एक ही परिणाम का सामना करना पड़ सकता है। हेडडेन और राघवन ने इस तर्क का मूल्यांकन कई स्थितियों को प्रतिबिंबित करने के लिए डिज़ाइन किए गए मॉडलों की एक श्रृंखला का उपयोग करते हुए किया। वे निष्कर्ष निकालते हैं कि यह सम्मोहक नहीं है क्योंकि जब कंपनियां एक ही अल्गोरिदम का उपयोग करती हैं तो भर्ती लोगों की कुल संख्या जरूरी नहीं बदलती है।

इसके बजाय अध्ययन से पता चलता है कि मोनोकल्चर नौकरी के उम्मीदवारों की सौदेबाजी शक्ति में सुधार कर सकता है। यदि सभी नौकरियां भरी जाती हैं और एक ही संख्या में लोगों को रोजगार मिलता है, लेकिन फर्में एक साझा उम्मीदवार पूल पर प्रतिस्पर्धा करती हैं, तो मजदूरी बढ़ सकती है। शोधकर्ताओं ने एजेंसी से जुड़ी आपत्तियों को भी देखा। अगर किसी अभ्यर्थी का रिज्यूमे उसी भर्ती एल्गोरिथ्म का उपयोग करके हर कंपनी को स्वचालित रूप से अग्रेषित किया जाता है, तो उम्मीदवार को इसे संशोधित करने का मौका कभी नहीं मिल सकता। हेडडेन कहते हैं कि यह खराब प्रकार के एकल संस्कृति के लिए एक मजबूत आपत्ति है, हालांकि यह कमजोर हो जाता है यदि सिस्टम उम्मीदवारों को अपनी सामग्रियों को संशोधन और पुनः प्रस्तुत करने की अनुमति देता है।

गेमिंग का भी खतरा है। यदि एक विशेष रिज्यूमे प्रारूप बेहतर परिणाम देता है, तो उम्मीदवार अपनी संभावनाओं को सुधारने के लिए अपने सामग्रियों को फिर से तैयार कर सकते हैं। लेकिन लेखकों का कहना है कि यह स्पष्ट नहीं है कि विभिन्न फर्मों द्वारा उपयोग किए जाने वाले कई एल्गोरिदम की तुलना में एक एल्गोरीथ्म गेमिंग को अधिक प्रोत्साहित करता है। मिश्रित प्रणाली में, एक उम्मीदवार कुछ फर्म-एल्गोरिथम को लक्षित कर सकता है और उन्हें गेम करने की कोशिश कर रहा है, केवल कुछ नियोक्ताओं के साथ लाभ प्राप्त करना।

असली मुद्दा: प्रतिध्वनि कक्ष और कम खोज

कम खोज की गई आपत्ति यह है कि मोनोकल्चर जानकारी को समरूप बना सकता है। अध्ययन इसे भीड़ के ज्ञान से जोड़ता है, एक सामाजिक मनोविज्ञान सिद्धांत जो कहता है कि स्वतंत्र निर्णय लेने वालों का एक विविध समूह एक व्यक्ति से बेहतर प्रदर्शन कर सकता है । भर्ती में, इसका मतलब है कि विभिन्न एल्गोरिदम का उपयोग करने वाली फर्में नई भर्तियों के उच्च-गुणवत्ता वाले पूल को इकट्ठा कर सकती हैं। एकल संस्कृति प्रत्येक फर्म द्वारा समान विशेषताओं और क्रेडेंशियल्स वाले उम्मीदवारों को बार-बार काम पर रखने का कारण बन सकती है, जो फर्मों को बेहतर विकल्प खोजने से रोक सकती है।

राघवन कहते हैं कि मोनोकल्चर समग्र खोज को कम कर सकता है। यह स्वचालित रूप से बुरा नहीं हो सकता है, लेकिन विज्ञान, कला या लेखन जैसे अनुप्रयोगों के लिए डिजाइन करते समय AI चिंता का विषय है। शोधकर्ताओं का कहना है कि अधिक अन्वेषण को प्रोत्साहित करने के लिए एक मोनोक्लचर प्लेटफॉर्म में यादृच्छिकता का निर्माण करके समस्या को नरम किया जा सकता है । वे यह भी ध्यान देते हैं कि monoculture's प्रदर्शन एल्गोरिथ्म पर निर्भर करता है। यदि कोई एक अल्गोरिदम विभिन्न फर्मों द्वारा उपयोग किए जाने वाले कई एल्गोरीथ्म की तुलना में बहुत अधिक सटीक होता है, तो एकल संस्कृति बेहतर प्रणाली हो सकती है।

एक व्यावहारिक विचार एंसेंबल एल्गोरिथ्म है। यह कई फर्मों को एक प्रणाली में पैकेज करता है और प्रत्येक उम्मीदवार को औसत के आधार पर स्कोर प्रदान करता है। शोधकर्ताओं ने विभिन्न भर्ती स्थितियों की सिमुलेशन की एक श्रृंखला चलाई और पुष्टि की कि यह एंसेम्बल दृष्टिकोण कभी-कभी एकाधिक अलग-अलग एल्गोरीदम के उपयोग से बेहतर प्रदर्शन कर सकता है। फिर भी, वे कहते हैं कि यह स्पष्ट नहीं है कि व्यवहार में एल्गोरथम संयोजन कैसे संभव होगा।

पाठकों के लिए इसका क्या अर्थ है

लेखक इस बात पर जोर देते हैं कि एल्गोरिथम मोनोकल्चर के वादे और नुकसान प्रासंगिक हैं। यहां तक कि एक शोध एजेंडा के रूप में, वे कहते हैं कि वास्तविक प्रणालियों को समझने या इन चिंताओं को कम करने के लिए बहुत अधिक अनुभवजन्य काम की आवश्यकता है। उनकी आशा यह है कि अध्ययन अल्गोरिदम मोनोक्लचर के दीर्घकालिक परिणामों और श्रम बाजार जैसी व्यापक प्रणाली की वास्तविक दुनिया की जटिलताओं में अनुसंधान को प्रोत्साहित करता है।

इसका उपयोग कौन करना चाहिए: एचआर टीमें, प्लेटफॉर्म डिजाइनर, शोधकर्ता और नीति विश्लेषक जिन्हें एल्गोरिदमिक मोनोकल्चर के बारे में सोचने के लिए एक संतुलित ढांचे की आवश्यकता होती है। इसे छोड़ देंः पाठकों को सरल फैसले की तलाश है कि AI भर्ती प्रणाली या तो सुरक्षित या खतरनाक हैं, क्योंकि अध्ययन का उत्तर डोमेन पर निर्भर करता है, अल्गोरिदम सटीकता, और क्या सिस्टम संशोधन, यादृच्छिकता या साझा स्कोरिंग की अनुमति देता है।