चिकित्सा सहायता का मूल्य AI उपयोगकर्ताओं के विशेषज्ञता स्तर पर निर्भर करता है
एमआईटी ने पाया AI त्वचा निदान सभी उपयोगकर्ताओं की मदद करता है, लेकिन स्पष्टीकरण गैर-विशेषज्ञों को सम्मान के माध्यम से लाभान्वित करते हैं, जबकि क्लिनिक नंगे भविष्यवाणियों को पसंद करते हैं।
मुख्य जानकारी
- Explainable AI गैर-विशेषज्ञों और चिकित्सकों दोनों के लिए त्वचा निदान सटीकता में सुधार हुआ, लेकिन लाभ उपयोगकर्ताओं की चिकित्सा विशेषज्ञता पर दृढ़ता से निर्भर थे।
- गैर-विशेषज्ञों ने ज्यादातर AI, विशेष रूप से LLM स्पष्टीकरण का उपयोग करते समय, और मॉडल गलत होने पर भी अधिक आश्वस्त हो सकते हैं।
- चिकित्सकों ने अकेले AI भविष्यवाणियों के साथ सबसे अच्छा प्रदर्शन किया और स्पष्टीकरणों से कम प्रभावित थे, अक्सर निर्णय के प्राथमिक स्रोत के बजाय एक जांच के रूप में उपयोग करते हैं।
- अध्ययन स्वचालन पूर्वाग्रह पर प्रकाश डालता हैः स्पष्टीकरण शैली, समय और कथित प्रवाह चिकित्सा शुद्धता के रूप में विश्वास को प्रभावित कर सकता है, इसलिए AI उपकरणों को स्वतंत्र सोच का समर्थन करना चाहिए न कि इसे प्रतिस्थापित करना।
मेटा विवरणः एमआईटी अध्ययन में पाया गया है कि स्पष्टीकरण AI त्वचा निदान गैर-विशेषज्ञों को सम्मान के माध्यम से बेहतर बनाता है, जबकि चिकित्सकों केवल मॉडल भविष्यवाणियों के साथ सबसे अच्छा करते हैं, कोई व्याख्या नहीं।
टैगः स्पष्ट करने योग्य AI, त्वचाविज्ञान, त्वचा कैंसर, नैदानिक निर्णय समर्थन, स्वचालन पूर्वाग्रह
विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> अमूर्त, मैत्रीपूर्ण चित्रण एक साधारण त्वचा मोल ICON पर एक आवर्धक कांच के नरम गर्मी-मानचित्र बिंदुओं के साथ, कोई वास्तविक लोग नहीं हैं, कोई लोगो, कोई पाठ।
एमआईटी, Columbia University Stanford University और अन्य संस्थानों के शोधकर्ताओं द्वारा एक अध्ययन में प्रकाशित Nature Medicine ने परीक्षण किया कि क्या त्वचा रोग निदान में स्पष्टीकरण AI विभिन्न उपयोगकर्ताओं की मदद करता है। इसने पाया Explainable AI सहायता आम तौर पर गैर-विशेषज्ञों और चिकित्सकों के लिए सटीकता में सुधार करती है, लेकिन व्याख्याओं का प्रभाव चिकित्सा ज्ञान पर दृढ़ता से निर्भर था। परिणाम मरीजों, प्राथमिक देखभाल प्रदाताओं और डेवलपर्स निर्माण उपकरण जो छवि क्षेत्रों को इंगित कर सकते हैं या सादे भाषा में भविष्यवाणी समझा सकते हैं।
अध्ययन में तर्क को प्रदर्शित करने के चार तरीकों की तुलना की गई है AI
त्वचा निदान में, एक उदाहरण एक हीट मैप है जो भविष्यवाणी के लिए सबसे महत्वपूर्ण छवि क्षेत्रों को चिह्नित करता है। दूसरा large language model , या LLM, जो सादे भाषा का तर्क लिखता है।
शोध दल ने इन तकनीकों को वास्तविक उपयोगकर्ता कार्यों के खिलाफ रखा। गैर-विशेषज्ञों ने त्वचा मोल की छवियों को देखा और फैसला किया कि क्या एक तिल कैंसर था। प्राथमिक देखभाल प्रदाताओं को एक कठिन कार्य का सामना करना पड़ाः डर्मेटोलॉजिकल बीमारी के लिए विभेदक निदान प्रदान करना, जिसका अर्थ है कि उन्होंने एकल हां या नहीं निर्णय लेने के बजाय कई संभावित स्थितियों का वजन किया।
प्रतिभागियों को एक चिकित्सा छवि के साथ-साथ AI त्वचा रोग की भविष्यवाणी प्राप्त हुई, फिर चार शर्तों के तहत परीक्षण किया गयाः विश्वास के साथ भविष्यवाणी लेकिन कोई स्पष्टीकरण नहीं; पूर्वानुमान को मजबूत करने के लिए समान छवियां दिखाने वाली एक विधि; महत्वपूर्ण क्षेत्रों पर प्रकाश डालने वाला हीट-मैप दृष्टिकोण; और LLM मॉडल के तर्क की व्याख्या।
यह सेटअप त्वचा की देखभाल में दो बढ़ते रास्तों को दर्शाता है। Some FDA-अनुमोदित AI इंटरफेस पहले से ही चिकित्सकों को चिकित्सा छवियों में त्वचा की स्थितियों की पहचान करने में मदद करते हैं, अक्सर एक बीमारी की भविष्यवाणी के लिए स्पष्टीकरण जोड़कर। उसी समय, गैर-विशेषज्ञ एआई संचालित search engines के माध्यम से अपने दम पर डिजिटल निदान चला सकते हैं जो उपयोगकर्ता संकेतों का जवाब देते हैं, लगातार LLMs का उपयोग कर पूर्वानुमान को समझने में आसान बनाते हैं।
गैर-विशेषज्ञों ने सटीकता हासिल की, लेकिन अक्सर मॉडल को छोड़कर
सबसे स्पष्ट खोज केवल यह नहीं थी कि AI ने मदद की। इसने विभिन्न लोगों को अलग-अलग तरीकों से सहायता दी। गैर-विशेषज्ञों के लिए, प्रत्येक समझाए जाने योग्यAI दृष्टिकोण ने नैदानिक सटीकता में सुधार किया। सुधार ज्यादातर इसलिए आया क्योंकि उपकरणों ने उपयोगकर्ताओं को गैर-कैंसरयुक्त मोल्स की पहचान करने में मदद की.
हालांकि, उस लाभ का अधिकांश हिस्सा बेहतर स्वतंत्र निर्णय के बजाय सम्मान से आया था। गैर-विशेषज्ञों ने मॉडल गलत होने पर भी LLM आधारित स्पष्टीकरणों पर भरोसा किया। उन्होंने यह भी पाया कि जब वे स्पष्टीकरण अस्पष्ट या सामान्य थे तो स्पष्टीकरण अधिक आश्वस्त थे। दूसरे शब्दों में, प्रवाह और विश्वसनीयता चिकित्सा शुद्धता की जगह ले सकती है।
शोधकर्ताओं ने गहरे रंग की त्वचा के खिलाफ पूर्वाग्रह का मुकाबला करने के लिए डिज़ाइन किए गए निष्पक्षता-प्रतिबंधित मॉडल का भी परीक्षण किया। उस मॉडल में तेजी से सुधार हुआ और त्वचा टोन के आधार पर नैदानिक असमानताओं को कम कर दिया गया। लेकिन Marzyeh Ghassemi , एमआईटी विभाग के एक एसोसिएट प्रोफेसर Electrical Engineering और Computer Science, इंस्टीट्यूट फॉर Medical Engineering एंड साइंस के सदस्य, और लैबोरेटरी फॉर इन्फॉर्मेशन Decision Systems और Abdul Latif Jameel Clinic Machine Learning इन हेल्थ के मुख्य अन्वेषक ने नोट किया कि गैर-विशेषज्ञ बेहतर थे क्योंकि वे मॉडलों पर अधिक भरोसा करते थे। जब मॉडल गलत था, तो इसने सही प्रदर्शन की तुलना में प्रदर्शन को नुकसान पहुंचाया AI । LLM स्पष्टीकरणों के साथ सम्मान प्रभाव सबसे बड़ा था, और उपयोगकर्ता उन्हें समर्थन देने पर गलत उत्तरों के बारे में अधिक आश्वस्त हो गए।
गस्सेमी ने समस्या को स्वचालन पूर्वाग्रह के रूप में तैयार किया: एक AI सिस्टम मानव निर्णय को लंगर डाल सकता है, जिससे वे मशीन का पालन करते हैं जब यह गलती करता है। वह एंकरिंग विशेष रूप से महत्वपूर्ण है जब उपयोगकर्ता विशेषज्ञ नहीं होते हैं।
चिकित्सकों ने सबसे अच्छा किया जब AI चुप रहे
चिकित्सकों ने एक अलग पैटर्न दिखाया। वे गलत AI सहायता से भटक नहीं गए थे, और उन्होंने सबसे अच्छा प्रदर्शन किया जब उन्हें केवल मॉडल की भविष्यवाणी मिली थी, जिसमें कोई स्पष्टीकरण संलग्न नहीं था। व्याख्यात्मकता विधियों के बीच, LLM स्पष्टीकरणों ने चिकित्सकों को सबसे छोटा बढ़ावा दिया।
कारण यह था कि प्रत्येक समूह ने स्पष्टीकरण का उपयोग कैसे किया। एक क्लिनिक अक्सर पहले से ही दिमाग में बनने वाले निदान के साथ एक मामले में प्रवेश करता है और चेक के रूप में AI का उपयोग करता है। एक कमजोर या गलत स्पष्टीकरण को उस चिकित्सक के अपने प्रशिक्षण के खिलाफ पकड़े जाने की अधिक संभावना होती है। इसके विपरीत, एक गैर-विशेषज्ञ पहली जगह में राय बनाने के लिए उसी व्याख्या का उपयोग कर सकता है। फिर आत्मविश्वासपूर्ण तर्क उन्हें गलत उत्तर की ओर खींच सकते हैं।
Orson Xu, अध्ययन के प्रमुख लेखक और Biomedical Informatics विभाग में सहायक प्रोफेसर Columbia University ने कहा कि एक ही उपकरण एक उपयोगकर्ता के लिए एक परिसंपत्ति हो सकता है और दूसरे के लिए दायित्व। सिफारिश कैसे प्रस्तुत की जाती है, यह उतना ही मायने रख सकती है जितना कि सिफारिश सही है या नहीं।
अगला कदम डिजाइन करना है AI जो सोच को प्रतिस्थापित नहीं करता
अध्ययन में यह भी पाया गया कि जब सम्मान होता है, तब व्यवहारिक सुराग होते हैं। जिन उपयोगकर्ताओं को AI सहायता के लिए सबसे अधिक सम्मान था, वे कार्य पर सबसे खराब प्रदर्शन करते थे जब कोई AI मौजूद नहीं था। स्पष्टीकरण का समय भी मायने रखता था। यदि उपयोगकर्ता अपने स्वयं के निदान करने से पहले एक स्पष्टीकरण देखते थे, तो वे मॉडल पर अधिक भरोसा करते थे।
प्रदर्शन छवि पर भी निर्भर करता है। AI जब रोग की प्रस्तुति सूक्ष्म थी, तो सिस्टम ने मनुष्यों से बेहतर प्रदर्शन किया। जब छवियों में एटिपिकल लक्षण या असंबंधित विशेषताएं होती थीं, तो मनुष्य बेहतर करते थे। यह पैटर्न बताता है कि Explainable AI दृश्य पता लगाने में अंतराल को भरने में मदद कर सकता है, लेकिन मामलों के अव्यवस्थित या असामान्य होने पर मानव निर्णय को स्वचालित रूप से ओवरराइड नहीं करना चाहिए।
Roxana Daneshjou, एक सह-लेखक और बायोमेडिकल डेटा साइंस एंड डर्मेटोलॉजी के सहायक प्रोफेसर Stanford University ने कहा कि निष्कर्ष महत्वपूर्ण हैं क्योंकि मरीज तेजी से स्वास्थ्य देखभाल के लिए AI की ओर रुख करते हैं। जिन लोगों को कम से कम चिकित्सा ज्ञान होता है, वे गलत तरीके से प्रेरित होने की सबसे अधिक संभावना रखते हैं जब व्याख्या करने योग्य AI मॉडल त्रुटिपूर्ण आउटपुट का उत्पादन करते हैं ।
डेवलपर्स के लिए, इसका निहितार्थ डिफ़ॉल्ट रूप से अधिक विस्तृत LLM स्पष्टीकरण जोड़ना नहीं है। शोधकर्ताओं का सुझाव है कि एक बेहतर डिजाइन में उपयोगकर्ताओं को पहले नैदानिक परिकल्पना देने की आवश्यकता हो सकती है, फिर AI अतिरिक्त स्थितियों को ध्यान में रखने योग्य होने दें। यह दृष्टिकोण उपयोगकर्ता के स्वतंत्र निर्णय को संरक्षित करता है और उन्हें निपटाने के बजाय संभावनाओं का विस्तार करने के लिए मॉडल का उपयोग करता है।
इस पेपर का लेखक घास्मेमी, शु और दानेशजू थे। साथ ही कई अन्य लेखकों के साथ-साथ एमआईटी स्नातक छात्र Haoran Zhang, अंडरग्रेजुएट Reina Wang और पीएचडी 20,20, Jameel Clinic में एक शोध सहयोगी, क्लिनिकर्स और शोधकर्ताओं के साथ काम किया गया था। कार्य को आंशिक रूप से National Science Foundation, Schmidt Sciences की National Bureau द्वारा वित्त पोषित किया गया है, और Columbia University ।
किसको इसका उपयोग करना चाहिए/कौन इसे छोड़ना चाहिए
रोगियों और गैर-विशेषज्ञों के लिए, त्वचा उपकरण का उपयोग केवल निदान के रूप में नहीं, बल्कि सवालों को संकीर्ण करने के तरीके के तौर पर करें। यदि कोई स्पष्टीकरण धाराप्रवाह, जीवंत या आत्मविश्वास महसूस करता है, तो इसे एक क्लिनिकर की तलाश करने के कारण माना जाए, न कि मामले को निपटाने के लिए।
क्लिनिकर्स इमेज-आधारित कार्यों के लिए वर्बोस LLM स्पष्टीकरणों को छोड़ सकते हैं और भविष्यवाणियों पर अधिक भरोसा कर सकते हैं, लेकिन जब मामले सूक्ष्म होते हैं तो उन्हें अभी भी स्वचालन पूर्वाग्रह के लिए देखना चाहिए। डेवलपर्स को एक आकार में फिट होने वाली सभी व्याख्यात्मकता को छोड़ना चाहिए और शुरुआती और विशेषज्ञों के लिए अलग-अलग रास्ते डिजाइन करना चाहिए, क्योंकि एक ही स्पष्टीकरण एक उपयोगकर्ता का समर्थन कर सकता है और दूसरे को गुमराह कर सकता हैः

Comments (0)