यह पूर्ण मार्गदर्शिका बताती है कि क्यों AI चीजों को बनाता है और कैसे LLM मतिभ्रम होता है।

![तथ्य की एक टूटी हुई श्रृंखला के ऊपर एक आत्मविश्वास चैट बुलबुले का सार चित्रण, दोस्ताना फ्लैट शैली, कोई लोग नहीं, कोई लोगो नहीं, न ही पाठ]

संजना दुबे की छवि।

यह पूर्ण 2026 मार्गदर्शिका LLM भ्रम के लिए किसी भी व्यक्ति के लिए है जो उत्तरों, सारांशों, समर्थन या एजेंटों के लिए बड़े भाषा मॉडल का उपयोग करता है। इसकी मुख्य चेतावनी यह है कि एक मॉडल उसी शांत स्वर में झूठा जवाब दे सकता है जिसका वह सही उत्तर के लिए इस्तेमाल करता है. गाइड में शामिल किया गया है कि भ्रम क्या है, इसके प्रकार, इसका पता कैसे लगाया जाए, उद्योग इसे कैसे कम करता है, और इसमें दस्तावेज़ के खिलाफ उत्तर की जांच करने के लिए कामकाजी कोड उदाहरण को संदर्भित किया जाता है।

संभावना क्यों निश्चित लग सकती है

गाइड तीन विफलताओं के साथ शुरू होता है. स्रोतों के लिए पूछें और पांच साफ उद्धरण प्राप्त करें, लेकिन दो कागजात मौजूद नहीं हैं। एक अनुबंध चिपकाएं और एक सारांश प्राप्त करें जो कहता है कि नोटिस की अवधि 60 दिन है, जबकि अनुबंध में 30 कहा गया है। धनवापसी नीति के बारे में समर्थन बॉट से पूछें, और यह एक का आविष्कार करता है। स्वर में कुछ भी आपको चेतावनी नहीं देता है।

एक LLM डेटाबेस की तरह तथ्यों को संग्रहीत नहीं करता है। यह कुछ भी नहीं देखता है। प्रत्येक चरण में, यह अब तक के पाठ को पढ़ता है और सबसे संभावित अगले टोकन का अनुमान लगाता है। उदाहरण के लिए, जीपीटी -2, 50,257 टोकन की शब्दावली है, इसलिए हर कदम आउटपुट 50,257 कच्चे स्कोर जिसे लॉजिट कहा जाता है। सॉफ्टमैक्स उन स्कोर्स को संभावनाओं में बदल देता है। यदि तीन उम्मीदवार टोकन में लॉजिट्स 4.0, 2.0 और 1.0 हैं, तो मॉडल टोकन ए 0.84 , टोकन बी 0.11 और टोकन सी 0.04 असाइन कर सकता है। फिर यह उच्चतम टोकन लेता है, जिसे लालची डिकोडिंग के रूप में जाना जाता है, या वितरण से नमूने, और दोहराया जाता है. लूप में कुछ भी जांचता नहीं है कि क्या आउटपुट सही है।

संभावना सत्य नहीं है। एक भ्रम तब हो सकता है जब संदर्भ को देखते हुए झूठे उत्तर की संभावना वास्तविकता के जवाब की संभावना से अधिक होती है। डिकोडिंग प्रक्रिया इस टाई को वास्तविकता की जांच करके नहीं तोड़ती है। "फ्रांस की राजधानी" के लिए, पेरिस स्कोर 0.97, ल्योन 0.01 और अन्य 0.02 कर सकते हैं क्योंकि मॉडल ने हजारों बार यह तथ्य देखा था। कविता के लिए 2021 Meridian Prize द्वारा जीता गया ", एक ऐसा पुरस्कार जो मौजूद नहीं है, मॉडल नाम 1 0.09, नाम 2 0.07, 3 नाम 0.05 और हजारों अन्य नामों में छोटी संभावनाओं को फैला सकता है। संभावनाएं अभी भी 1 तक जोड़ती हैं, इसलिए एक नाम उसी आत्मविश्वासपूर्ण स्वर में शीर्ष पर आता है। तंत्र में निर्मित कोई "मुझे पता नहीं है" टोकन नहीं है; संभाव्यता द्रव्यमान कहीं जाना चाहिए।

त्रुटियां गलतियों पर निर्माण कर सकती हैं। यदि मॉडल कहता है कि एक पुल बनाया गया था 1847, जब यह वास्तव में निर्मित किया गया था 1883, वास्तुकार, सामग्री और उद्घाटन समारोह के बारे में बाद के वाक्य फिट हो सकते हैं 1847 । पैराग्राफ विस्तृत और आंतरिक रूप से सुसंगत लग सकता है, लेकिन यह एक गलत टोकन पर खड़ा है। अनुसंधान इस जोखिम पूर्वाग्रह को कहते हैंः मॉडल को स्वच्छ मानव पाठ पर प्रशिक्षित किया गया और मध्य-पीढ़ी की अपनी गलतियों से उबरना कभी नहीं सीखा।

प्रशिक्षण विश्वसनीय पाठ को पुरस्कृत करता है, वास्तविक पाठ नहीं। क्रॉस एन्ट्रोपी हानि टोकन के लिए कम संभावना को दंडित करती है जो वास्तव में प्रशिक्षण डेटा में अगला आया था। यह मॉडल को सिखाता नहीं है कि पाठ सही है। प्रशिक्षण डेटा त्रुटियों और अंतराल हैं, तथ्यों को संकुचित और अपूर्ण मापदंडों में संग्रहीत किया जाता है, और दुर्लभ तथ्य एक साथ धुंधला हो सकते हैं। पूर्व-प्रशिक्षण के बाद, कई मॉडल मानव प्रतिक्रिया के साथ ट्यून किए जाते हैं, जो संदेह को स्वीकार करने वाले उत्तरों पर पूर्ण और आत्मविश्वास से अधिक जवाब दे सकता है।

मार्गदर्शिका एक प्रोत्साहन समस्या जोड़ती है। ओपनएआई शोधकर्ताओं Adam Tauman Kalai और Santosh Vempala का तर्क है कि मानक प्रशिक्षण और मूल्यांकन अनिश्चितता को स्वीकार करने पर अनुमान लगाते हैं। अधिकांश बेंचमार्क सही उत्तर के लिए 1 अंक, गलत जवाब के लिए 0 अंक और "मुझे नहीं पता" के लिए ० अंक देते हैं। यदि कोई मॉडल 300 चार-विकल्प वाले प्रश्नों का सामना करता है जिसके बारे में यह निश्चित नहीं है, तो नपुंसकता स्कोर 0, जबकि अनुमान लगाने से लगभग 75 मौका मिलता है, या 25 प्रतिशत। लाखों प्रशिक्षण चरणों में, वह संकेत मॉडल को हमेशा जवाब देने के लिए सिखाता है। शोधकर्ताओं का सुझाव है कि स्कोरिंग आत्मविश्वासपूर्ण गलत उत्तरों को रोकने की तुलना में अधिक महंगा बनाता है और जो मॉडल नहीं जानता उसे जानने के लिए क्रेडिट देता है। वे कहते हैं कि इसे प्रमुख बेंचमारकों में समन्वित परिवर्तन की आवश्यकता होगी, और इसे अभी तक व्यापक रूप से अपनाया नहीं गया है।

चार क्लासिक प्रकार और व्यावहारिक सुधार

प्रत्येक भ्रम को एक ही फिक्स की आवश्यकता नहीं होती है। शोधकर्ता उन्हें दो प्रश्नों के साथ सॉर्ट करते हैं। क्या उत्तर दुनिया के बारे में गलत है, या जो आपने मॉडल को बताया था उसके बारे में भी गलत है? यह तथ्यात्मकता और निष्ठा देता है। क्या मॉडल आपके द्वारा दिए गए दस्तावेज़ के खिलाफ गया था, या दस्तावेज ने कभी नहीं कहा कि चीजें जोड़ें? यह आंतरिक और बाह्य देता है. ये लेबल अनुसंधान के दो अलग-अलग निकायों से आते हैं। अंतर्निहित और बाहरी पुरानी जोड़ी हैं। वास्तविकता और वफादारी LLM का सर्वेक्षण से आती है। वास्तविक परियोजनाओं में, अक्सर दोनों टीमें एक साथ लेबल का उपयोग करती हैं।

तथ्यात्मकता का भ्रम: मॉडल वास्तविक दुनिया के बारे में कुछ गलत कहता है। प्रॉम्प्ट मायने नहीं रखता। उदाहरणः "नैपोलियन ने वाटरलू की लड़ाई जीती।" उन्होंने इसे खो दिया। यह दो स्वादों में आता हैः गलत तथ्य, जैसे कि कहना Thomas Edison जब टेलीफोन का आविष्कार किया गया था Alexander Graham Bell, और बनाया हुआ तथ्य, जैसा कि एक शोध पत्र, उद्धरण या अदालत के मामले का अविष्कार करना। फिक्सः मॉडल को पढ़ने के लिए एक विश्वसनीय स्रोत दें, जिसे पुनर्प्राप्ति कहा जाता है, या उसे "मुझे नहीं पता" कहने दें।

वफादारी भ्रम: मॉडल आपके निर्देशों, आपके दस्तावेज़ या यहां तक कि अपने स्वयं के पहले चरणों का पालन नहीं करता है। दावा सच हो सकता है, लेकिन मॉडल ने वह नहीं किया जो आपने पूछा था। उदाहरणः आप लिखते हैं "केवल इस दस्तावेज़ से उत्तर दें", लेकिन मॉडल चुपचाप अपनी स्मृति से तथ्यों को जोड़ता है। उदाहरण: आप एक प्रश्न के स्पेनिश अनुवाद के लिए पूछते हैं, और मॉडल इसके बजाय सवाल का जवाब देता है। फिक्स में स्पष्ट निर्देश, संरचित आउटपुट और कोड की जांच शामिल है कि उत्तर वास्तव में दस्तावेज़ से आता है। गाइड कहता है कि अंत में परियोजना यह जाँच बनाती है।

अंतर्निहित मतिभ्रम: मॉडल आपके द्वारा दिए गए पाठ के विपरीत है. सत्य ठीक वहाँ था। यदि आपका दस्तावेज़ कहता है "बैठक मंगलवार को है", और सारांश कहता है, "बैठे बुधवार है", तो स्रोत के खिलाफ उत्तर विफल हो जाता है। फिक्सः स्रोत के साथ उत्तर की तुलना करें, कोड में एक साधारण जांच का उपयोग करें, या न्यायाधीश के रूप में कार्य करने वाले दूसरे मॉडल का प्रयोग करें।

Extrinsic hallucination: मॉडल आपके स्रोत में नहीं विवरण जोड़ता है. वे स्रोत का विरोधाभास नहीं कर सकते हैं, लेकिन वे असमर्थित हैं। वे सच भी हो सकता है, लेकिन आप उन्हें दस्तावेज़ से साबित नहीं कर पाएंगे। उदाहरणः एक कंपनी की रिपोर्ट को "एशिया में रिकॉर्ड वृद्धि" दिखाने के रूप में सारांशित किया गया है, हालांकि रिपोर्ट ने कभी ऐसा नहीं कहा था। फिक्सः मॉडल को प्रत्येक दावे के पीछे सटीक वाक्य उद्धृत करने के लिए कहें, और किसी भी दावे को हटा दें जिसमें कोई उद्धरण न हो।

उपकरण और एजेंट का भ्रम

चूंकि कंपनियां चैटबॉट से AI एजेंटों के लिए आगे बढ़ रही हैं जो उपकरण को कॉल करते हैं और अपने दम पर कार्य करते हैं, गाइड तीन श्रेणियां जोड़ता है।

उपकरण भ्रम तब होता है जब एजेंट एक फ़ंक्शन का आविष्कार करता है जो मौजूद नहीं है, दावा करता है कि उसने ऐसा टूल चलाया जिसे वह कभी भी नहीं चलाता था, या यह स्वीकार करने के बजाय अप्रासंगिक टूल का उपयोग करता है। इसके चार उपप्रकार हैं। एक आविष्कारित टूल अपडेट_उपयोगकर्ता जैसे कार्य को कॉल करता है जब केवल create_user और delete_user उपलब्ध होते हैं. एक गलत टूल मौजूद है लेकिन स्टॉक की जांच करने के लिए रिपोर्टिंग फंक्शन को बुलाने जैसा कार्य फिट नहीं होता है। गलत तर्क तब होते हैं जब टूल वास्तविक हो, लेकिन एजेंट कोई विकल्प जोड़ता है जिसे वह स्वीकार नहीं करता है या उस पर कूद जाता है जिसकी उसे आवश्यकता होती है। एक नकली रन वह होता है जहां एजेंट कभी भी टूल को कॉल नहीं करता और यथार्थवादी दिखने वाला परिणाम लिखता है मानो उसने किया।

मूक भ्रम तब होता है जब एजेंट अपने काम के भीतर एक झूठा विश्वास बनाता है और इसे कभी भी बताए बिना उस पर कार्य करता है, इसलिए आपके लिए कोई गलत वाक्य नहीं है। उदाहरण के लिए, यह मानता है कि मूल्य स्तंभ डॉलर में है जबकि यह सेंट में है, और हर रिफंड की गणना वह गलत है।

कैस्केडिंग मतिभ्रम कई एजेंटों की एक प्रणाली में होता है। एक संख्या का निर्माण करता है, अगला इसे सत्यापित मानता है और तीसरा उस पर कार्य करता है। प्रत्येक चरण सुसंगत लगता है, फिर भी पूरी श्रृंखला आविष्कार पर टिकी हुई है।

एक 2025 सर्वेक्षण एजेंट लूप के चरण द्वारा एजेंट भ्रमों को भी क्रमबद्ध करता है। इसमें पांच की सूची दी गई हैः तर्क, जब एजेंट लक्ष्य को गलत समझता है या बुरी योजना बनाता है; निष्पादन, जब यह आमतौर पर उपकरणों के माध्यम से एक योजना को कार्यों में बदलने में विफल रहता है; धारणा, जब वह अपने वातावरण में जो कुछ देखता है उसे गलत तरीके से पढ़ता है; स्मृति, जब वे गलत जानकारी सहेजते हैं या बाद में गलत चीज प्राप्त करते हैं; और संचार, जब गलत संदेश एजेंटों के बीच फैल जाते हैं।

क्या 2026 अनुसंधान परिवर्तन

दो वर्षों के लिए, काम करने की धारणा यह थी कि शिक्षण मॉडल को तर्क देना उन्हें अधिक विश्वसनीय बनाता है। एसोसिएशन फॉर Computational Linguistics 2026, "द Reasoning Trap: हाउ Enhancing LLM Reasoning Amplifies Tool Hallucination", द्वारा Chenlong Yin, Zeyang Sha, Shiwen Cui, Changhua Meng और Zechao Li, ने टूल उपयोग के लिए चुनौती दी।

लेखकों ने 296 उपकरणों का उपयोग करते हुए दो जाल के साथ SimpleToolHalluBench नामक एक नैदानिक बनाया। एक जाल एक ऐसा कार्य देता है जिसके लिए उपकरण की आवश्यकता होती है, लेकिन वह उपकरण हटा दिया जाता है। गाइड में कहा गया है कि यह बेंचमार्क मजबूत तर्क के तहत उपकरण भ्रम का परीक्षण करता है।

पाठकों के लिए, व्यावहारिक सबक यह नहीं है कि विश्वास को प्रमाण के रूप में पढ़ा जाए। जब सच्चाई मायने रखती हो, तो स्रोतों से पूछें, सटीक उद्धरण की आवश्यकता होती है, आपूर्ति किए गए दस्तावेजों के साथ उत्तरों की तुलना करें, एजेंटों को अनिश्चितता स्वीकार करने दें और अंतिम गद्य से अलग-अलग उपकरण व्यवहार का परीक्षण करें।

मेटा विवरणः LLM भ्रम के लिए यह गाइड बताता है कि क्यों आत्मविश्वासपूर्ण AI उत्तर झूठे हो सकते हैं, मुख्य प्रकार और व्यावहारिक जांच जो आज बिल्डरों का उपयोग कर सकते हैं।

टैगः LLM भ्रम, AI विश्वसनीयता, उपकरण का उपयोग, पुनर्प्राप्ति, एजेंट सुरक्षा