अनुमानित डिकोडिंग की व्याख्या से पता चलता है कि कोई भी LLM तीन गुना तेज निष्कर्ष कैसे प्राप्त कर सकता है।
अनुमानित डिकोडिंग गुणवत्ता को संरक्षित करते हुए 2 से 3 गुना तेज आउटपुट के लिए समानांतर में tokens का मसौदा तैयार करने और सत्यापित करके LLM निष्कर्ष की गति बढ़ाता है।
