Real Python पॉडकास्ट प्रकरण #308: प्रैक्टिकल पर्यवेक्षण तकनीकों के साथ छिपी हुई AI विफलताओं को संबोधित करना

इस सप्ताह के शो में, Calvin Hendryx-पार्कर चर्चा करने के लिए लौटता है कि क्यों AI सिस्टम चुपचाप विफल हो जाते हैं और कैसे टीमें एक वर्कफ़्लो सेट कर सकती हैं जो काम की समीक्षा और सत्यापन करते हुए परिणाम उत्पन्न करती है। यह चर्चा उनके हालिया भाषण पर आधारित है, "Orchestrate Agentic AI: संदर्भ, चेकलिस्ट, और नंबर-Miss Reviews"। किसी भी व्यक्ति के निर्माण या तैनाती के लिए एजेंटिक AI, मूल्य केवल मॉडल को कार्य नहीं कर रहा है; यह आउटपुट को पर्याप्त विश्वसनीय बना रहा है जिसे जांचने, सुधारने और पुनः उपयोग किया जा सकता है।

क्यों मौन विफलता असली जोखिम है

AI सिस्टम अक्सर एक दृश्यमान तरीके से विफल हो जाते हैं: त्रुटि संदेश, टाइमआउट या रिक्त प्रतिक्रिया। अधिक खतरनाक मामला मूक विफलता है, जहां सिस्टम एक ऐसा जवाब देता है जो पूरा लगता है लेकिन आवश्यक बाधा को याद करता है, गलत धारणा का उपयोग करता है या टूल कॉल पर निर्भर होता है जो वास्तव में सफल नहीं हुआ था। यह समस्या और भी महत्वपूर्ण हो जाती है क्योंकि AI, एकल संकेतों से परे एजेंटिक वर्कफ़्लोज़ में चला जाता है, जहाँ सिस्टम कई चरणों की योजना बना सकता है, उपकरण बुला सकते हैं, स्थिति रख सकते हैं और मध्यवर्ती परिणामों पर कार्य कर सकते हैं।

एक एकल गलत कदम प्रक्रिया के बाकी हिस्सों में फैल सकता है। यदि कोई एजेंट किसी कार्य को गलत तरीके से पढ़ता है, सत्यापन की जांच छोड़ देता है, या असत्यापित तथ्य का निपटान करता है, तो बाद के आउटपुट त्रुटि को विरासत में ले सकते हैं। क्योंकि अंतिम परिणाम अभी भी धाराप्रवाह और उपयोगी हो सकता है, उपयोगकर्ता तब तक दोष को नोटिस नहीं कर सकते जब तक वे यह न जान लें कि क्या देखना है।

संदर्भ सिर्फ एक संकेत नहीं है

व्याख्यान के शीर्षक का पहला भाग, संदर्भ, उस जानकारी की ओर इशारा करता है जिसे एक प्रणाली को सही ढंग से काम करने की आवश्यकता होती है। व्यवहार में, संदर्भ में कार्य निर्देश, प्रासंगिक डेटा, पिछले निर्णय, स्वीकार्य व्यवहार की सीमाएं और सफलता की परिभाषा शामिल हो सकती हैं। इस संदर्भ के बिना, AI सिस्टम वास्तविक उत्तर प्रदान कर सकता है जो वास्तविक नौकरी के लिए उपयुक्त नहीं है।

बिल्डरों के लिए, यह सुझाव देता है कि संदर्भ को उत्पाद डिजाइन का हिस्सा माना जाना चाहिए। एक प्रणाली को केवल अनुरोध प्राप्त नहीं करना चाहिए; इसे यह भी पता होना चाहिए कि कौन से स्रोत मायने रखते हैं, किन सवालों के जवाब दिए जाने चाहिए, क्या कार्रवाई की अनुमति है और आउटपुट देने से पहले किस साक्ष्य की आवश्यकता होती है।

चेकलिस्ट समीक्षा को दोहराए जाने योग्य प्रक्रिया में बदल देती है

दूसरा भाग, चेकलिस्ट (Checklists), विचार को परिचालन में लाता है। एक चेक सूची यह परिभाषित कर सकती है कि तैयार परिणाम में क्या होना चाहिए, क्या सत्यापित किया जाना चाहिए, किन किनारों के मामलों का परीक्षण करना चाहिए और कार्यप्रवाह को रोकने के लिए कौन से कदम उठाए जाने चाहिए। मुद्दा नौकरशाही जोड़ना नहीं है। इसे पर्याप्त व्यवस्थित बनाना है ताकि गुणवत्ता केवल उस समय समीक्षक की स्मृति पर निर्भर न हो।

AI कार्यप्रवाह में, चेकलिस्ट मॉडल आउटपुट और प्रक्रिया स्वास्थ्य दोनों को कवर कर सकते हैं। क्या सिस्टम ने सही स्रोत का उपयोग किया था? क्या इसने मान्यताओं का हवाला दिया या ट्रैक किया? क्या यह आवश्यक सत्यापन चलाया गया? क्या उसने निषिद्ध कार्यों से बचा है? क्या वह एक निशान छोड़ता है जिसे कोई मानव निरीक्षण कर सकता है? जब ये आइटम स्पष्ट होते हैं, तो विफलताओं को उपयोगकर्ताओं तक पहुंचने से पहले पकड़ना आसान हो जाता है।

No-Miss Reviews डिलीवरी से पहले वैधता के लिए लक्ष्य

No-Miss Reviews वाक्यांश भाषण का सबसे मजबूत संकेत है। यह एक समीक्षा परत को चित्रित करता है जो अन्यथा फिसलने वाले मुद्दों को पकड़ने के लिए डिज़ाइन किया गया है। लक्ष्य पूर्णता नहीं है। इसका उद्देश्य एक ऐसी प्रणाली बनाना है जहां परिणाम उसी कार्यप्रवाह के भीतर उत्पादित और जांच किए जाते हैं, इसलिए सत्यापन बाद में विचार करने के बजाय वितरण का हिस्सा है।

एक व्यावहारिक समीक्षा लूप पीढ़ी को जांच से अलग कर सकता है। पहला चरण एक मसौदा या कार्य योजना का उत्पादन करता है। दूसरा चरण इसे चेकलिस्ट, संदर्भ और सफलता मानदंडों के खिलाफ परीक्षण करता है. यदि परिणाम विफल हो जाता है, तो वर्कफ़्लो इसे ठीक कर सकती है, इसे बढ़ा सकती है या रोक सकती है। यह एजेंटिक AI के लिए मायने रखता है क्योंकि सिस्टम किसी प्रश्न का उत्तर देने से अधिक कर रहा है; यह ऐसे कदम उठा रहा है जिनके परिणाम हो सकते हैं।

आज टीमों के लिए इसका क्या मतलब है

एपिसोड के दो फ्रेमिंग प्रश्न सरल हैंः AI सिस्टम चुपचाप विफल क्यों होते हैं? आप एक ऐसी प्रणाली कैसे स्थापित कर सकते हैं जो काम की समीक्षा और सत्यापन करते हुए परिणाम उत्पन्न करती है? टॉक शीर्षक से निहित उत्तर यह है कि विश्वसनीयता डिजाइन से आती है, न कि भाग्य से। संदर्भ सही समस्या को लक्षित करने वाले सिस्टम को बनाए रखता है। चेकलिस्ट गुणवत्ता को मापने योग्य बनाते हैं। समीक्षा उन असफलताओं को पकड़ती है जिन्हें धाराप्रवाह आउटपुट छिपा सकता है।

पाठकों के लिए, टेकअवे छोटा शुरू करना है। उच्च दांव वाले AI वर्कफ़्लो में एक चेकलिस्ट जोड़ें। परिभाषित करें कि "पूर्ण" का क्या अर्थ है। आउटपुट को स्वीकार करने से पहले एक सत्यापन चरण की आवश्यकता होती है। जो विफलताएं पकड़ी जाती हैं और जो अभी भी फिसलती हैं उन्हें ट्रैक करें। इससे यह स्पष्ट हो जाता है कि सिस्टम वास्तव में अधिक विश्वसनीय बन रहा है या नहीं।

व्यापक प्रभाव व्यावहारिक होने की संभावना हैः एजेंट AI में समीक्षा बनाने वाली टीमों को हर परिणाम पर लगातार संदेह किए बिना उपकरणों को अपनाना आसान हो सकता है। यह मानव जिम्मेदारी नहीं हटाता है, लेकिन यह प्रत्येक आउटपुट को पढ़ने से एक प्रणाली का निरीक्षण करने के लिए डिज़ाइन किया गया भूमिका बदल देता है।

मेटा विवरण

Calvin Hendryx-पार्कर बताता है कि क्यों AI सिस्टम चुपचाप विफल हो जाते हैं और कैसे एजेंटिक AI वर्कफ़्लो विश्वसनीय परिणामों के लिए संदर्भ, चेकलिस्ट और नो-मिस समीक्षाओं का उपयोग कर सकते हैं।

टैग

एजेंटिक AI, AI विश्वसनीयता, मॉडल सत्यापन, कार्यप्रवाह की समीक्षा

फ़ीचर छवि

एक फ्लोटिंग चेकलिस्ट और एक आवर्धक कांच द्वारा जाँच की जा रही AI कार्यप्रवाह का अमूर्त मैत्रीपूर्ण चित्रण, कोई वास्तविक लोग नहीं हैं, कोई लोगो नहीं है, कोई पाठ नहीं