अपने स्वयं के AI सुरक्षा एजेंट का निर्माण करने के लिए एक चरण-दर-चरण गाइड

मेटा विवरणः 148-लाइन Python प्री-फ्लाईट चेक एक परियोजना को स्कैन कर सकता है इससे पहले कि AI एजेंट इसे छूए, परिवर्तन शुरू होने से पहले लगाए गए रहस्यों और छिपे हुए इंजेक्शन जोखिम का परीक्षण करें।

टैगः AI एजेंट, कोड सुरक्षा, Python , शीघ्र इंजेक्शन, पूर्व-उड़ान जांच

विशेष रुप से प्रदर्शित छवि: (अंग्रेज़ी में) ">"</string> सार मित्रवत चित्रण: एक छोटी सी स्क्रिप्ट ICON किसी फ़ोल्डर को स्कैन करती है इससे पहले कि robot उस तक पहुँच जाए; कोई वास्तविक लोग, लोगो या पाठ नहीं।

एक 148-पंक्ति Python प्रीफ्लाइट चेक उन डेवलपर्स को लक्षित किया गया है जो AI एजेंट तक पहुंचने से पहले किसी प्रोजेक्ट का निरीक्षण करने के लिए एक हल्का तरीका चाहते हैं। एक Towards AI पोस्ट इस विचार का वर्णन करता हैः तुरंत एक रिपॉजिटरी को एजेंट को सौंपने के बजाय, स्क्रिप्ट कोड और संदर्भ पर पहली बार जांच का एक छोटा सेट चलाता है। उपलब्ध अंश प्रकाशन की तारीख नहीं देता है, लेकिन यह कहता है कि चेकों को लगाए गए रहस्यों और एक छिपे हुए इंजेक्शन के खिलाफ परीक्षण किया गया था, और यह एक अन्य मामले को भी संदर्भित करता है जिसे पूर्वावलोकन में पूरी तरह से वर्णित नहीं किया जाता है। पाठकों के लिए, मूल्य जादू firewall नहीं है। यह एक व्यावहारिक प्रश्न हैः सहायक शुरू होने, पढ़ने या परिवर्तन का सुझाव देने से पहले सस्ते में क्या पकड़ा जा सकता है?

AI एजेंटों के लिए प्रोजेक्ट प्री-फ्लाईट चेक क्यों मायने रखता है

AI कोडिंग एजेंटों के लिए आमतौर पर संदर्भ की आवश्यकता होती है. वे फ़ाइलें पढ़ सकते हैं, लिंक का पालन कर सकते हैं या प्राकृतिक भाषा निर्देशों को स्वीकार करते हैं जो टिप्पणियों और डेटा में एम्बेडेड होते हैं। यह सुविधा जोखिम पैदा करती है। एक कॉन्फ़िग फाइल में एक रहस्य को लॉग या उत्तर में कॉपी किया जा सकता है। README में छिपे हुए इंस्ट्रक्शन को किसी ऐसे एजेंट द्वारा कमांड के रूप में माना जाता है जो टेक्स्ट को बहुत शाब्दिक रूप से फॉलो करता है।

एक प्री-फ्लाइट चेक उपयोगी है क्योंकि यह दो निर्णयों को अलग करता है जो अक्सर ढह जाते हैंः क्या एजेंट इसे देख सकता है? और क्या यह परियोजना स्वचालित करने के लिए पर्याप्त सुरक्षित है? Towards AI द्वारा वर्णित 148-पंक्ति Python स्क्रिप्ट उस क्षण में फिट होने के लिए काफी छोटी है। यह कोड समीक्षा, अनुमति नियंत्रण, सैंडबॉक्सिंग या गुप्त स्कैनिंग की जगह नहीं लेता है।

148 पंक्तियाँ क्या साबित करती हैं

स्रोत से मूल तथ्य संकीर्ण हैः Python की 148 पंक्तियाँ किसी परियोजना को जांचती हैं इससे पहले कि AI एजेंट के पास इसकी अनुमति दी जाए। अंश में परीक्षण मामलों के रूप में लगाए गए रहस्यों और एक छिपे हुए इंजेक्शन की पहचान की गई है। ये सार्थक उदाहरण हैं क्योंकि वे विफलता के दो अलग-अलग वर्गों का प्रतिनिधित्व करते हैं।

लगाए गए रहस्य परीक्षण क्रेडेंशियल या tokens हैं जो जानबूझकर एक परियोजना में रखे जाते हैं। यदि स्कैनर उन्हें चिह्नित करता है, तो स्क्रिप्ट बुनियादी गुप्त स्वच्छता के समान कुछ कर रही हैः उन तारों की तलाश करना जिन्हें उजागर नहीं किया जाना चाहिए। सटीक नियम, फ़ाइल प्रकार, एन्ट्रोपी जांच, या झूठे-सकारात्मक व्यवहार को अंश में नहीं दिखाया गया है, इसलिए पाठकों को यह नहीं मानना चाहिए कि लिपि हर प्रमाणपत्र प्रारूप को पकड़ती है।

एक छिपे हुए इंजेक्शन अलग है। यह परीक्षण करता है कि क्या चेक टेक्स्ट को नोटिस कर सकता है जो AI एजेंट, जैसे सामान्य सामग्री के रूप में प्रच्छन्न निर्देशों का मार्गदर्शन कर सकते हैं। त्वरित इंजेशन उन प्रणालियों के लिए एक ज्ञात जोखिम है जो अविश्वसनीय पाठ का उपभोग करते हैं। स्रोत निर्दिष्ट नहीं करता है यदि परीक्षण ने टिप्पणियों, मार्कडाउन, कोड स्ट्रिंग्स या डेटा फ़ाइलों का उपयोग किया था, इसलिए उपलब्ध सामग्री केवल दिखाती है कि अवधारणा का अभ्यास किया गया था, न कि कितनी व्यापकता से।

पूर्वावलोकन भी एक अतिरिक्त परीक्षण मामले का उल्लेख के साथ समाप्त होता है, लेकिन उपलब्ध पाठ इसे नाम नहीं देता। यह अंतराल मायने रखता है. सुरक्षा उपकरण की उपयोगिता उन परीक्षणों पर निर्भर करती है जो इसमें शामिल हैं और जिन्हें वह याद करता है।

पाठकों को स्क्रिप्ट से क्या उम्मीद करनी चाहिए

गैर-विशेषज्ञों के लिए, मुख्य टेकअवे पैटर्न हैः किसी प्रोजेक्ट में AI एजेंट को एक्सेस देने से पहले एक छोटा स्वचालित स्कैन चलाएं। स्क्रिप्ट का आकार बताता है कि यह पूर्ण एंटरप्राइज़ प्लेटफ़ॉर्म नहीं है। इसकी अधिक संभावना एक केंद्रित गार्डरेल है, शायद स्पष्ट खतरनाक स्ट्रिंग्स, संदिग्ध निर्देशों या फ़ाइलों की तलाश कर रहा है जिन्हें एजेंट तक नहीं पहुंचाया जाना चाहिए।

यह कई वास्तविक कार्यप्रवाहों में मदद कर सकता है. एक डेवलपर chatbot को .env फ़ाइल भेजने से बचना चाह सकता है। एक टीम README निर्देशों को अवरुद्ध करना चाह सकती है जो सहायक को पिछले नियमों की अनदेखी करने के लिए कहते हैं। 14 एक योगदानकर्ता बाहरी उपकरण के साथ रिपॉजिटरी साझा किए जाने से पहले परीक्षण रहस्य पकड़ना चाहता है। प्रत्येक मामले में, 148-लाइन Python प्रीफ्लाइट चेक एक गेट है, पूर्ण ऑडिट नहीं।

चेक एजेंटों के लिए एक व्यावहारिक डिजाइन प्रश्न भी उठाता हैः क्या एजेंट को पूरी परियोजना, फ़िल्टर्ड संदर्भ या केवल फाइलें प्राप्त करनी चाहिए जिन्होंने निरीक्षण पारित किया है? एक साधारण प्रीफ्लाइट स्क्रिप्ट उस मॉडल का समर्थन कर सकती है जो पहले स्थान पर एजेंट तक पहुंचती है।

चेक क्या हल नहीं करता है

किसी भी स्कैनर को गारंटी के रूप में नहीं माना जाना चाहिए। अंश यह नहीं दिखाता है कि क्या स्क्रिप्ट एन्क्रिप्टेड फ़ाइलों, बड़े बाइनरी, संपीड़ित अभिलेखागार, असामान्य एन्कोडिंग या अस्पष्ट रहस्यों को संभाल सकती है। यह यह भी नहीं दिखाती है कि यह एक वास्तविक गुप्त से परीक्षण गुप्त कैसे अलग करता है, या यह विभिन्न AI प्रदाताओं और एजेंट फ्रेमवर्क के अनुकूल हो सकता है।

एक छिपे हुए इंजेक्शन विशेष रूप से कठिन है क्योंकि डेटा और निर्देश के बीच की सीमा धुंधली हो सकती है। यदि किसी एजेंट को फ़ाइल में टेक्स्ट का पालन करने के लिए डिज़ाइन किया गया है, तो फाइल में ऐसी सामग्री हो सकता है जो दुर्भावनापूर्ण कोड के बिना भी इसके व्यवहार को प्रभावित करती है। Python स्क्रिप्ट संदिग्ध पैटर्न को चिह्नित कर सकती है, लेकिन यह हर एजेंट की व्याख्या परत नहीं जान सकती।

इस कारण से, स्क्रिप्ट को एक परत के रूप में सबसे अच्छा समझा जाता है. यह रिपॉजिटरी अनुमतियों, कम-अधिकार पहुंच, गुप्त प्रबंधकों, समीक्षा कार्यप्रवाह और मानव पर्यवेक्षण के साथ काम करता है।

आगे क्या देखना है

अधिक दिलचस्प सवाल यह है कि क्या यह पैटर्न फैलता है। छोटे प्री-फ्लाइट चेक आम हो सकते हैं क्योंकि उन्हें एक विकास लूप में जोड़ना आसान होता है। वे सीएलआई एजेंट शुरू होने से पहले, कोड स्निपेट को मॉडल में चिपकाए जाने से पहले या सीआई जॉब के बाहरी सहायक को संदर्भ भेजने से पहले चला सकते हैं।

पाठकों को उन विवरणों के लिए ध्यान देना चाहिए जो विचार को अधिक उपयोगी बना देंगे: सटीक परीक्षण सूची, झूठे-सकारात्मक उदाहरण, सामान्य गुप्त प्रारूपों का समर्थन, बड़े रिपॉजिटरी पर व्यवहार और क्या स्क्रिप्ट को विभिन्न एजेंट वातावरण के लिए विस्तारित किया जा सकता है। बिना इन जानकारी के स्रोत एक स्पष्ट संकेत देता है लेकिन पूर्ण सुरक्षा विनिर्देश नहीं।

किसको इसका उपयोग करना चाहिए/कौन इसे छोड़ना चाहिए

यदि आप AI कोडिंग टूल के साथ काम करते हैं और किसी प्रोजेक्ट को एजेंट से उजागर करने से पहले एक सरल पहली जांच की आवश्यकता होती है, तो पैटर्न का उपयोग करें। Towards AI द्वारा वर्णित 148-लाइन Python प्रीफ्लाइट चेक डेवलपर्स, छात्रों और छोटी टीमों के लिए प्रासंगिक है जो स्वचालन शुरू होने से पहले रहस्यों और इंजेक्शन के बारे में सोचना चाहते हैं।

यदि आपको अनुपालन-ग्रेड स्कैनिंग समाधान की आवश्यकता है, अगर आपके रिपॉजिटरी में कई संवेदनशील प्रारूप हैं, या यदि लापता विवरण उपलब्ध नहीं हैं तो इस पर निर्भरता को छोड़ें या देरी करें। स्क्रिप्ट का मूल्य इसकी सादगी हैः एक परियोजना के पास AI एजेंट की अनुमति देने से पहले एक छोटा स्वचालित ठहराव। यह विराम उपयोगी हो सकता है, लेकिन इसे पूर्ण सुरक्षा के लिए गलत नहीं माना जाना चाहिए।