Cyber Campaign: malware रूसी भाषी धमकी अभिनेताओं द्वारा उपयोग किए जाने वाले टूलसेट

OpenAI ने उन खातों के एक सेट को बंद करने का कदम उठाया है जो रूसी भाषी साइबर आपराधिक नेटवर्क से जुड़े हुए प्रतीत होते हैं, यह पता लगाने के बाद कि समूह अपने AI टूल का उपयोग दुर्भावनापूर्ण सॉफ़्टवेयर और संबंधित हमले के बुनियादी ढांचे को विकसित करने में मदद करने के लिए कर रहे थे।

कंपनी के अनुसार, प्रतिबंधित खाते एआई की सहायता से साइबर हमलों के कई घटकों को बनाने में शामिल थे। इनमें लोडर AI छोटे प्रोग्राम शामिल हैं जो एक पीड़ित डिवाइस पर मैलवेयर स्थापित करने के लिए उपयोग किए जाते हैं साथ ही एंटीवायरस टूल और सुरक्षा स्कैनरों से दुर्भावनापूर्ण कोड छिपाने के लिए डिज़ाइन किया गया है। अभिनेताओं ने क्रेडेंशियल-चोरी स्क्रिप्ट लिखने और कमांड-एंड-कंट्रोल (सी 2) इन्फ्रास्ट्रक्चर का निर्माण करने में मदद के लिए मॉडलों का भी इस्तेमाल किया था, बैकेंड सिस्टम हमलावर समझौता मशीनों के साथ संवाद करना करते हैं।

टेकडाउन एक बढ़ते हुए पैटर्न को दर्शाता है जिसमें खतरा अभिनेता अपने संचालन के विभिन्न चरणों में जनरेटिव एआई का प्रयोग करते हैं जरूरी नहीं कि स्क्रैच से परिष्कृत नया मैलवेयर बनाएं, बल्कि रूटीन कोडिंग कार्यों, डिबग लिपियों की गति बढ़ाएं और दुर्भावनापूर्ण उपकरणों का पता लगाना कठिन बना दें।

ओपनएआई ने घोषणा में किसी भी विशिष्ट नामित समूह या पुष्टिकरण के लिए गतिविधि को लिंक नहीं किया, और शामिल खातों की संख्या या संचालन के पूर्ण दायरे के बारे में विवरण अस्पष्ट हैं। प्रतिबंध अपने प्लेटफार्मों के दुरुपयोग की पहचान करने और बाधित करने के कंपनी के चल रहे प्रयास का हिस्सा है, जिसे यह अन्य प्रवर्तन कार्यों के साथ-साथ समय-समय पर रिपोर्ट करता है।

यह मामला एआई प्रदाताओं के लिए एक व्यापक चुनौती को रेखांकित करता हैः जबकि मॉडल में स्पष्ट रूप से हानिकारक अनुरोधों को अवरुद्ध करने के उद्देश्य से सुरक्षा उपाय हैं, दृढ़ संकल्प वाले अभिनेता टुकड़े-टुकड़े या छिपे हुए प्रश्नों के माध्यम से उपयोगी तकनीकी सहायता निकालने का प्रयास कर सकते हैं। ओपनएआई का कहना है कि इस प्रकार के दुरुपयोग के खिलाफ पता लगाने और प्रवर्तन एक सक्रिय, निरंतर प्रक्रिया बनी हुई है।