चांदी की अस्तर खोजने के लिए एक प्लेबुकः United States में व्यक्तियों को लक्षित Probable China आधारित ऑपरेशन
OpenAI ने चीन से जुड़े संभावित खातों के एक समूह को प्रतिबंधित कर दिया, जिसने अपने AI टूल का उपयोग अमेरिका स्थित व्यक्तियों और स्थानों पर शोध करने और सामाजिक इंजीनियरिंग रणनीति का अध्ययन करने के लिए किया था। यह मामला उन बढ़ती चुनौतियों को उजागर करता है जिनका सामना AI कंपनियों को करना पड़ता है क्योंकि उनके उपकरणों को टोही और हेरफेर के लिए पुनर्व्यवस्थित किया जा सकता है। श्रेय अनिश्चित बना हुआ है, लेकिन घटना राज्य-लिंक्ड दुरुपयोग के व्यापक पैटर्न में फिट बैठती है और चल रही नीतिगत बहस को बढ़ावा देती है।
ओपनएआई ने उन खातों के एक समूह के खिलाफ कार्रवाई की है, जिनके बारे में माना जाता है कि वे चीन से जुड़े हुए हैं, जो कथित तौर पर United States में लोगों और स्थानों के बारे में जानकारी इकट्ठा करने के लिए अपने AI टूल का उपयोग कर रहे थे। कंपनी के अनुसार, ये खाते सोशल इंजीनियरिंग से जुड़ी तकनीकों का भी अध्ययन करते प्रतीत होते हैं, जिससे खुफिया संग्रह और प्रभाव संचालन के लिए AI के संभावित दुरुपयोग को लेकर चिंताएं बढ़ जाती हैं।
लेखा जोखा क्या कर रहा था
प्रतिबंधित खातों ने कथित तौर पर विशिष्ट यूएस-आधारित व्यक्तियों और स्थानों की खोज के लिए ओपनएआई मॉडल का उपयोग किया। आकस्मिक या सामान्य पूछताछ के बजाय, गतिविधि ने विस्तृत प्रोफाइल संकलित करने के लिए एक समन्वित प्रयास का सुझाव दिया। लोगों और जगहों पर शोध के अलावा, खातों में सामाजिक इंजीनियरिंग रणनीति - संवेदनशील जानकारी को प्रकट करने या सुरक्षा से समझौता करने वाली कार्रवाई करने में लोगों को हेरफेर करने की प्रथा का पता लगाया गया था।
गतिविधि के इस संयोजन - व्यक्तियों की प्रोफाइलिंग, स्थानों का अध्ययन करना और हेरफेर तकनीकों को सीखना- यही कारण है कि ओपनएआई ने खातों को समाप्त करने के लिए प्रेरित किया। कंपनी ने कथित तौर पर लक्षित विशिष्ट व्यक्तियों या संगठनों का नाम नहीं लिया।
यह क्यों मायने रखता है
यह प्रतिबंध AI कंपनियों के लिए एक बढ़ती चुनौती को उजागर करता हैः जबकि उनके उपकरण उपयोगी रोजमर्रा के उपयोग के लिए डिज़ाइन किए गए हैं, उसी क्षमताओं को टोही और हेरफेर के लिए फिर से नियोजित किया जा सकता है। बड़े भाषा मॉडल जल्दी से जानकारी का सारांश दे सकते हैं, दस्तावेजों का अनुवाद कर सकते हैं , प्रेरक संदेशों का मसौदा तैयार करते हैं, और रणनीति के बारे में सवालों के जवाब देते हैं ऐसे कार्य जिन्हें परंपरागत रूप से अधिक समय और कौशल की आवश्यकता होती थी।
OpenAI अपने प्लेटफॉर्म के दुर्भावनापूर्ण उपयोग को बाधित करने के बारे में तेजी से सार्वजनिक हो रहा है। कंपनी नियमित रूप से उन अभियानों का वर्णन करते हुए खतरे की रिपोर्ट प्रकाशित करती है, जिनका उसने पता लगाया और बंद कर दिया है, जिसमें प्रभाव संचालन और साइबर दुरुपयोग शामिल हैं। राज्य-समानांतर गतिविधि के लिए संदिग्ध खातों पर प्रतिबंध लगाना दर्शाता है कि कंपनी अपने मॉडलों के दुरूपयोग को एक गंभीर सुरक्षा मुद्दे के रूप में मानती है, न कि केवल सेवा की शर्तें समस्या।
जो हम जानते हैं और नहीं जानते
यहां विवरण के साथ सावधान रहना महत्वपूर्ण है। ओपनएआई ने खातों को चीन से "संभवतः" उत्पन्न होने के रूप में वर्णित किया, जो उस दिशा में सबूत बिंदुओं का सुझाव देता है लेकिन निश्चित नहीं है। किसी विशिष्ट देश या अभिनेता के लिए ऑनलाइन गतिविधि की श्रेय देना कुख्यात रूप से मुश्किल है, और OpenAI ने अपने मूल्यांकन के पीछे पूर्ण तकनीकी साक्ष्य सार्वजनिक नहीं किए हैं।
कंपनी ने यह भी निर्दिष्ट नहीं किया है कि कितने खाते शामिल थे, गतिविधि कितनी देर तक चली थी, या क्या एकत्र की गई जानकारी वास्तव में किसी वास्तविक दुनिया के संचालन में उपयोग की गई थी। इस बात की पुष्टि की जाती है कि खातों को ओपनएआई के उपयोग नीतियों का उल्लंघन करने के लिए प्रतिबंधित कर दिया गया था, जो व्यक्तियों और अन्य हानिकारक गतिविधियों की निगरानी के लिए उपकरणों का उपयोग करने से रोकते हैं।
बड़ी तस्वीर
इस तरह की घटनाएं एक व्यापक पैटर्न में फिट होती हैं। ओपनएआई, गूगल, माइक्रोसॉफ्ट और एंथ्रोपिक सहित AI डेवलपर्स ने अपने प्लेटफार्मों का दुरुपयोग करने के लिए राज्य-लिंक्ड या आपराधिक समूहों द्वारा किए गए सभी प्रयासों की सूचना दी है। सामान्य गलत उपयोग श्रेणियों में प्रभाव अभियान, फ़िशिंग सामग्री निर्माण, साइबर हमलों के लिए कोड सहायता और खुफिया अनुसंधान शामिल हैं इस मामले में वर्णित गतिविधि के समान।
आम उपयोगकर्ताओं के लिए, टेकअवे ज्यादातर अप्रत्यक्ष हैः AI प्रदाता दुरुपयोग को पकड़ने के लिए पहचान प्रणाली और प्रवर्तन टीमों का निर्माण कर रहे हैं, और खाता प्रतिबंध एक दृश्य परिणाम है। नीति निर्माताओं और सुरक्षा शोधकर्ताओं के लिए प्रत्येक पुष्टि किए गए मामले में इस बात पर बहस होती है कि कैसे AI उपकरणों की निगरानी, प्रतिबंधित और विनियमित किया जाना चाहिए, खासकर जब वे विदेशी खुफिया गतिविधि के साथ पार हो सकते हैं।
अभी के लिए, विशिष्ट खाते चले गए हैं और ओपनएआई का कहना है कि इसके सिस्टम इसी तरह के पैटर्न को देखते रहेंगे।
Comments (0)