एआई-संचालित सुअर काटना संचालन: रोमांस घोटालों के यांत्रिकी
OpenAI ने कंबोडिया स्थित रोमांस और निवेश घोटाले के संचालन से जुड़े खातों को प्रतिबंधित कर दिया, जिन्हें 'सुअर कसाई' योजनाओं के रूप में जाना जाता है। स्कैमर्स ने AI मॉडल का उपयोग बातचीत का अनुवाद करने और प्रेरक स्क्रिप्ट उत्पन्न करने के लिए किया था, जिससे धोखाधड़ी की बाधा कम हो गई थी। लेख बताता है कि ये घोटाला कैसे काम करते हैं, क्यों Southeast Asia एक फ्रॉड हब है, OpenAI अपनी नीतियों को कैसे लागू करता है, और दैनिक उपयोगकर्ताओं को किन चेतावनी संकेतों पर ध्यान देना चाहिए।
OpenAI ने कंबोडिया में रोमांस और निवेश घोटाले से जुड़े खातों पर प्रतिबंध लगा दिया
यदि आप चैटजीपीटी का उपयोग करते हैं या AI सुरक्षा विकासों का पालन करते हैं, तो ओपनएआई द्वारा हाल ही में एक प्रवर्तन कार्रवाई से पता चलता है कि स्कैमर्स प्रौद्योगिकी का दुरुपयोग कैसे कर रहे हैं और कंपनी उन्हें रोकने के लिए क्या कर रही है। यहां बताया गया है कि ऐसा क्यों हुआ, यह क्यों महत्वपूर्ण है, और यह हमें AI प्रदाताओं और ऑनलाइन धोखाधड़ी के बीच विकसित लड़ाई के बारे में बताता है।
ओपनएआई ने क्या खोजा
ओपनएआई ने हाल ही में कंबोडिया से संचालित होने वाले खातों के एक समूह को बंद कर दिया। कंपनी के अनुसार, इन खातों का उपयोग सामान्य कार्यों के लिए नहीं किया जा रहा था। इसके बजाय, उनके पीछे के लोग कथित तौर पर रोमांस घोटाले और निवेश धोखाधड़ी योजनाओं - दुनिया भर में पीड़ितों को प्रभावित करने वाले ऑनलाइन अपराध के दो सबसे हानिकारक प्रकार चलाने में मदद करने के लिए OpenAI के मॉडल का उपयोग कर रहे थे।
AI द्वारा निभाई गई प्रमुख भूमिका भाषा थी। स्कैमर्स ने वार्तालापों का अनुवाद करने और प्रेरक घोटाले की स्क्रिप्ट उत्पन्न करने के लिए मॉडलों का उपयोग किया, जिससे उन्हें संभावित पीड़ितों के साथ धाराप्रवाह, प्राकृतिक-ध्वनि वाली भाषा में संवाद करने की अनुमति मिली। इस तरह की सहायता से धोखाधड़ी वाले संदेश बहुत अधिक आश्वस्त हो सकते हैं, खासकर जब उन लोगों को लक्षित करना जो स्वयं स्कैमर से अलग भाषा बोलते हैं।
क्यों रोमांस और निवेश घोटाले एक गंभीर समस्या है
रोमांस घोटालों में एक पीड़ित के साथ हफ्तों या महीनों तक नकली भावनात्मक संबंध बनाना शामिल होता है, फिर उन्हें पैसे भेजने के लिए राजी करना। निवेश धोखाधड़ी, जिसे कभी-कभी "पिग कत्लेआम" योजनाएं कहा जाता है, समान रूप से काम करता हैः स्कैमर को नकली ट्रेडिंग प्लेटफॉर्म या फर्जी क्रिप्टोक्यूरेंसी अवसरों में पैसा लगाने के लिए प्रोत्साहित करने से पहले शिकार का विश्वास अर्जित करता है।
इन योजनाओं ने विश्व स्तर पर अरबों डॉलर के नुकसान का कारण बना है, और Southeast Asia को बार-बार शोधकर्ताओं और कानून प्रवर्तन द्वारा इस तरह की घोटाला संचालन के लिए एक हब के रूप में पहचाना गया है। कंबोडिया विशेष रूप से क्षेत्र में बड़े पैमाने पर धोखाधड़ी यौगिकों का वर्णन करने वाली कई रिपोर्टों में दिखाई दिया है।
AI उपकरणों के अतिरिक्त समीकरण को एक असुविधाजनक तरीके से बदल देता है। किसी विदेशी भाषा में आश्वस्त संदेश लिखने के लिए पहले कौशल या कर्मचारियों की आवश्यकता होती थी। अब, चैटबॉट लगभग तुरंत अनुवाद और संदेश प्रारूपण संभाल सकता है, जो संभावित धोखेबाजों के लिए बाधा को कम करता है।
ओपनएआई ने कैसे प्रतिक्रिया दी
ओपनएआई ने गतिविधि के प्रकाश में आने के बाद प्रश्न में खातों को प्रतिबंधित कर दिया। यह कंपनी की उपयोग नीतियों के अनुरूप है, जो स्पष्ट रूप से धोखाधड़ी, धोखे और दूसरों को नुकसान पहुंचाने के लिए अपने मॉडलों का उपयोग करने पर रोक लगाता है। इस तरह के प्रवर्तन आमतौर पर स्वचालित पता लगाने और मानव समीक्षा के मिश्रण पर निर्भर करते हैं, असामान्य उपयोग व्यवहार या सामग्री जैसे पैटर्न की तलाश करते हैं जो अवैध गतिविधियों का संकेत देते हैं।
जबकि ओपनएआई ने अपनी पहचान विधियों के हर विवरण को सार्वजनिक नहीं किया है और यह आम तौर पर उन तकनीकों को गोपनीय रखता है ताकि बुरे अभिनेताओं को उनसे बचने में मदद करने से बचा जा सके टेकडाउन स्वयं संकेत देता है कि कंपनी बाहरी रिपोर्टों की प्रतीक्षा करने के बजाय इस तरह के दुरुपयोग के लिए सक्रिय रूप से निगरानी कर रही है।
रोजमर्रा के उपयोगकर्ताओं के लिए इसका क्या अर्थ है
नियमित उपयोगकर्ताओं के लिए, ध्यान रखने योग्य कुछ टिप्स हैंः
- AI घोटाले को अधिक पॉलिश दिखाने में मदद कर सकता है। त्रुटिहीन व्याकरण और प्राकृतिक वार्तालाप अब इस बात का प्रमाण नहीं हैं कि आप एक वास्तविक, शिक्षित देशी वक्ता से बात कर रहे हैं। संदेह किसी भी ऑनलाइन अजनबी पर लागू होना चाहिए जो अंततः पैसे लाता है।
- चेतावनी के संकेत नहीं बदले हैं। पैसे के लिए अनुरोध, निवेश करने का दबाव, निजी मैसेजिंग ऐप्स में बातचीत को स्थानांतरित करना और मिलने या वीडियो चैट की अनिच्छा दोनों रोमांस और निवेश धोखाधड़ी के क्लासिक लाल झंडे बने हुए हैं।
- AI कंपनियों को अपने उपकरणों की निगरानी के लिए प्रेरित किया जा रहा है। इस तरह की घटनाएं AI प्रदाताओं को डाउनस्ट्रीम दुरुपयोग के लिए कितनी जिम्मेदारी उठाने के बारे में चल रही बहस को बढ़ावा देती हैं, और वे दिखाती हैं कि कम से कम कुछ प्रवर्तन हो रहा है।
बड़ी तस्वीर
यह मामला एक व्यापक पैटर्न का हिस्सा है। जैसे-जैसे जनरेटिव AI फैलता है, अपराधी फ़िशिंग ईमेल लिखने से लेकर आवाज़ों को क्लोन करने तक हर चीज के लिए इसके साथ प्रयोग कर रहे हैं। इस बीच, AI कंपनियां सुरक्षा उपाय बना रही हैं, नीति उल्लंघन वाले खातों को अवरुद्ध कर रही हैं और दुरुपयोग का दस्तावेजीकरण करने के लिए शोधकर्ताओं के साथ सहयोग करती हैं। यह एक चलती बिल्ली और चूहे की स्थिति है, और इस तरह के टेकडाउन एक प्रतियोगिता में एक दौर का प्रतिनिधित्व करते हैं जो जल्द ही समाप्त होने की संभावना नहीं है।
अच्छी खबर यह है कि घोटालों के खिलाफ मुख्य रक्षा उल्लेखनीय रूप से सरल बनी हुई हैः कभी भी किसी ऐसे व्यक्ति को पैसे न भेजें जिसे आप व्यक्तिगत रूप से नहीं मिले हैं, "गारंटीकृत" निवेश अवसरों का गहरा संदेह के साथ इलाज करें और ऑनलाइन किसी पर भरोसा करने से पहले स्वतंत्र रूप से सत्यापित करें - चाहे उनकी अंग्रेजी कितनी ही अच्छी क्यों न हो।
यदि आप या आपके किसी परिचित को रोमांस या निवेश घोटाले का निशाना बनाया गया है, तो अपने स्थानीय उपभोक्ता संरक्षण एजेंसी या राष्ट्रीय धोखाधड़ी रिपोर्टिंग केंद्र में इसकी सूचना देना पहला अनुशंसित कदम है।
Comments (0)