ईरानी प्रभाव का नेटवर्क: कई प्लेटफार्मों पर फैली गतिविधि

ओपनएआई ने उन ईरानी खातों को हटा दिया है जिन्होंने प्रभाव अभियान के लिए अपने AI का उपयोग किया था

मेटा विवरणः ओपनएआई ने ईरान से जुड़े खातों पर प्रतिबंध लगा दिया, जिन्होंने आईयूवीएम और स्टॉर्म-2035 संचालन से जुड़ी प्रभाव सामग्री लिखने के लिए चैटजीपीटी का इस्तेमाल किया।

टैगः ओपनएआई, AI दुरुपयोग, प्रभाव संचालन, STORM-2035, सामग्री मॉडरेशन

विशेष रुप से प्रदर्शित छवि: हल्के नीले और नारंगी रंगों में, एक ढाल के बिखरे हुए चमकदार पाठ टुकड़ों को विचलित करने का अनुकूल अमूर्त चित्रण।

OpenAI ने ईरान से जुड़े कई खातों को बंद कर दिया है, जब उन्हें पता चला कि वे बड़े पैमाने पर लेख और सोशल मीडिया पोस्ट का उत्पादन करने के लिए अपने AI टूल का उपयोग कर रहे थे। कंपनी ने कहा कि सामग्री दो ज्ञात प्रभाव नेटवर्क से जुड़ी थी: IUVM, एक लंबे समय तक चलने वाला ईरानी मीडिया ऑपरेशन, और STORM-2035, जो पहले US दर्शकों को लक्षित विभाजनकारी राजनीतिक सामग्री को आगे बढ़ाने के लिए चिह्नित किया गया था। यह आलेख बताता है कि क्या हुआ, ये अभियान क्यों महत्वपूर्ण हैं, और यह हमें बताते हैं कि ऑनलाइन प्रभाव कार्य में जनरेटिव AI का उपयोग कैसे किया जा रहा है?

OpenAI ने क्या पाया

ओपनएआई के अनुसार, प्रतिबंधित खाते बड़े पैमाने पर लिखित सामग्री उत्पन्न करने के लिए अपने मॉडलों का उपयोग कर रहे थे। इसमें लेख और सोशल मीडिया पोस्ट शामिल हैं जिन्हें वैध टिप्पणीकारों या समाचार आउटलेट से आने वाले दिखने के लिए डिज़ाइन किया गया है। आईयूवीएम से जुड़ा ऑपरेशन, जो Virtual Media में से International Union को दर्शाता है, ईरानी राज्य संदेश वितरित करते हुए वर्षों से सक्रिय रहा है, जबकि STORM-2035 ने United States में मतदाताओं को लक्षित करने वाली एआई-सहायक राजनीतिक सामग्री पोस्ट करने पर ध्यान आकर्षित किया।

OpenAI को इस बात का कोई सबूत नहीं मिला कि एआई-जनित सामग्री ने वास्तविक दुनिया में महत्वपूर्ण पहुंच या जुड़ाव हासिल किया है। दूसरे शब्दों में, अभियान बहुत सारी सामग्री का उत्पादन कर रहे थे, लेकिन यह कम संकेत था कि कई लोग वास्तव में इसे पढ़ते हैं या साझा करते हैं। वह विवरण मायने रखता है, क्योंकि यह सुझाव देता है कि अभी सबसे बड़ी चुनौती बड़े पैमाने पर उत्पादन की आसानी साबित प्रभावशीलता के बजाय है।

यह क्यों महत्वपूर्ण है

यह प्रतिबंध एक अच्छा उदाहरण है कि कैसे जनरेटिव AI प्रभाव अभियान चलाने की लागत को कम करता है। दर्जनों लेख और सैकड़ों सामाजिक पोस्ट लिखना हाथ से समय और स्टाफ लेता है। बड़े भाषा मॉडल के साथ, एक छोटी टीम उसी मात्रा में कुछ ही समय में उत्पादन कर सकती है। प्लेटफार्मों और शोधकर्ताओं के लिए चिंता यह है कि इससे राज्य-लिंक्ड समूहों के लिए भ्रामक या विभाजनकारी सामग्री के साथ सूचना वातावरण में बाढ़ आना सस्ता हो जाता है।

उसी समय, तथ्य यह है कि ओपनएआई ने इन खातों को पकड़ा और हटा दिया कहानी का दूसरा पक्ष दिखाता हैः AI कंपनियां सक्रिय रूप से निगरानी कर रही हैं कि उनके उपकरण कैसे उपयोग किए जाते हैं और जब वे समन्वित दुरुपयोग का पता लगाते हैं तो पहुंच काट देते हैं। OpenAI ने कहा है कि वह अपने निष्कर्ष शोधकर्ताओं, प्लेटफार्मों और सरकारों के साथ साझा करता है ताकि व्यापक समुदाय अन्य सेवाओं में इन नेटवर्क पर नज़र रख सके।

पता लगाने की सीमा

इस तरह के प्रवर्तन क्या कर सकते हैं और क्या नहीं कर सकते, इसके बारे में ईमानदार होना उचित है। खातों को प्रतिबंधित करने से एक मंच पर एक विशिष्ट ऑपरेशन बंद हो जाता है, लेकिन निर्धारित अभिनेता नए खाते बना सकते हैं, प्रदाता बदल सकते हैं या ओपन-सोर्स मॉडल का उपयोग करते हैं जिनके पास कोई केंद्रीय गेटकीपर नहीं होता है। पता लगाना भी स्पॉटिंग पैटर्न पर निर्भर करता है, जो बड़े और दोहराव वाले अभियानों के खिलाफ सबसे अच्छा काम करता है exactly ठीक उसी प्रकार की OpenAI वर्णित है।

एक राज्य के लिए खातों को जोड़ना मुश्किल है, और ओपनएआई जैसी कंपनियां व्यवहार संकेतों, तकनीकी सुरागों और बाहरी खतरे की खुफिया जानकारी पर इन दावों का आधार बनाती हैं। उनके निष्कर्षों को गंभीरता से लिया जाता है, लेकिन पाठकों को याद रखना चाहिए कि इस क्षेत्र में श्रेय शायद ही कभी सरल या निश्चित होता है।

प्लेटफ़ॉर्म और उपयोगकर्ता क्या कर सकते हैं

इन उपकरणों को बनाने वाली कंपनियों के लिए, टेकअवे यह है कि उपयोग की निगरानी निरंतर होनी चाहिए, कभी-कभी नहीं। ओपनएआई का दृष्टिकोण - खाता कैसे अपने मॉडल का उपयोग करता है इसका विश्लेषण करना, समन्वित धोखाधड़ी में लगे हुए लोगों को समाप्त करना और रिपोर्ट प्रकाशित करना - एक टेम्पलेट बन गया है अन्य AI प्रदाता अनुसरण करना शुरू कर रहे हैं।

रोजमर्रा के उपयोगकर्ताओं के लिए, सबक अधिक व्यावहारिक है। सामग्री जो लिखित समाचार या टिप्पणी प्रतीत होती है उसे एजेंडा वाले समूहों द्वारा पैमाने पर मशीन-जनित किया जा सकता है। कुछ आदतें मदद करती हैंः जांचें कि क्या एक समाचार साइट की वास्तविक पहचान और इतिहास है, उन पदों पर संदेह करें जो चुनाव या संकट के दौरान मजबूत भावनाओं को धक्का देते हैं, और साझा करने से पहले विश्वसनीय स्रोतों के खिलाफ आश्चर्यजनक दावों का क्रॉस चेक करते हैं।

बड़ी तस्वीर

ईरान से जुड़े इन खातों के खिलाफ ओपनएआई की कार्रवाई एक व्यापक पैटर्न में फिट बैठती है। 2024 के बाद से, AI कंपनियों और सामाजिक प्लेटफार्मों ने कई देशों से प्रभाव संचालन को बार-बार बाधित किया है जिन्होंने जनरेटिव AI का उपयोग प्रचार तैयार करने, अनुवाद करने या पोलिश करने के लिए किया था। अब तक, अधिकांश सार्वजनिक रूप से रिपोर्ट किए गए अभियान वास्तविक दर्शकों के निर्माण के लिए संघर्ष कर रहे हैं। लेकिन उपकरण बेहतर होते रहते हैं, और सामग्री बनाने और ध्यान जीतने के बीच की खाई समय के साथ सिकुड़ सकती है।

स्टॉर्म-2035 और आईयूवीएम टेकडाउन को एक चल रही प्रतियोगिता में शुरुआती दौर के रूप में पढ़ा जाता है। Mass AI-जनित प्रभाव सामग्री अब बनाना आसान है और पकड़ना अपेक्षाकृत आसान है। कठिन समस्या 89 जो AI डेवलपर्स, सामाजिक प्लेटफार्मों, शोधकर्ताओं और सूचित पाठकों के बीच सहयोग की आवश्यकता होगी उस संतुलन को बनाए रखना है क्योंकि दोनों अभियान और बचाव विकसित होते हैं।

किसको इस कहानी का अनुसरण करना चाहिए

यदि आप विश्वास और सुरक्षा, पत्रकारिता या प्लेटफ़ॉर्म नीति में काम करते हैं, तो यह रिपोर्ट सीधे प्रासंगिक है और पूरी तरह से पढ़ने लायक है। अगर आप एक नियमित समाचार उपभोक्ता हैं, व्यावहारिक बिंदु सरल हैः स्वस्थ संदेह के साथ ऑनलाइन सामग्री को ध्रुवीकृत करने की अचानक लहरों का इलाज करें, साझा करने से पहले सत्यापित करें, और AI कंपनियों की अपेक्षा करें कि उनके निगरानी उपकरण परिपक्व होने पर इस तरह की घोषणा करना जारी रखें।