स्नीयर रिव्यू" ऑपरेशनः चीन से उत्पन्न प्रभाव अभियान
OpenAI ने चीन से उत्पन्न खातों के एक नेटवर्क पर प्रतिबंध लगा दिया जिसने अपने AI टूल का उपयोग ताइवान के influencer पर हमला करने और संबंधित US विषयों पर टिप्पणी करने वाले social media पोस्ट को बड़े पैमाने पर बनाने के लिए किया। यह मामला इस बात पर प्रकाश डालता है कि कैसे जनरेटिव AI समन्वित प्रभाव संचालन की बाधा को कम करता है, और कैसे AI कंपनियां दुरुपयोग का पता लगाती हैं, खाते अक्षम करती हैं, और सार्वजनिक राय के एआई-संचालित हेरफेर का मुकाबला करने के लिए प्लेटफार्मों के साथ निष्कर्ष साझा करती हैं।
ओपनएआई ने खातों के एक नेटवर्क के खिलाफ कार्रवाई की है जिसने अपने AI टूल का उपयोग ताइवान के सोशल मीडिया प्रभावक पर हमला करने वाले सोशल मीडिया पोस्ट को बड़े पैमाने पर बनाने के लिए किया, साथ ही संबंधित US विषयों को छूने वाली सामग्री। यह कदम इस बात पर प्रकाश डालता है कि कैसे जनरेटिव AI तेजी से समन्वित प्रभाव संचालन में इस्तेमाल किया जा रहा है और कैसे AI कंपनियां उस गतिविधि की पुलिसिंग कर रही हैं।
ओपनएआई ने क्या खोजा
ओपनएआई की घोषणा के अनुसार, प्रतिबंधित खाते सोशल मीडिया टिप्पणियों और पदों की बड़ी मात्रा उत्पन्न करने के लिए कंपनी के मॉडल का उपयोग कर रहे थे। सामग्री एक ताइवानी प्रभावक की आलोचना पर केंद्रित थी और उसी व्यापक बातचीत से जुड़े यूएस-संबंधी विषयों पर टिप्पणी में विस्तार किया गया था।
यह पैटर्न वह है जिसे शोधकर्ता आमतौर पर एक प्रभाव ऑपरेशन कहते हैंः कई अलग-अलग आवाजों से आने वाले संदेशों के साथ बाढ़ प्लेटफार्मों द्वारा सार्वजनिक राय को आकार देने का एक समन्वित प्रयास, लेकिन वास्तव में एक ही स्रोत से उत्पन्न होता है। इस मामले को उल्लेखनीय बनाने वाली बात आउटपुट को बढ़ाने के लिए जनरेटिव AI का उपयोग था, जिससे ऑपरेटरों को मनुष्यों की टीम से कहीं अधिक तेज़ी से प्रेरक और विविध पाठ तैयार करने की अनुमति मिली।
ओपनएआई ने कार्रवाई के अपने सार्वजनिक सारांश में शामिल खातों की सटीक संख्या का खुलासा नहीं किया और न ही अभियान के पीछे व्यक्तियों या संगठनों की पहचान की।
क्यों एक AI कंपनी सामग्री के लिए उपयोगकर्ताओं पर प्रतिबंध लगा रही है
यह एक मॉडल प्रदाता के लिए असामान्य लग सकता है कि उपयोगकर्ता क्या उत्पन्न करते हैं, लेकिन OpenAI की उपयोग नीतियां स्पष्ट रूप से लोगों को धोखा देने या पैमाने पर सार्वजनिक राय में हेरफेर करने के लिए अपने उपकरणों का उपयोग करने से मना करती हैं। समन्वित असत्य व्यवहार के लिए सामग्री उत्पन्न करना सीधे उन प्रतिबंधों के भीतर आता है।
जब OpenAI इस प्रकार की गतिविधि का पता लगाता है, तो यह आपत्तिजनक खातों को अक्षम कर देता है और कई मामलों में तकनीकी निष्कर्षों को सोशल मीडिया प्लेटफार्मों, शोधकर्ताओं और व्यापक जनता के साथ साझा करता है। इससे प्राप्त अंत पर प्लेटफ़ॉर्म एआई-जनित सामग्री की पहचान करने और हटाने में मदद करते हैं, क्योंकि इसे वितरित करने वाली कंपनियों के पास अक्सर उपयोग की जा रही तकनीकों में अधिक दृश्यता होती है।
ओपनएआई ने पहले भी ऐसी ही रिपोर्ट प्रकाशित की है, जिसमें ऐसे नेटवर्क शामिल हैं जो नकली समाचार लेख लिखने, सोशल मीडिया व्यक्तित्व का मसौदा तैयार करने और कई भाषाओं में प्रचार का अनुवाद करने जैसे कार्यों के लिए अपने मॉडल का उपयोग करते थे। यह नवीनतम प्रतिबंध उस प्रवर्तन पैटर्न को जारी रखता है।
बड़ी तस्वीरः AI और प्रभाव अभियान
यह मामला एक बड़ी प्रवृत्ति का एक छोटा लेकिन स्पष्ट उदाहरण है। प्रभावकारी संचालन वर्षों से अस्तित्व में हैं, लेकिन जनरेटिव AI प्रवेश के लिए बाधा को नाटकीय रूप से कम करता है। पहले, एक आश्वस्त अभियान चलाने के लिए धाराप्रवाह लेखकों, कई भाषा कौशल और महत्वपूर्ण समय की आवश्यकता होती थी। अब, एक छोटी टीम वाणिज्यिक AI टूल का उपयोग कर सकती है ताकि पदों के अंतहीन विविधता उत्पन्न हो सकें जो प्राकृतिक और स्थानीय स्तर पर प्रासंगिक हों।
आम सोशल मीडिया उपयोगकर्ताओं के लिए, इसका मतलब है कि सामग्री जो जैविक दिखती है - एक आलोचनात्मक टिप्पणी, एक गर्म प्रतिक्रिया, एक वायरल टेक-वास्तव में स्क्रिप्ट किए गए अभियान का हिस्सा हो सकता है। यह न केवल राजनीतिक रूप से चार्ज विषयों जैसे ताइवान-अमेरिका संबंधों पर लागू होता है, बल्कि उत्पाद समीक्षाओं, सेलिब्रिटी नाटक और सार्वजनिक स्वास्थ्य चर्चाओं पर भी।
प्लेटफ़ॉर्म और उपयोगकर्ता क्या कर सकते हैं
पता लगाने के प्रयास आम तौर पर कई दृष्टिकोणों को जोड़ते हैंः
- प्लेटफार्म-साइड विश्लेषण पोस्टिंग पैटर्न, जैसे असामान्य रूप से उच्च मात्रा, खातों में समान वाक्यांश या सिंक्रनाइज़ गतिविधि समय।
- AI कंपनी रिपोर्टिंग, जहां मॉडल प्रदाता दुरुपयोग को चिह्नित करते हैं, वे प्रभावित प्लेटफार्मों के साथ संकेतक का पता लगाते और साझा करते हैं।
- उपयोगकर्ता जागरूकता, चूंकि अभियान अक्सर खुद को दोहराए जाने वाले टॉक पॉइंट्स या एक ही कथा को आगे बढ़ाने वाले खातों के समूहों के माध्यम से प्रकट करते हैं।
कोई भी एक विधि सब कुछ नहीं पकड़ती है, लेकिन संयोजन जैसा कि इस मामले में, जहां ओपनएआई ने टूलिंग को पहचाना और काट दिया ऑपरेटरों के लिए लागत और कठिनाई बढ़ाता है।
मेटा विवरणः ओपनएआई ने उन खातों को प्रतिबंधित कर दिया जिन्होंने अपने AI का उपयोग ताइवान के एक प्रभावशाली व्यक्ति और संबंधित US विषयों पर हमला करने वाले पोस्ट उत्पन्न करने के लिए किया, जो समन्वित प्रभाव अभियान का हिस्सा था।
टैगः ओपेन एआई, AI दुरुपयोग, प्रभावकारी कार्रवाई, सामग्री मॉडरेशन, ताइवान
विशेष रुप से प्रदर्शित छवि सुझावः (अंग्रेज़ी में उपलब्ध नहीं है) / Featured image suggestion अतिव्यापी भाषण बुलबुले और चैट आइकन का एक मैत्रीपूर्ण अमूर्त चित्रण, कुछ धुंधला या चिह्नित किया गया है, जो नरम नीले और नारंगी रंग में प्रस्तुत किए गए हैं कोई वास्तविक लोग, लोगो या पाठ नहीं।
Comments (0)