आइए एक गेम खेलें: डीपफेक न्यूज़ एंकर या एक वास्तविक व्यक्ति?

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

डीपफेक वीडियो ऑनलाइन एआई-जेनरेट किए गए समाचार एंकरों की विशेषता है जो चीनी सरकार के समर्थक प्रचार को फैलाते हैं, संभवतः एक विपुल विघटनकारी दल की रचनाएँ हैं जिन्हें स्पामौफ्लेज करार दिया गया है।

सोशल मीडिया एनालिटिक्स फर्म के शोधकर्ताओं ने बताया, ये वीडियो "पहली बार ग्राफिका ने राज्य-संरेखित आईओ [प्रभाव ऑपरेशन] अभिनेताओं को उनके संचालन में एआई-जेनरेट किए गए काल्पनिक लोगों के वीडियो फुटेज का उपयोग करते हुए देखा है," एक रिपोर्ट में स्पामॉफ्लाज डीपफेक का विवरण देते हुए [पीडीएफ] इस सप्ताह।

वीडियो में एक पुरुष और महिला ब्रॉडकास्टर को दिखाया गया है, दोनों वुल्फ न्यूज नामक एक मीडिया कंपनी के लिए रिपोर्टिंग कर रहे हैं। एक में, समाचार एंकर बंदूक हिंसा को रोकने में विफल रहने के लिए अमेरिका की निंदा करता है। दूसरा वैश्विक आर्थिक सुधार प्रयासों पर चीन-अमेरिका सहयोग की आवश्यकता पर बल देता है।

"पहली नज़र में, वुल्फ न्यूज़ एंकर वास्तविक लोगों के रूप में मौजूद हैं," ग्राफिका ने कहा। "हमारी प्रारंभिक परिकल्पना यह थी कि वे अभिनेता थे जिन्हें वीडियो में प्रदर्शित होने के लिए भर्ती किया गया था।"

ग्राफिका और के अनुसार, यह स्पामौफ्लेज के सामान्य तौर-तरीकों के साथ संरेखित होगा अन्य शोधकर्ताओं Google सहित, जो बदमाशों को ड्रैगनब्रिज के रूप में ट्रैक करते हैं और अपने पहले के विघटन अभियानों में कैमरे पर वास्तविक लोगों के उपयोग का दस्तावेजीकरण करते हैं।

चालक दल के कुछ अन्य प्रभाव संचालनों में प्रयास शामिल हैं हस्तक्षेप करना 2022 अमेरिकी मध्यावधि चुनाव में और trolling दुर्लभ-पृथ्वी खनन कंपनियों ने हजारों नकली सोशल मीडिया खातों का उपयोग करके, पेंटागन द्वारा कड़ी उंगली उठाने का संकेत दिया।

ग्राफिका के शोधकर्ताओं ने दावा किया, "लेकिन आगे की जांच से पता चला कि वुल्फ न्यूज प्रेजेंटर्स लगभग निश्चित रूप से एक ब्रिटिश एआई वीडियो कंपनी द्वारा प्रदान की गई तकनीक का उपयोग करके बनाए गए थे," ग्राफिका शोधकर्ताओं ने दावा किया।

रिवर्स इमेज सर्च से एक ही पुरुष और महिला "न्यूज एंकर" को दिखाने वाले असंबद्ध वीडियो के एक टन का पता चला, जो स्पामॉफ्लाज वुल्फ न्यूज प्रसारण में दिखाई देते हैं। एआई-जनित लोग इन वीडियो में अरबी, रोमानियाई, स्पेनिश और अंग्रेजी सहित कई भाषाओं में बात करते हैं, जैसे यह एक फ्रेट ब्रोकर सेवाओं को बढ़ावा देना।

इसमें पुरुष एंकर कहता है, 'हेलो, मेरा नाम मिस्टर क्रूज है। और मैं एक अवतार हूं।

क्रूज में से एक है सिंथेसिया के "100+" अवतार, और यह पता चला कि उसका नाम जेसन है। वुल्फ न्यूज वीडियो की महिला एंकर एना है।

सिंथेसिया के नैतिकता पृष्ठ यह कहता है "सार्वजनिक उपयोग के लिए [अपने] सॉफ़्टवेयर की पेशकश नहीं करेगा। हमारे विश्वसनीय ग्राहकों को जारी करने से पहले सभी सामग्री एक स्पष्ट आंतरिक जांच प्रक्रिया से गुजरेगी।

इसके अतिरिक्त, इसके अवतार अक्सर पूछे जाने वाले प्रश्न पृष्ठ कहते हैं कि अवतार क्या कर सकते हैं और क्या नहीं कह सकते हैं इसकी सीमाएं हैं: "राजनीतिक, यौन, व्यक्तिगत, आपराधिक और भेदभावपूर्ण सामग्री को बर्दाश्त या अनुमोदित नहीं किया जाता है।"

Spamouflage की फर्जी खबरें दोनों नीतियों का उल्लंघन करेंगी। सिंथेसिया टिप्पणी के लिए उपलब्ध नहीं हो सका। विक्टर रिपरबेली, सिंथेसिया के सह-संस्थापक और मुख्य कार्यकारी, बोला था न्यूयॉर्क टाइम्स ने इस सप्ताह के शुरू में अपने वीडियो बनाने के लिए तकनीक का उपयोग करके सिंथेसिया की सेवा की शर्तों को तोड़ दिया।

कहने का मतलब यह है कि स्पामोफ्लैज ने किसी तरह सिंथेसिया की तकनीक को पकड़ लिया और सिंथेसिया के नियमों के विपरीत अपनी सामग्री का उत्पादन करने के लिए इसका इस्तेमाल किया। सिंथेसिया द्वारा गलत काम करने का कोई सुझाव नहीं है।

जबकि सरकारी एजेंसियों और सुरक्षा शोधकर्ताओं ग्राफिका के अनुसार, राजनीतिक प्रभाव संचालन में डीपफेक के इस्तेमाल के बारे में समान रूप से चेतावनी दी है, अब तक एआई-जनित मीडिया काफी हद तक नकली चेहरों तक सीमित है - पूरी तरह से नकली लोग नहीं।

हालाँकि, अवतारों के उपयोग के बावजूद, बाकी के स्पामोफ्लेज वीडियो "कम गुणवत्ता वाले राजनीतिक स्पैम" की तरह दिखते हैं, शोधकर्ताओं ने लिखा, प्रतिध्वनित गूगल का आकलन चालक दल के YouTube वीडियो में, जिनमें से 83 प्रतिशत को 100 से कम बार देखा गया था।

इसके अतिरिक्त, इन-हाउस क्षमता के विपरीत, न्यूज़कास्ट का डीपफेक तत्व "लगभग निश्चित रूप से एक व्यावसायिक सेवा का उपयोग करके बनाया गया था", जैसा कि रिपोर्ट में निष्कर्ष निकाला गया है। इससे पता चलता है कि स्पामौफ्लेज और अन्य के पास अत्यधिक परिष्कृत डीपफेक निकालने के लिए तकनीकी विशेषज्ञता नहीं है और वे उपलब्ध वाणिज्यिक उपकरणों का उपयोग करना जारी रखेंगे।

हालाँकि, जैसा कि ग्राफिका ने नोट किया है, "यह इन उत्पादों और सेवाओं के उपयोग को प्रभावी ढंग से नियंत्रित करने के तरीके के बारे में भी सवाल उठाता है।" ®