एआई डीपफेक व्यवसायों के लिए भी खतरा हैं—यहां जानिए क्यों - डिक्रिप्ट

एआई डीपफेक व्यवसायों के लिए भी खतरा हैं—यहां जानिए क्यों - डिक्रिप्ट

समय टिकट: अगस्त 25, 2023 3:50 अपराह्न
एआई डीपफेक व्यवसायों के लिए भी खतरा हैं—यहां बताया गया है - प्लेटोब्लॉकचेन डेटा इंटेलिजेंस को डिक्रिप्ट करें। लंबवत खोज. ऐ.

जैसे-जैसे तकनीकी दिग्गज कृत्रिम बुद्धिमत्ता को जन-जन तक पहुंचाने और बढ़ते बाजार पर कब्ज़ा करने के लिए प्रतिस्पर्धा कर रहे हैं, एआई हथियारों की होड़ "डीपफेक" वीडियो और ऑडियो-सामग्री में वृद्धि को बढ़ावा दे रही है, जो अक्सर वैध लगती है या लगती है, लेकिन वास्तव में एक धोखाधड़ीपूर्ण गलत बयानी है। और एक नई रिपोर्ट के अनुसार, वे व्यवसायों को भी प्रभावित कर रहे हैं।

डीपफेक एआई-जनरेटेड रचनाएं हैं जैसे कि लोगों को धोखा देने के लिए छवियों, वीडियो और ऑडियो में हेरफेर किया जाता है। घोटालेबाज धोखाधड़ी के लिए डीपफेक का उपयोग करते हैं, बलाद्ग्रहण, या प्रतिष्ठा को नुकसान पहुंचाने के लिए। का प्रसार जनरेटिव ए.आई. टूल ने घोटालेबाजों के लिए नकली सामग्री बनाना पहले से कहीं अधिक आसान बना दिया है।

मशहूर हस्तियों और अन्य सार्वजनिक हस्तियों को उनकी सहमति के बिना कृत्रिम और कभी-कभी स्पष्ट फ़ुटेज में ऐसे तरीके से डाला जा रहा है जो कभी-कभी वायरल हो जाते हैं या सोशल मीडिया पर दहशत पैदा कर सकते हैं। को प्रदान की गई एक रिपोर्ट में डिक्रिप्ट, वैश्विक लेखा फर्म केपीएमजी लिखा कि व्यापार क्षेत्र भी डीपफेक खतरे से अछूता नहीं है।

केपीएमजी ने लिखा है कि डीपफेक सामग्री का इस्तेमाल सोशल इंजीनियरिंग हमलों और कंपनियों पर लक्षित अन्य प्रकार के साइबर हमलों में किया जा सकता है, जबकि ऐसी सामग्री व्यवसायों और उनके नेताओं की प्रतिष्ठा को भी प्रभावित कर सकती है। कंपनी के प्रतिनिधियों के झूठे प्रतिनिधित्व का उपयोग ग्राहकों को धोखा देने, या कर्मचारियों को जानकारी प्रदान करने या अवैध अभिनेताओं को धन हस्तांतरित करने के लिए मनाने की योजनाओं में भी किया जा सकता है।

केपीएमजी 2020 का उदाहरण दिया हांगकांग की एक कंपनी के शाखा प्रबंधक को यह विश्वास दिलाकर कि उसके बॉस ने फोन पर ऐसा करने का आदेश दिया है, कंपनी के 35 मिलियन डॉलर मूल्य के फंड घोटालेबाजों को हस्तांतरित कर दिए गए। इसके बजाय, यह पर्यवेक्षक की आवाज़ का एआई-क्लोन किया गया मनोरंजन था - यह सब फर्म से पैसे ठगने की एक विस्तृत योजना का हिस्सा था।

"साइबर हमलों के परिणाम जो सिंथेटिक सामग्री का उपयोग करते हैं - डिजिटल सामग्री जो नापाक उद्देश्यों के लिए उत्पन्न या हेरफेर की गई है - व्यापक, महंगी हो सकती है, और वित्तीय, प्रतिष्ठित, सेवा और भू-राजनीतिक सहित कई प्रकार के सामाजिक-आर्थिक प्रभाव हो सकते हैं।" रिपोर्ट पढ़ती है.

डोनाल्ड ट्रम्प के होने का डीपफेक फुटेज गिरफ्तार इस साल के शुरू, पोप फ्रान्सिस Balenciaga लक्जरी परिधान पहनना, और एलोन मस्क क्रिप्टो घोटालों को बढ़ावा देना पिछले साल वायरल हो गया है क्योंकि विकसित एआई टूल की बदौलत डीपफेक तकनीक में सुधार हुआ है।

केपीएमजी ने लिखा, "चाहे वह सस्ते नकली हों या डीपफेक, जेनरेटिव एआई मॉडल के कारण आर्थिक मॉडल में काफी बदलाव आया है।"

ऊपर उल्लिखित सार्वजनिक हस्तियों के अलावा, प्रमुख हस्तियां जिनकी समानताएं चुराई गई हैं और नकली फुटेज पर लागू की गई हैं, उनमें अभिनेत्री एम्मा वॉटसन और संगीतकार टेलर स्विफ्ट शामिल हैं। लेकिन यह व्यवसायों और कभी-कभी उनके प्रमुख नेताओं पर संभावित प्रभाव है जिसके बारे में केपीएमजी चिंता जता रहा है।

केपीएमजी ने कहा, "जोखिम कारक के रूप में, डीपफेक सामग्री केवल सोशल मीडिया, डेटिंग साइटों और मनोरंजन उद्योग के लिए चिंता का विषय नहीं है - यह अब एक बोर्डरूम मुद्दा है।" "इस मामले में, हाल ही में कई उद्योगों और भौगोलिक क्षेत्रों में 92 अधिकारियों के केपीएमजी जेनरेटिव एआई सर्वेक्षण के लगभग सभी उत्तरदाताओं (300%) का कहना है कि जेनरेटिव एआई को लागू करने के जोखिमों के बारे में उनकी चिंताएं मध्यम से अत्यधिक महत्वपूर्ण हैं।"

यह केवल व्यवसाय और मशहूर हस्तियां ही नहीं हैं जो इंटरनेट पर डीपफेक वीडियो की गुणवत्ता और संख्या दोनों में वृद्धि से निपट रहे हैं। सरकारें और नियामक भी समाज और चुनावों पर संभावित प्रभाव पर विचार कर रहे हैं, जबकि ऐसे एआई टूल के निर्माता उनके संभावित नकारात्मक प्रभाव का आकलन कर रहे हैं।

पिछले हफ्ते, अमेरिकी संघीय चुनाव आयोग ने 2024 के चुनाव में डीपफेक के इस्तेमाल की आशंका जताते हुए एक कदम आगे बढ़ाया। याचिका अभियान विज्ञापनों में कृत्रिम बुद्धिमत्ता के उपयोग पर रोक लगाना।

यदि मंजूरी मिल जाती है, तो एजेंसी "अभियान प्राधिकरण" की धोखाधड़ी वाली गलत बयानी के संबंध में मौजूदा नियमों में संशोधन करेगी और स्पष्ट करेगी कि प्रतिबंध जानबूझकर भ्रामक एआई अभियान विज्ञापनों पर लागू होता है।

केपीएमजी में साइबर सुरक्षा सेवाओं के प्रिंसिपल मैथ्यू मिलर ने कहा, "नियामकों को मौजूदा नियमों पर बढ़ते खतरों के प्रभाव को समझना और विचार करना जारी रखना चाहिए।" डिक्रिप्ट. "एआई उत्पन्न सामग्री को लेबल करने और वॉटरमार्क करने के लिए प्रस्तावित आवश्यकताओं का सकारात्मक प्रभाव हो सकता है।"

जुलाई में, एमआईटी के शोधकर्ता प्रस्तावित डीपफेक के जोखिम को कम करने के लिए बड़े प्रसार मॉडल में कोड परिवर्तन जोड़कर, छोटे परिवर्तन जोड़कर जो देखने में कठिन होते हैं लेकिन अंततः मॉडल के काम करने के तरीके को बदल देते हैं, जिससे वे ऐसी छवियां उत्पन्न करते हैं जो वास्तविक नहीं दिखती हैं। मेटा, इस बीच, हाल ही में एक एआई टूल को रोक लिया इसकी गहरी क्षमता के कारण।

जेनेरिक एआई टूल्स की रचनात्मक क्षमता को लेकर उत्साह इस अहसास से कम हो गया है कि वे इसी तरह दुर्भावनापूर्ण सामग्री के लिए अवसर पैदा कर सकते हैं। अंततः, ऐसे उपकरणों में तेजी से सुधार के बीच, मिलर ने सभी से नकली सामग्री की संभावना के बारे में सतर्क रहने का आग्रह किया।

उन्होंने बताया, "डिजिटल चैनलों के माध्यम से बातचीत करते समय जनता को निरंतर सतर्कता बनाए रखने की जरूरत है।" डिक्रिप्ट। “स्थितिजन्य जागरूकता और सामान्य ज्ञान किसी घटना को घटित होने से रोकने में काफी मदद करते हैं। यदि कोई चीज़ 'सही नहीं लगती,' तो उसके दुर्भावनापूर्ण गतिविधि होने की बहुत अधिक संभावना है।"

क्रिप्टो समाचारों के शीर्ष पर रहें, अपने इनबॉक्स में दैनिक अपडेट प्राप्त करें।

समय टिकट:

से अधिक डिक्रिप्ट