डीपफेक का पता लगाना कठिन हो जाएगा: सेक्टा लैब्स के सीईओ - डिक्रिप्ट

डीपफेक का पता लगाना कठिन हो जाएगा: सेक्टा लैब्स के सीईओ - डिक्रिप्ट

समय टिकट: 24 जून, 2023 11:41 बजे
डीपफेक का पता लगाना कठिन हो जाएगा: सेक्टा लैब्स के सीईओ - डिक्रिप्ट प्लेटोब्लॉकचेन डेटा इंटेलिजेंस। लंबवत खोज. ऐ.

जैसे-जैसे एआई छवि जनरेटर अधिक उन्नत होते जा रहे हैं, डीपफेक का पता लगाना पहले से कहीं अधिक चुनौतीपूर्ण होता जा रहा है। कानून प्रवर्तन और वैश्विक नेता एआई-जनित खतरों के बारे में चेतावनी जारी कर रहे हैं deepfakes सोशल मीडिया पर और संघर्ष क्षेत्रों में।

सेक्टा लैब्स के सह-संस्थापक और सीईओ मार्को जैक ने कहा, "हम एक ऐसे युग में प्रवेश कर रहे हैं जहां हम जो देखते हैं उस पर अब विश्वास नहीं कर सकते।" डिक्रिप्ट साक्षात्कार में। "फिलहाल, यह आसान है क्योंकि डीप फेक अभी उतने अच्छे नहीं हैं, और कभी-कभी आप इसे स्पष्ट रूप से देख सकते हैं।"

जैक के अनुसार, हम उस बिंदु से बहुत दूर नहीं हैं - शायद एक साल के भीतर - जब पहली नजर में नकली छवि को पहचानने की क्षमता संभव नहीं रह गई है। और उसे पता होना चाहिए: जैक एक एआई-इमेज जेनरेटर कंपनी का सीईओ है।

जैक ने सह-स्थापना की सेक्टा लैब्स 2022 में; ऑस्टिन-आधारित जेनेरिक एआई स्टार्टअप उच्च-गुणवत्ता वाली एआई-जनरेटेड छवियां बनाने पर केंद्रित है। उपयोगकर्ता अपनी तस्वीरें अपलोड कर सकते हैं और उन्हें एआई-जनरेटेड हेडशॉट और अवतार में बदल सकते हैं।

 

जैसा कि जैक बताते हैं, सेक्टा लैब्स उपयोगकर्ताओं को उनके डेटा से उत्पन्न एआई मॉडल के मालिकों के रूप में देखती है, जबकि कंपनी इन मॉडलों से छवियां बनाने में सहायता करने वाली संरक्षक मात्र है। 

अधिक उन्नत एआई मॉडल के संभावित दुरुपयोग ने विश्व नेताओं को तत्काल आह्वान करने के लिए प्रेरित किया है कार्य एआई विनियमन पर और कंपनियों को अपने उन्नत उपकरण जनता के लिए जारी नहीं करने का निर्णय लेना पड़ा।

पिछले सप्ताह इसकी नई घोषणा के बाद आवाज़ बॉक्स एआई-जनरेटेड वॉयस प्लेटफॉर्म, मेटा ने कहा कि वह एआई को जनता के लिए जारी नहीं करेगा।

मेटा प्रवक्ता ने बताया, "हालांकि हमारा मानना ​​है कि एआई समुदाय के साथ खुला रहना और एआई में अत्याधुनिक स्थिति को आगे बढ़ाने के लिए अपने शोध को साझा करना महत्वपूर्ण है।" डिक्रिप्ट एक ईमेल में. "जिम्मेदारी के साथ खुलेपन के बीच सही संतुलन बनाना भी आवश्यक है।"

इस महीने की शुरुआत में, अमेरिकी संघीय जांच ब्यूरो आगाह एआई डीपफेक जबरन वसूली घोटाले और अपराधी फर्जी सामग्री बनाने के लिए सोशल मीडिया से ली गई तस्वीरों और वीडियो का उपयोग कर रहे हैं।

जैक ने कहा, डीपफेक से लड़ने का जवाब डीपफेक को पहचानने में सक्षम होना नहीं है, बल्कि डीपफेक को उजागर करने में सक्षम होना है।

जैक ने कहा, "एआई वह पहला तरीका है जिससे आप [डीपफेक] का पता लगा सकते हैं।" "ऐसे लोग कृत्रिम बुद्धिमत्ता का निर्माण कर रहे हैं जिसमें आप एक वीडियो की तरह एक छवि डाल सकते हैं और एआई आपको बता सकता है कि क्या यह एआई द्वारा उत्पन्न किया गया था।"

जेनरेटिव एआई और फिल्म और टेलीविजन में एआई-जनित छवियों का संभावित उपयोग मनोरंजन उद्योग में एक गर्म विषय है। एसएजी-AFTRA सदस्यों ने एक हड़ताल, एक महत्वपूर्ण चिंता, कृत्रिम बुद्धिमत्ता को अधिकृत करने के लिए अनुबंध वार्ता में प्रवेश करने से पहले मतदान किया।

जैक ने कहा कि चुनौती यह है कि एआई हथियारों की होड़ सामने आ रही है क्योंकि तकनीक अधिक उन्नत हो रही है और बुरे कलाकार उनका पता लगाने के लिए डिज़ाइन की गई तकनीक का मुकाबला करने के लिए अधिक उन्नत डीपफेक बनाते हैं।

यह स्वीकार करते हुए कि वास्तविक दुनिया की समस्याओं के समाधान के रूप में ब्लॉकचेन का अत्यधिक उपयोग किया गया है - कुछ लोग इसे अतिरंजित भी कह सकते हैं - जैक ने कहा कि प्रौद्योगिकी और क्रिप्टोग्राफी डीपफेक समस्या का समाधान कर सकती है।

लेकिन जबकि प्रौद्योगिकी डीपफेक के साथ कई मुद्दों को हल कर सकती है, जैक ने कहा कि एक अधिक कम तकनीक वाला समाधान, भीड़ की बुद्धि, कुंजी हो सकती है।

जैक ने कहा, "मैंने देखा कि ट्विटर ने जो चीजें कीं, उनमें से एक, जो मुझे लगता है कि एक अच्छा विचार है, सामुदायिक नोट्स है, जहां लोग किसी के ट्वीट को संदर्भ देने के लिए कुछ नोट्स जोड़ सकते हैं।" उन्होंने कहा, ''एक ट्वीट उसी तरह गलत सूचना हो सकता है जैसे डीपफेक हो सकता है।'' जेक ने कहा कि इससे सोशल मीडिया निगमों को अपने समुदायों का लाभ उठाने के तरीकों के बारे में सोचने में मदद मिलेगी ताकि यह सत्यापित किया जा सके कि प्रसारित सामग्री प्रामाणिक है या नहीं।

उन्होंने कहा, "ब्लॉकचेन विशिष्ट मुद्दों का समाधान कर सकता है, लेकिन क्रिप्टोग्राफी किसी छवि की उत्पत्ति को प्रमाणित करने में मदद कर सकती है।" "यह एक व्यावहारिक समाधान हो सकता है, क्योंकि यह छवि सामग्री के बजाय स्रोत सत्यापन से संबंधित है, भले ही डीपफेक कितना भी परिष्कृत क्यों न हो।"

क्रिप्टो समाचारों के शीर्ष पर रहें, अपने इनबॉक्स में दैनिक अपडेट प्राप्त करें।

समय टिकट:

से अधिक डिक्रिप्ट