रीयल-टाइम डीपफेक को एकतरफा नज़र से हराया जा सकता है

रीयल-टाइम डीपफेक वीडियो, जिसे इंटरनेट अनिश्चितता के एक नए युग के लाने वाले के रूप में घोषित किया गया है, में एक मूलभूत दोष प्रतीत होता है: वे साइड प्रोफाइल को संभाल नहीं सकते।

यह निष्कर्ष a . में निकाला गया है रिपोर्ट [पीडीएफ] Metaphysic.ai से, जो 3डी अवतार, डीपफेक तकनीक और 3डी तस्वीरों से 2डी छवियों को प्रस्तुत करने में माहिर है। लोकप्रिय रीयल-टाइम डीपफेक ऐप का उपयोग करके किए गए परीक्षणों में डीपफेसलाइव, पक्ष की ओर एक कठिन मोड़ ने यह स्पष्ट रूप से स्पष्ट कर दिया कि स्क्रीन पर वह व्यक्ति नहीं था जो वे दिखते थे। 

परीक्षण में कई मॉडलों का उपयोग किया गया था - डीपफेक समुदायों में से कई और डीपफेसलाइव में शामिल मॉडल - लेकिन चेहरे के 90-डिग्री दृश्य ने झिलमिलाहट और विकृति का कारण बना दिया क्योंकि चेहरे का संरेखण नेटवर्क यह अनुमान लगाने के लिए उपयोग किया जाता था कि यह क्या देख रहा था यह पता लगाने के लिए संघर्ष किया। 

मेटाफिजिक.एआई के योगदानकर्ता मार्टिन एंडरसन ने कहा, "अधिकांश 2डी-आधारित फेशियल अलाइनमेंट एल्गोरिदम फ्रंट-ऑन फेस व्यू से प्रोफाइल व्यू के लिए केवल 50-60 प्रतिशत लैंडमार्क असाइन करते हैं।" ब्लॉग पोस्ट.

पर्याप्त संदर्भ बिंदुओं को देखने में सक्षम होने के बिना, सॉफ़्टवेयर बस यह नहीं जानता कि उसके नकली चेहरे को कैसे प्रोजेक्ट किया जाए।

डिरेलिंग डीपफेक

कुछ ही वर्षों में, डीपफेक छवियों पर चेहरे को सुपरइम्पोज़ करने में सक्षम होने से पहले से रिकॉर्ड किए गए वीडियो में ऐसा करने के लिए उन्नत हो गए हैं। नवीनतम प्रगति रीयल-टाइम फेस स्वैपिंग की अनुमति देती है, जिसके परिणामस्वरूप ऑनलाइन धोखाधड़ी और साइबर अपराध में अधिक डीपफेक का उपयोग किया जा रहा है।

A अध्ययन VMware से पाया गया कि दो तिहाई उत्तरदाताओं ने हमले के हिस्से के रूप में दुर्भावनापूर्ण डीपफेक का सामना किया, जो पिछले वर्ष की तुलना में 13 प्रतिशत अधिक है। ध्यान दें कि VMware अध्ययन में यह निर्दिष्ट नहीं किया गया था कि उत्तरदाताओं द्वारा सामना किए गए डीपफेक हमलों को पहले से रिकॉर्ड किया गया था या वास्तविक समय, और केवल 125 लोगों का नमूना आकार था।

एफबीआई ने जून में डीपफेक तकनीक का उपयोग करने वाले स्कैमर्स को चेतावनी दी थी दूरस्थ नौकरी के साक्षात्कार के दौरान. एफबीआई ने कहा कि तकनीक का उपयोग करने वालों को संवेदनशील नौकरियों के लिए साक्षात्कार करते हुए देखा गया है जो उन्हें ग्राहक डेटा और व्यवसायों की मालिकाना जानकारी तक पहुंच प्रदान करेगा। 

लाइव फेशियल रिकग्निशन सॉफ्टवेयर को चकमा देने के लिए डीपफेक वीडियो का भी इस्तेमाल किया गया है, अनुसार ऑनलाइन धोखाधड़ी से लड़ने वाले स्टार्टअप सेंसिटी एआई के लिए। सेंसिटी के परीक्षणों में पाया गया कि मोबाइल फोन से स्ट्रीम किए गए डीपफेक-बदले गए वीडियो का उपयोग करके दस में से नौ विक्रेताओं के ऐप को सफलतापूर्वक अनलॉक किया गया था।

यूरोपीय संघ के लिए तकनीक को लेकर आशंका काफी गंभीर हो गई है कानून पारित डीपफेक और दुष्प्रचार के अन्य स्रोतों से पर्याप्त रूप से लड़ने में विफल रहने वाली कंपनियों पर जुर्माना लगाना। चीन ने भी मसौदा तैयार किया डीपफेक कानून जो प्रौद्योगिकी के दुरुपयोग के लिए कानूनी दंड की धमकी देता है, साथ ही साथ डीपफेक के किसी भी वैध उपयोग के लिए अनुमति की आवश्यकता होती है, जिसे चीन "डीप सिंथेसिस" कहता है। 

उपाय कब तक?

मेटाफिजिक की रिपोर्ट के मुताबिक, एनवीडिया जैसी तकनीक भी तंत्रिका चमक क्षेत्र (एनईआरएफ), जो केवल कुछ स्थिर छवियों से एक 3डी दृश्य उत्पन्न कर सकता है, सीमाओं से ग्रस्त है जो एक अच्छा साइड प्रोफाइल दृश्य विकसित करना मुश्किल बना देता है। 

एनईआरएफ "सिद्धांत रूप में, केवल कुछ मुट्ठी भर चित्रों से चेहरे के कोणों की किसी भी संख्या को एक्सट्रपलेशन कर सकता है। [हालांकि] संकल्प, चेहरे की गतिशीलता और अस्थायी स्थिरता के मुद्दे एनईआरएफ को एक ऑटोएन्कोडर मॉडल को प्रशिक्षित करने के लिए आवश्यक समृद्ध डेटा बनाने से रोकते हैं जो प्रोफ़ाइल छवियों को अच्छी तरह से संभाल सकता है, "एंडरसन ने लिखा। हम और जानने के लिए एनवीडिया पहुंचे हैं, लेकिन अभी तक कोई जवाब नहीं मिला है। 

पाठक ध्यान देंगे कि मेटाफिजिक के प्रदर्शनों में केवल सेलिब्रिटी चेहरे शामिल थे, जिनमें से बहुत सारे प्रोफ़ाइल दृश्यों को फिल्म और तस्वीरों में कैद किया गया है। दूसरी ओर, हमारे बीच गैर-प्रसिद्ध लोगों के हाथ में कई साइड प्रोफाइल शॉट्स होने की संभावना नहीं है।

एंडरसन ने लिखा, "जब तक आपको किसी बिंदु पर गिरफ्तार नहीं किया जाता है, तब तक संभव है कि आपके पास सोशल मीडिया या ऑफलाइन संग्रह में ऐसी एक भी छवि न हो।"

एक सॉफ्टवेयर इंजीनियर और एआई स्टार्टअप लेक्सियन के संस्थापक गौरव ओबेरॉय ने 2018 में डीपफेक पर शोध करते समय बहुत कुछ पाया। एक में अपने ब्लॉग पर पोस्ट करें, ओबेरॉय ने विस्तार से बताया कि देर रात के मेजबान जिमी फॉलन पर कॉमेडियन जॉन ओलिवर के डीपफेक ने कितना अच्छा काम किया, लेकिन प्रोफाइल में नहीं।

ओबेरॉय ने कहा, "सामान्य तौर पर, आपके लक्ष्य की प्रशिक्षण छवियों को उन वीडियो में अभिविन्यास, चेहरे के भाव और प्रकाश व्यवस्था का अनुमान लगाने की आवश्यकता होती है, जिसमें आप उन्हें चिपकाना चाहते हैं।" "इसलिए यदि आप औसत व्यक्ति के लिए एक फेस स्वैप टूल बना रहे हैं, तो यह देखते हुए कि उनमें से अधिकांश तस्वीरें सामने की ओर होंगी, फेस स्वैप को ज्यादातर फॉरवर्ड फेसिंग वीडियो तक सीमित करें।"

इसका वास्तव में मतलब यह है कि वास्तविक समय के डीपफेक का उपयोग करने वाले स्कैमर्स के पास साइड प्रोफाइल व्यू बनाने के लिए आवश्यक डेटा होने की संभावना नहीं है जो तुरंत नकली के रूप में पहचाने जाने योग्य नहीं है (बशर्ते वे एक अच्छी तरह से फोटो खिंचवाने वाले सेलिब्रिटी चेहरे का उपयोग नहीं कर रहे हों) . 

जब तक हम यह नहीं जानते कि डीपफेकर्स ने इस कमी को दूर करने का एक तरीका ढूंढ लिया है, तो यह एक अच्छा विचार है कि ज़ूम के दूसरे छोर पर व्यक्ति से आपको उनके चेहरे का एक साइड व्यू दिखाने के लिए कहें - प्रसिद्ध या नहीं। ®