वास्तविक और एआई निर्माण के बीच की रेखा आंखों के लिए बहुत पतली है

जैसा कि जेनेरिक एआई डेवलपर्स अपने मॉडलों को परिष्कार के लिए परिष्कृत करना जारी रखते हैं, शोधकर्ताओं ने खुलासा किया है कि वास्तविक छवियों और एआई रचनाओं के बीच अंतर करना भी मुश्किल होता जा रहा है।

के शोधकर्ताओं द्वारा एक अध्ययन वाटरलू विश्वविद्यालय स्थापित किया गया कि लोगों को एक वास्तविक व्यक्ति और एआई-जनित व्यक्ति की तस्वीर का पता लगाने में कठिनाई हो रही है।

अपेक्षित सीमा से नीचे

अध्ययन को अंजाम देने में, वाटरलू विश्वविद्यालय के शोधकर्ताओं ने 20 प्रतिभागियों को 260 बिना लेबल वाली तस्वीरें प्रदान कीं। आधी तस्वीरें Google Images से ली गई वास्तविक लोगों की थीं, जबकि बाकी आधी तस्वीरें Dall-E जैसे टूल का उपयोग करके AI द्वारा तैयार की गई थीं। स्थिर प्रसार.

फिर प्रतिभागियों से उनके उत्तरों को सही ठहराते हुए, छवियों पर लेबल लगाने के लिए कहा गया, चाहे वे वास्तविक हों या एआई-जनरेटेड हों।

हालाँकि 61% प्रतिभागी वास्तविक छवियों और एआई जनित छवियों के बीच अंतर बता सकते थे, फिर भी यह अपेक्षित 85% सीमा से काफी कम था।

छवियों की जांच करते समय, प्रतिभागियों ने आंखों, उंगलियों, दांतों और अन्य संकेतकों जैसे विवरणों पर ध्यान दिया, जो एआई द्वारा बनाई गई छवियों की तलाश करते समय संकेतक थे, लेकिन "उनके आकलन हमेशा सही नहीं थे।"

"लोग भेद करने में उतने कुशल नहीं हैं जितना वे सोचते हैं कि वे हैं," कहा अध्ययन के प्रमुख लेखक एंड्रिया पोकोल, जो विश्वविद्यालय में कंप्यूटर विज्ञान में पीएचडी उम्मीदवार भी हैं।

जबकि इंटरनेट उपयोगकर्ता छवियों को देखते-देखते देख सकते हैं, वाटरलू शोधकर्ताओं ने कहा कि उन्होंने प्रतिभागियों को छवियों का विश्लेषण करने के लिए अपना समय लेने की अनुमति दी है।

पोकोल ने कहा, "जो लोग सिर्फ डूमस्क्रॉल कर रहे हैं या उनके पास समय नहीं है, वे इन संकेतों को नहीं समझेंगे।"

यह भी पढ़ें: लियोनार्डो के सीईओ ने दावोस में एआई खतरों पर उपयोगकर्ताओं की मूर्खता पर प्रकाश डाला

तकनीक का दुरुपयोग

उनके अध्ययन, जिसका शीर्षक है "सीइंग इज़ नो लॉन्गर बिलीविंग: ए सर्वे ऑन द स्टेट ऑफ डीपफेक, एआई-जेनरेटेड ह्यूमन्स, एंड अदर नॉनवेरिडिकल मीडिया", जो एडवांसेज इन कंप्यूटर ग्राफिक्स जर्नल में छपा है, जेनरेटिव एआई तकनीक में प्रगति से जुड़े जोखिमों पर भी प्रकाश डालता है। .

शोधकर्ताओं ने इस बात पर भी चिंता व्यक्त की कि जेनरेटरेटिव एआई तकनीक तेजी से बदल रही है, हर गुजरते दिन के साथ और अधिक परिष्कृत होती जा रही है। शैक्षणिक अनुसंधान और कानून उत्पादक उद्योग में विकास के साथ तालमेल बिठाने में विफल हो रहे हैं।

पोकोल ने कहा कि एआई छवियां अधिक वास्तविक होती जा रही हैं जिससे कुछ लोगों के लिए वास्तविक और एआई उत्पन्न छवियों के बीच आसानी से अंतर करना मुश्किल हो रहा है। पोकोल ने कहा, यह बुरे अभिनेताओं के लिए उपजाऊ जमीन तैयार कर रहा है जो द्वेष फैलाने और दुष्प्रचार को बढ़ावा देने या लोगों को धोखा देने के लिए प्रौद्योगिकी का लाभ उठा रहे हैं।

पोकोल ने कहा, "दुष्प्रचार कोई नई बात नहीं है, लेकिन दुष्प्रचार के उपकरण लगातार बदल रहे हैं और विकसित हो रहे हैं।"

“यह उस बिंदु पर पहुंच सकता है जहां लोग, चाहे वे कितने भी प्रशिक्षित क्यों न हों, फिर भी वास्तविक छवियों को नकली से अलग करने के लिए संघर्ष करेंगे। इसलिए हमें इसकी पहचान करने और इसका मुकाबला करने के लिए उपकरण विकसित करने की आवश्यकता है। यह एक नई एआई हथियारों की दौड़ की तरह है।"

शोधकर्ताओं ने प्रौद्योगिकी द्वारा उत्पन्न चुनौतियों को भी स्वीकार किया है, खासकर जब डीपफेक के प्रसार की बात आती है।

तकनीक गलत हाथों में

वास्तविक और नकली छवियों के बीच अंतर करने में आम लोगों को होने वाली कठिनाइयों के साथ, डीपफेक के प्रसार में वृद्धि की आशंकाएं बढ़ रही हैं। विशेषज्ञों ने चेतावनी दी है कि बुरे कलाकार मतदाताओं को गुमराह करने के अपने प्रयासों में चुनावी झूठ फैलाने के लिए जेनरेटिव एआई तकनीक का फायदा उठाएंगे।

RSI डिजिटल नफरत का मुकाबला करने के लिए केंद्र (सीसीडीएच), एक गैर-लाभकारी संस्था जो ऑनलाइन अभद्र भाषा पर नज़र रखती है आगाह अपनी रिपोर्ट में कहा गया है कि एआई-संचालित छवि जनरेटर 2024 के चुनाव की गलत सूचना को खराब कर रहे हैं।

सीसीडीएच शोधकर्ताओं ने अपनी रिपोर्ट में कहा, "ऐसी एआई-जनरेटेड छवियों की 'फोटो साक्ष्य' के रूप में काम करने की क्षमता झूठे दावों के प्रसार को बढ़ा सकती है, जिससे चुनाव की अखंडता को बनाए रखने में एक महत्वपूर्ण चुनौती पैदा हो सकती है।"

हालाँकि यह एक घोषणा के बीच आया है जिसमें लगभग 20 बड़ी तकनीकी कंपनियाँ शामिल हैं OpenAI, माइक्रोसॉफ्ट, और स्थिरता एआई एक समझौते पर हस्ताक्षर किए एआई भ्रामक सामग्री को इस वर्ष विश्व स्तर पर होने वाले चुनाव में हस्तक्षेप करने से रोकने के लिए मिलकर काम करना।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/