स्विफ्ट डीपफेक के लिए एआई रेलिंग से बचने के प्रयासों को दोषी ठहराया गया

कथित तौर पर पॉपस्टार टेलर स्विफ्ट की वायरल अश्लील डीपफेक छवियां 4chan पर एक ऑनलाइन प्रतियोगिता से उपजी हैं, जिसमें प्रतियोगियों को एआई सॉफ्टवेयर सामग्री फिल्टर को तोड़ने की चुनौती दी गई थी। 

न्यूयॉर्क की सोशल मीडिया एनालिटिक्स फर्म ग्राफिका के लोगों ने तस्वीरों को सीधे 4chan पर खोजा है। लोगों को महिला मशहूर हस्तियों की एनएसएफडब्ल्यू छवियां बनाने के लिए माइक्रोसॉफ्ट के डिज़ाइनर या ओपनएआई के DALL-E जैसे अनुप्रयोगों पर सुरक्षा रेलिंग को बायपास करने के लिए तरकीबें पेश करने के लिए कहा गया था। ग्राफिका के अनुसार, टेलर स्विफ्ट की तस्वीरें माइक्रोसॉफ्ट डिज़ाइनर का उपयोग करके बनाई गई थीं, और बाद में एक्स पर पोस्ट होने से पहले टेलीग्राम पर एक समूह चैट में साझा की गईं।

माइक्रोसॉफ्ट के एक प्रवक्ता ने बताया, "हम इन छवियों की जांच जारी रख रहे हैं और हमारी सेवाओं के दुरुपयोग को रोकने के लिए हमारी मौजूदा सुरक्षा प्रणालियों को मजबूत किया है ताकि उनकी जैसी छवियां बनाने में मदद मिल सके।" रजिस्टर गवाही में। 

की डीपफेक छवियां तीव्र सोशल मीडिया प्लेटफ़ॉर्म द्वारा उन्हें हटाए जाने और गीतकार से संबंधित कुछ खोज शब्दों को अस्थायी रूप से अवरुद्ध करने से पहले एक्स पर लाखों व्यूज प्राप्त हुए। हालाँकि, ग्राफिका ने कहा कि प्रतियोगिता में अन्य प्रसिद्ध महिला हस्तियों को लक्षित किया गया था, और चेतावनी दी गई थी कि किसी को भी लक्षित करने के लिए प्रौद्योगिकी का दुरुपयोग किया जा सकता है। 

ग्राफिका की एक वरिष्ठ विश्लेषक क्रिस्टीना लोपेज़ जी ने कहा, "हालांकि टेलर स्विफ्ट की वायरल अश्लील तस्वीरों ने एआई-जनरेटेड गैर-सहमति वाली अंतरंग छवियों के मुद्दे पर मुख्यधारा का ध्यान आकर्षित किया है, लेकिन वह एकमात्र शिकार नहीं है।" बोला था ब्लूमबर्ग. “4chan समुदाय में जहां ये तस्वीरें उत्पन्न हुईं, वह सबसे अधिक बार लक्षित सार्वजनिक व्यक्ति भी नहीं हैं। इससे पता चलता है कि वैश्विक हस्तियों से लेकर स्कूली बच्चों तक, किसी को भी इस तरह से निशाना बनाया जा सकता है।'

हालाँकि, स्विफ्ट को यौन रूप से उत्तेजक मुद्रा में चित्रित करने वाली नकली छवियों की वायरल प्रकृति ने कानून निर्माताओं को परेशान कर दिया है। व्हाइट हाउस की प्रेस सचिव कैरिन जीन-पियरे ने कांग्रेस से "खतरनाक" तस्वीरों के जवाब में "विधायी कार्रवाई करने" का आग्रह किया। 

पिछले हफ्ते, अमेरिकी सीनेटरों ने स्पष्ट रूप से जाली छवियों और गैर-सहमति वाले संपादनों को बाधित करने वाला अधिनियम 2024 पेश किया। द्विदलीय बिल इससे पीड़ितों को उन लोगों पर मुकदमा चलाने की अनुमति मिल जाएगी जो गंदे एआई-जनित डीपफेक बनाते और साझा करते हैं। सीनेटर डिक डर्बिन (डी-आईएल), लिंडसे ग्राहम (आर-एससी), एमी क्लोबुचर (डी-एमएन), और जोश हॉले (आर-एमओ) के नेतृत्व में कानून ने एक अध्ययन की ओर इशारा किया, जिसमें 96 प्रतिशत डीपफेक वीडियो का दावा किया गया था। अश्लील थे और इसमें चित्रित महिलाओं की अनुमति या सहमति के बिना बनाया गया था। 

अवज्ञा अधिनियम उस समय लॉन्च किया गया था जब सोशल मीडिया प्लेटफॉर्म के शीर्ष सीईओ से कांग्रेस में पूछताछ की गई थी सुनवाई ऑनलाइन बच्चों के यौन शोषण और सुरक्षा की कमी पर।

रजिस्टर ग्राफिका से आगे की टिप्पणी मांगी है। ®

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/