चीन जनवरी में डीपफेक से निपटने के लिए कानून पेश करेगा

यदि आप इस सप्ताह सोशल मीडिया पर रहे हैं, तो आपने शायद अपने दोस्तों की एआई-जेनरेट की गई छवियों की तस्वीरों को परियों, एनीमे के पात्रों, अवतारों और जादू के प्राणियों के रूप में देखा होगा।

यह लेंसा के कारण है, एक एआई जो उपयोगकर्ताओं द्वारा अपलोड किए गए फोटो के आधार पर डिजिटल पोर्ट्रेट को संश्लेषित करता है। ऐप के पोर्ट्रेट्स ने व्यावहारिक रूप से इंटरनेट पर कब्जा कर लिया, साथ ही लेन्सा ऐप्पल के ऐप स्टोर में सबसे अधिक डाउनलोड किया जाने वाला ऐप बन गया।

लेन्सा, सभी एआई अनुप्रयोगों की तरह, जो छवियों को डिजिटल रूप से प्रस्तुत करता है, ने महिला छवियों के स्पष्ट यौनकरण के लिए प्रशंसा और विवाद दोनों को जन्म दिया है। अन्य उपयोगकर्ताओं ने नोट किया कि ऐप ने उनकी त्वचा को गोरा या उनके शरीर को पतला बना दिया है।

यह भी पढ़ें: एआई टेक जो जीवन को बर्बाद करने वाली गहरी नकली छवियां बनाता है

अपना खुद का 'जादुई अवतार' कैसे प्राप्त करें

गोल करने वाली छवियां लेंसा के जादुई अवतार समारोह की एक गर्वित रचना हैं। इसे महसूस करने के लिए फोन में लेंसा एप डाउनलोड करना होगा। एक वार्षिक सदस्यता $35.99 के आसपास है, लेकिन इसकी सेवाएं भी उपलब्ध हैं, हालांकि एक सप्ताह के परीक्षण पर मुफ्त में सीमाएं उपलब्ध हैं, अगर कोई इसे पहले देखना चाहता है।

हालांकि, लोकप्रिय जादू अवतारों को उत्पन्न करने के लिए अतिरिक्त शुल्क की आवश्यकता होती है क्योंकि ऐप जो कहता है वह हासिल करने के लिए "जबरदस्त कम्प्यूटेशनल पावर" है।

एक नि: शुल्क परीक्षण पर, $ 50 के लिए 3.99 अवतार और $ 200 के लिए 7.99 अवतार प्राप्त कर सकते हैं। सर्वोत्तम परिणाम प्राप्त करने के लिए, ऐप उपयोगकर्ताओं को कम से कम 20 नज़दीकी चित्र अपलोड करने के लिए प्रोत्साहित करता है।

आदर्श रूप से, इन छवियों को किसी के चेहरे का क्लोज़-अप होना चाहिए जिसमें भिन्न पृष्ठभूमि, चेहरे के भाव और कोण हों। एप्लिकेशन जोर देकर कहता है कि उपयोगकर्ताओं की आयु 13 वर्ष और अधिक होनी चाहिए। लेंसा पूरी तरह से नया एप्लिकेशन नहीं है।

प्रिज्मा का एक उत्पाद, एप्लिकेशन पहली बार 2016 में एक फ़ंक्शन के लिए लोकप्रिय हुआ, जिसने उपयोगकर्ताओं को प्रसिद्ध कलाकारों की शैली में अपनी सेल्फी को तस्वीरों में बदलने की अनुमति दी।

लेंस कैसे काम करता है?

कंपनी के अनुसार, यह "ट्रूडेप्थ एपीआई तकनीक" का उपयोग करता है, जहां उपयोगकर्ता फोटो, या "फेस डेटा" प्रदान करता है, फिर एआई को बेहतर प्रदर्शन करने और आपको बेहतर परिणाम दिखाने के लिए इसके एल्गोरिदम पर प्रशिक्षित किया जाता है। प्रशिक्षण तब होता है जब एआई डेटा को संसाधित करता है, मॉडल को मान्य और परीक्षण करता है।

ऐप का उपयोग करने के लिए कोई भी विभिन्न भावों और कोणों के साथ 20 सेल्फी को चुन सकता है और 100 अवतार विकल्प को चुन सकता है।

काम करने में लगभग 20 मिनट लगते हैं। एक बार हो जाने के बाद, एआई ऐसे अवतार लौटाता है जो फंतासी, परी राजकुमारी, फ़ोकस, पॉप, स्टाइलिश, एनीमे, लाइट, कवाई, इंद्रधनुषी और लौकिक जैसी 10 श्रेणियों में आते हैं।

"सामान्य तौर पर, मुझे ऐसा लगा कि ऐप ने मेरी सेल्फी के आधार पर कलात्मक चित्र बनाने का एक अच्छा काम किया है। अधिकांश चित्रों में मैं स्वयं को ठीक से पहचान नहीं सका, लेकिन मैं देख सकता था कि वे कहाँ से आ रहे थे," ज़ो सॉटाइल सीएनएन ने लिखा।

"यह मेरी पीली त्वचा या मेरी गोल नाक जैसी कुछ विशेषताओं को पहचानने और दोहराने के लिए लग रहा था, दूसरों की तुलना में। उनमें से कुछ अधिक यथार्थवादी शैली में थे, और काफी करीब थे अगर मैंने उन्हें दूर से देखा तो मुझे लगता है कि वे वास्तव में मेरी तस्वीरें थीं। अन्य काफी अधिक शैलीबद्ध और कलात्मक थे, इसलिए वे मेरे लिए कम विशिष्ट महसूस करते थे।

सॉटाइल ने देखा कि एआई ने उसे हल्का भी बना दिया है।

जहां तक ​​मेरी बात है, मैंने यह भी महसूस किया कि इसने अपने आप मुझे हल्का बना दिया और अपनी गैलरी में मैंने जो छवि आजमाई वह मेरी और एक मित्र की, जो हल्के से गहरे रंग की है, हमारे बारे में कुछ हद तक हल्का संस्करण लौटाती है, स्पष्ट रूप से एक अतिशयोक्ति है, और हल्का करने के लिए एक झुकाव को उजागर करती है। काली त्वचा टोन।

महिलाओं का यौन शोषण करना

जिन अन्य लोगों ने इसका इस्तेमाल किया, उनमें कमोबेश इसी तरह की चिंताएँ थीं।

महिलाओं का कहना है कि एआई उनकी छवियों का यौन शोषण करने में तेज है। लेकिन पहले के एक लेख में, हम समझाया यह एआई प्रशिक्षण में उपयोग किए गए डेटा सेटों में बड़ी संख्या में यौन छवियों द्वारा संभव बनाया गया है।

दूसरे शब्दों में, इसका मतलब यह है कि एआई उन छवियों को उत्पन्न करने और आसानी से अश्लील होने के तरीके से बहुत परिचित है। थोड़ी सी चालाकी के साथ, यदि कोई उपयोगकर्ता चाहता है तो अनजाने में उन छवियों से पोर्न बनाने के लिए प्रेरित किया जा सकता है।

एक युवा महिला का यौन शोषण करना, जो इस प्रकार के यौनकरण से बचने के लिए अपना अधिकांश समय बैगी कपड़े पहनकर लोगों की नज़रों में बिताती है। पुरुषों को एआई का उपयोग करने से प्रतिबंधित करें https://t.co/YnNCurvYDS

- जोन ऑफ आर्क लेकिन एक कॉमी (@postnuclearjoan) दिसम्बर 13/2022

अन्य कहानियों में, हमने यह कवर किया है कि कैसे AI: को बनाने के तरीके के बारे में जानकारी प्रदान करने में मूर्ख बनाया जा सकता है बम उदाहरण के लिए। आश्चर्यजनक रूप से, मैजिक अवतार फीचर पर अपलोड की गई पुरुषों की छवियों में यौनकरण का मुद्दा प्रकट नहीं हुआ। एमआईटी टेक्नोलॉजी रिव्यू के लिए, मेलिसा हिक्किला लिखा था,

"मेरे अवतार अश्लील रूप से अश्लील थे, जबकि मेरे पुरुष सहयोगी अंतरिक्ष यात्री, खोजकर्ता और आविष्कारक थे।"

दूसरी ओर, सॉटाइल ने देखा कि एआई ने "सबसे विचलित करने वाली छवियों में से एक में" उसे "मेरे चेहरे के एक संस्करण की तरह एक नग्न शरीर पर" बना दिया था।

"कई तस्वीरों में, ऐसा लग रहा था कि मैं नग्न थी लेकिन रणनीतिक रूप से एक कंबल के साथ, या कुछ स्पष्ट छिपाने के लिए छवि को काट दिया," उसने कहा।

"और कई छवियां, यहां तक ​​​​कि जहां मैंने पूरी तरह से कपड़े पहने हुए थे, एक उमस भरे चेहरे की अभिव्यक्ति, महत्वपूर्ण दरार, और कंजूसी वाले कपड़ों को दिखाया, जो मेरे द्वारा सबमिट की गई तस्वीरों से मेल नहीं खाते थे," ज़ो सॉटाइल कहते हैं।

अन्य लोगों ने आशंका व्यक्त की कि लेंसा जैसी एआई तकनीक द्वारा उन्हें पोर्न स्टार बना दिया जाएगा।

चेतावनी: अब दुनिया में कोई भी आपका गैर-सहमति वाला पोर्न ले सकता है !!

लोग गंभीर परिणामों को समझे बिना लेंसा जैसे जेनेरेटिव एआई टूल्स से चकित हैं।

🧵 सबसे खराब हिस्सा? यहां वे हैं जो कंपनियां नहीं चाहतीं कि आप जानें: pic.twitter.com/gdS0h1FbXj

— कृतार्थ मित्तल | घोस्ट राइटर 🖋️ (@kritarthmittal) दिसम्बर 14/2022

शारीरिक शर्मिंदा

पूर्ण शरीर वाली महिलाओं के लिए, अनुभव कुछ अलग था और कुछ मामलों में तो और भी बुरा था। एआई ने उन्हें पतला और सेक्सी बना दिया।

"Lmfao के लिए अगर आपको बॉडी डिस्मॉर्फिया हो गया है तो एआई जनरेट की गई तस्वीरों के लिए लेंसा ऐप का इस्तेमाल न करें। यह आपकी चेतावनी है,” एक उपयोगकर्ता लिखा था.

एक अन्य ने कहा कि ऐप ने उसे एशियाई बना दिया है।

एआई लेंसा ऐप की कोशिश की। मुझे बताएं कि AI ने मुझे पहले से कहीं अधिक एशियाई क्यों बनाया? 😂😂😂😂 pic.twitter.com/lveJNXaXHO

- क्रिस्टीना🌴🌊🐚 (@kut1e) दिसम्बर 9/2022

एक अन्य उपयोगकर्ता ने शिकायत करने के लिए ट्विटर का सहारा लिया कि जब उसने एआई का उपयोग किया तो उसने बॉडी डिस्मॉर्फिया का अनुभव करने के लिए $ 8 का भुगतान किया।

बॉडी डिस्मोर्फिया का अनुभव करने के लिए लेंसा को $8 का भुगतान किया pic.twitter.com/NRYfh5Jyej

- गैरेट (@dollhaus_x) दिसम्बर 3/2022

बॉडी डिस्मॉर्फिया एक मानसिक स्वास्थ्य स्थिति है जहां एक व्यक्ति अपनी उपस्थिति में खामियों के बारे में चिंता करने में काफी समय व्यतीत करता है। ये खामियां अक्सर दूसरों के लिए अनजान होती हैं।

एक अन्य ने शिकायत की कि एआई स्वचालित रूप से उसके अन्यथा पूर्ण चित्र छवियों पर महत्वपूर्ण भार कम करता है।

"लेंसा एआई के बारे में मेरी एक शिकायत यह है कि यह आपको कुछ छवियों में पतला बना देगा। एक मोटे व्यक्ति के रूप में उन छवियों ने मुझे वास्तव में परेशान किया। इसलिए सावधानी बरतें कि अगर आप पतले होने में कोई दिलचस्पी नहीं रखने वाले साथी मोटे हैं, तो ट्रिगर न करें, ”मारिया सक्सेसफुल (@Slatz) ने 5 दिसंबर, 2022 को लिखा।

मनोवैज्ञानिक टाइम बम

और मनोवैज्ञानिक उनके बयानों से सहमत हैं कि एआई पूरी तरह से महिलाओं को ट्रिगर कर सकता है।

एक क्लिनिकल साइकोलॉजिस्ट डॉ. टोनी पीकूस, एक ऑस्ट्रेलियाई आधारित मानसिक स्वास्थ्य व्यवसायी, जो बॉडी डिस्मॉर्फिक डिसऑर्डर पर शोध करता है और उसका इलाज करने में माहिर है, का मानना ​​था कि यह एप्लिकेशन अच्छे से अधिक नुकसान कर सकता है और किसी की आत्म-धारणा को बदलने के लिए "फोटो-फ़िल्टरिंग टूल" के अलावा कुछ नहीं है।

"जब आदर्श और कथित उपस्थिति के बीच एक बड़ी विसंगति होती है, तो यह शरीर के असंतोष, संकट, और संभावित अस्वास्थ्यकर या असुरक्षित साधनों के साथ किसी की उपस्थिति को ठीक करने या बदलने की इच्छा को बढ़ावा दे सकता है" जैसे अव्यवस्थित भोजन या अनावश्यक कॉस्मेटिक प्रक्रियाएं, पिकूस कहते हैं।

उन्होंने चिंता व्यक्त की कि छवियां "जटिल विवरण" जैसे "झाईयां और रेखाएं" मिटा देती हैं, जो किसी की त्वचा के बारे में चिंता बढ़ा सकती हैं। वह मनोवैज्ञानिक रूप से एक कमजोर व्यक्ति को भी ट्रिगर कर सकती है, वह कहती हैं।

"एक बाहरी छवि देखने के लिए उनकी असुरक्षा को वापस प्रतिबिंबित करता है केवल इस विचार को मजबूत करता है 'देखो, यह मेरे साथ गलत है! और मैं अकेला नहीं हूँ जो इसे देख सकता हूँ!'” पीकूस कहते हैं।

इस तथ्य के कारण कि एआई अपनी विशेषताओं का परिचय देता है जो उपयोगकर्ता के वास्तविक जीवन की उपस्थिति को चित्रित नहीं करता है, ऐप नई चिंताएं पैदा कर सकता है, वे कहते हैं।

वह कहती हैं कि एआई के "जादुई अवतार" "विशेष रूप से दिलचस्प थे क्योंकि यह अधिक उद्देश्यपूर्ण लगता है - जैसे कि किसी बाहरी, सभी को जानने वाले ने इस छवि को उत्पन्न किया है कि आप क्या दिखते हैं।"

यह, वह महसूस करती है कि वास्तव में बॉडी डिस्मॉर्फिक विकार वाले लोगों के लिए "उपयोगी" हो सकता है और "व्यक्ति के स्वयं के नकारात्मक दृष्टिकोण और दूसरों को उन्हें कैसे देखते हैं" के बीच "बेमेल" पर प्रकाश डालने में मदद करता है।

हालांकि उन्होंने कहा कि एआई किसी के चेहरे के एक निर्दोष और अधिक "उन्नत और सिद्ध संस्करण" को चित्रित करने के प्रयास के कारण उद्देश्यपूर्ण नहीं था।

उदाहरण के लिए, बॉडी डिस्मॉर्फिक डिसऑर्डर या बीडीडी का अनुभव करने वाला कोई व्यक्ति, "जब वे अपनी छवि देखते हैं, और खुद के इस संस्करण को दुनिया के साथ साझा करना चाहते हैं, तो उन्हें एक संक्षिप्त आत्मविश्वास का अनुभव हो सकता है," वह कहती हैं, लेकिन वास्तविकता से कड़ी टक्कर होगी। स्क्रीन, अनफिल्टर्ड, आईने में या एक फोटो जो वे खुद लेते हैं।

अपना बचाव कर रहा है

प्रिज्मा लैब्स के सीईओ एंड्री उसोल्त्सेव का कहना है कि उनकी कंपनी वर्तमान में लेंसा के बारे में पूछताछ के साथ "अभिभूत" है और एक एफएक्यू पेज के लिए एक लिंक की पेशकश की है जो यौन इमेजरी के प्रश्नों को संबोधित करती है, हालांकि पिकूस का वर्णन करने वाली उपयोगकर्ता प्रतिक्रियाओं की तरह नहीं।

"इसे ऐप में परिलक्षित देखना बहुत ही संघर्षपूर्ण होगा और जिस तरह से वे खुद को देखते हैं, उसके लिए एक तरह की 'पुष्टि' प्रदान करते हैं", जिससे वे "विकार में और अधिक फंस जाते हैं।"

स्थिर प्रसार

लेंसा स्टेबल डिफ्यूज़न का भी उपयोग करता है, जो डीप-लर्निंग सिंथेसिस का उपयोग करता है जो पाठ विवरण से नई छवियां बना सकता है और मैक पर या किराए के कंप्यूटर हार्डवेयर पर क्लाउड में विंडोज या लिनक्स पीसी पर चल सकता है।

स्थिर प्रसार के तंत्रिका नेटवर्क ने शब्दों को जोड़ने और छवियों में पिक्सेल की स्थिति के बीच सामान्य सांख्यिकीय संघ में गहन सीखने की मदद से महारत हासिल की है।

हमने दूसरे में कवर किया कहानी अपराधियों के रूप में दिखाई देने या चोरी जैसी चापलूसी वाली प्रथाओं से कम में शामिल होने के लिए लोगों की छवियों को प्रस्तुत करने और चित्रित करने से प्रौद्योगिकी के जीवन-विनाशकारी परिणाम कैसे हो सकते हैं।

उदाहरण के लिए, कोई ओपन सोर्स स्टेबल डिफ्यूजन को एक संकेत दे सकता है, जैसे "टॉम हैंक्स इन ए क्लासरूम," और यह उसे कक्षा में टॉम हैंक्स की एक नई छवि देगा। टॉम हैंक के मामले में, यह पार्क में टहलना है क्योंकि उनकी सैकड़ों तस्वीरें पहले से ही स्थिर प्रसार को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा सेट में हैं।

कलाकारों को कच्चा सौदा भी मिल रहा है

कला के मोर्चे पर कुछ कलाकार नाखुश हैं।

वे चिंतित हैं कि एआई उनकी आजीविका को खतरे में डाल सकता है। ऐसा इसलिए है क्योंकि डिजिटल सहित कलाकार भी डिजिटल पोर्ट्रेट के लिए एआई जितनी तेजी से उत्पादन नहीं कर सकते हैं।

मैं इन्हें गोपनीयता कारणों से काट रहा हूं/क्योंकि मैं किसी एक व्यक्ति को कॉल करने की कोशिश नहीं कर रहा हूं। ये सभी लेन्सा चित्र हैं जहाँ एक कलाकार के हस्ताक्षर के कटे हुए अवशेष अभी भी दिखाई दे रहे हैं। यह कई कलाकारों में से एक के हस्ताक्षर का अवशेष है जिसे उसने चुराया था।

मैं https://t.co/0lS4WHmQfW pic.twitter.com/7GfDXZ22s1

- लॉरिन इप्सम (@LaurynIpsum) दिसम्बर 6/2022

लेन्सा की मूल कंपनी, प्रिज्मा ने डिजिटल कलाकारों के काम को खत्म करने वाली अपनी तकनीक के बारे में चिंताओं की मालिश करने का प्रयास किया है।

"जबकि मनुष्य और एआई दोनों अर्ध-समान तरीकों से कलात्मक शैलियों के बारे में सीखते हैं, कुछ मूलभूत अंतर हैं: एआई डेटा के बड़े सेट से तेजी से विश्लेषण और सीखने में सक्षम है, लेकिन इसमें कला के लिए समान स्तर का ध्यान और प्रशंसा नहीं है। एक इंसान की तरह," लिखा था कंपनी ने 6 दिसंबर को ट्विटर पर।

यह कहता है "आउटपुट को किसी विशेष कलाकृति की सटीक प्रतिकृति के रूप में वर्णित नहीं किया जा सकता है।"

क्या यह AI जनित कला है या AI कॉपी की गई कला है? क्या लेंसा एआई मानव कला से चोरी कर रहा है? एक विशेषज्ञ विवाद की व्याख्या करता है https://t.co/cxi2t6URC7 pic.twitter.com/20xJgbHZgA

- जॉन चैपमैन (@ JChapman1729) दिसम्बर 15/2022

स्वयं की छवि बदलना

टोरंटो विश्वविद्यालय के बायोएथिसिस्ट केरी बोमन का कहना है कि एआई में अन्य नैतिक मुद्दों के बीच किसी की स्वयं की छवि को नकारात्मक रूप से प्रभावित करने की क्षमता है।

बोमन ने सोमवार को कहा, "कुछ मायनों में, यह बहुत मज़ेदार हो सकता है लेकिन ये आदर्श छवियां सामाजिक अपेक्षाओं से प्रेरित हैं जो बहुत क्रूर और बहुत संकीर्ण हो सकती हैं।"

बोमन ने कहा कि ये एआई प्रोग्राम इन पोर्ट्रेट को बनाने के लिए विभिन्न कला शैलियों की खोज में इंटरनेट जैसे डेटा सेट स्रोतों का उपयोग करते हैं। नकारात्मक पक्ष यह है कि जब एआई ऐसा करता है, तो कलाकारों को उनके काम के उपयोग या क्रेडिट के लिए शायद ही कभी आर्थिक रूप से पारिश्रमिक दिया जाता है।

"उभरती एआई के साथ क्या होता है कि कॉपीराइट कानून के मामले में कानून वास्तव में इसे बनाए रखने में सक्षम नहीं हैं। यह बहुत कठिन और बहुत अस्पष्ट है और नैतिकता कानूनों के पीछे और भी है क्योंकि मैं तर्क दूंगा कि यह मौलिक रूप से अनुचित है," बोमन ने कहा।

व्यक्तिगत डेटा चिंताएं

बोमन ने इस बात पर भी चिंता जताई कि लोगों के निजी डेटा को कैसे स्टोर किया जाता है।

"क्या आप वास्तव में एक बड़े डेटाबेस में अपना चेहरा चाहते हैं? लोगों को इस बारे में खुद निर्णय लेने की जरूरत है लेकिन यह अच्छा नहीं है, इसमें कुछ भी नहीं है, यह सिर्फ मजेदार नहीं है।

लेंसा का कहना है कि तस्वीरें सर्वर और ऐप्स में 24 घंटे से ज्यादा नहीं रखी जाती हैं। डीप लर्निंग और मशीन लर्निंग एल्गोरिदम के साथ, एआई इकट्ठा होता है और फिर भविष्य में बेहतर परिणाम देता है, वह भी हटाए गए डेटा पर आधारित होता है। बोमन कहते हैं, यह चेहरे की पहचान के संभावित उपयोग पर सुरक्षा चिंताओं का परिणाम होगा क्योंकि इस प्रकार के डेटा का पुलिस द्वारा अवैध रूप से उपयोग किया जा सकता है।