आईडब्ल्यूएफ ने जेनेरेटिव एआई का उपयोग करने वाले पीडोफाइल पर कार्रवाई की मांग की

इंटरनेट वॉच फ़ाउंडेशन चेतावनी दे रहा है कि जेनरेटिव एआई "बड़े पैमाने पर छवियों की पीढ़ी" को सक्षम करने की धमकी देता है, जो "ऑनलाइन बाल यौन शोषण से लड़ने के लिए काम करने वालों को अभिभूत कर देगा।"

पिछले वर्ष के दौरान जेनेरिक एआई की तीव्र प्रगति से संस्था चिंतित है और भविष्यवाणी करती है कि एआई-जनित बाल यौन शोषण सामग्री (सीएसएएम) समय के साथ और अधिक ग्राफिक बन जाएगी।

सबसे ज्यादा परेशान करने वाला अपराध

इंटरनेट वॉच फ़ाउंडेशन का कहना है कि जेनरेटिव AI इसमें हमारे जीवन को बेहतर बनाने की काफी संभावनाएं हैं, लेकिन चेतावनी दी गई है कि प्रौद्योगिकी को आसानी से दुर्भावनापूर्ण उद्देश्यों के लिए इस्तेमाल किया जा सकता है।

IWF की मुख्य कार्यकारी सूसी हरग्रीव्स ने गार्जियन को बताया बुधवार कि एजेंसी के "सबसे बुरे सपने सच हो गए हैं।"

“इस साल की शुरुआत में, हमने चेतावनी दी थी कि एआई इमेजरी जल्द ही यौन शोषण से पीड़ित बच्चों की वास्तविक तस्वीरों से अप्रभेद्य हो सकती है, और हम इस इमेजरी को बहुत अधिक संख्या में फैलते हुए देखना शुरू कर सकते हैं। हम अब उस बिंदु को पार कर चुके हैं,'' हरग्रीव्स ने कहा।

उन्होंने आगे कहा, “आश्चर्यजनक रूप से, हम देख रहे हैं कि अपराधी जानबूझकर अपने एआई को वास्तविक पीड़ितों की छवियों पर प्रशिक्षित कर रहे हैं जो पहले से ही दुर्व्यवहार का सामना कर चुके हैं। जिन बच्चों के साथ अतीत में बलात्कार हुआ है, उन्हें अब नए परिदृश्यों में शामिल किया जा रहा है क्योंकि कहीं न कहीं कोई इसे देखना चाहता है।

समस्या का स्तर सीएसएएम के खिलाफ लड़ने वालों के लिए पहले से ही बड़ी समस्या पैदा कर रहा है।

एक महीने में 20,254 एआई-जनित छवियां एक डार्क वेब सीएसएएम फोरम पर पोस्ट की गईं। IWF विश्लेषकों ने जेनरेटिव एआई की सहायता से बनाई गई 2,562 आपराधिक छद्म तस्वीरों की पहचान की।

इनमें से आधे से अधिक में 10 वर्ष से कम उम्र के बच्चे थे जबकि 564 को श्रेणी ए छवियों के रूप में वर्गीकृत किया गया था - बाल दुर्व्यवहार छवियों का सबसे गंभीर रूप।

सेलिब्रिटी सीएसएएम तस्वीरें

जेनरेटिव एआई सीएसएएम की नई श्रेणियां बना रहा है। आईडब्ल्यूएफ के निष्कर्षों से पता चलता है कि एआई टूल की मदद से मशहूर हस्तियों की उम्र कम हो रही है और उन्हें बच्चों में तब्दील किया जा रहा है।

फिर ऑनलाइन पीडोफाइल की संतुष्टि के लिए उम्रदराज़ हस्तियों को अपमानजनक परिदृश्यों में रखा जाता है।

डार्कनेट मंचों पर उपयोगकर्ताओं के लिए युवाओं को "नग्न" करने के लिए मशहूर हस्तियों के बच्चों को भी निशाना बनाया जाता है।

IWF का कहना है कि इन छवियों को वास्तविक CSAM से अलग पहचानना कठिन होता जा रहा है।

“सबसे विश्वसनीय एआई सीएसएएम वास्तविक सीएसएएम से दृष्टिगत रूप से अप्रभेद्य है, यहां तक ​​कि प्रशिक्षित आईडब्ल्यूएफ विश्लेषकों के लिए भी। टेक्स्ट-टू-इमेज तकनीक केवल बेहतर होगी और IWF और कानून प्रवर्तन एजेंसियों के लिए और अधिक चुनौतियाँ पैदा करेगी,'' पढ़ता है रिपोर्ट.

सरकार की सिफ़ारिशें

IWF, जो में आधारित है यूके, दुनिया भर की तकनीकी कंपनियों से यह सुनिश्चित करने के लिए कह रहा है कि सीएसएएम उनके उपयोग की शर्तों के समझौतों के खिलाफ है। यह कानून प्रवर्तन एजेंसियों के लिए बेहतर प्रशिक्षण भी चाहता है ताकि वे इस प्रकार की छवियों को अधिक आसानी से पहचान सकें।

IWF ब्रिटिश सरकार से अगले महीने बैलेचली पार्क में आगामी AI शिखर सम्मेलन में AI CSAM को चर्चा का एक प्रमुख विषय बनाने के लिए भी कह रहा है।

यूके इस आयोजन में व्यापार जगत के प्रमुख खिलाड़ियों के साथ-साथ विश्व नेताओं को भी आकर्षित करने की उम्मीद कर रहा है। अब तक, इतालवी प्रधान मंत्री जियोर्जिया मेलोनी जी7 के एकमात्र निश्चित नेता हैं जिनके भाग लेने की उम्मीद है।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/