डीपफेक डेमोक्रेसी: एआई टेक्नोलॉजी चुनाव सुरक्षा को जटिल बनाती है

कृत्रिम बुद्धिमत्ता (एआई) से उत्पन्न डीपफेक सहित हाल की घटनाएं रोबोकॉल राष्ट्रपति बिडेन का प्रतिरूपण कर रहा है न्यू हैम्पशायर के मतदाताओं से प्राइमरी से दूर रहने का आग्रह करना, एक स्पष्ट अनुस्मारक के रूप में काम करता है कि दुर्भावनापूर्ण अभिनेता आधुनिक जेनेरिक एआई (जेनएआई) प्लेटफार्मों को अमेरिकी चुनावों को लक्षित करने के लिए एक शक्तिशाली हथियार के रूप में देख रहे हैं।

ChatGPT, Google के जेमिनी (पूर्व में बार्ड), या किसी भी उद्देश्य से निर्मित डार्क वेब बड़े भाषा मॉडल (एलएलएम) जैसे प्लेटफ़ॉर्म लोकतांत्रिक प्रक्रिया को बाधित करने में भूमिका निभा सकते हैं, जिसमें बड़े पैमाने पर प्रभाव अभियान, स्वचालित ट्रोलिंग और प्रसार शामिल हैं। डीपफेक सामग्री।

दरअसल, एफबीआई निदेशक क्रिस्टोफर रे हाल ही में चिंता व्यक्त की डीपफेक का उपयोग करके चल रहे सूचना युद्ध के बारे में जो आगामी राष्ट्रपति अभियान के दौरान गलत सूचना फैला सकता है राज्य समर्थित अभिनेता भू-राजनीतिक संतुलन को प्रभावित करने का प्रयास।

GenAI "के उदय को भी स्वचालित कर सकता है"समन्वित अमानवीय व्यवहारऐसे नेटवर्क जो फर्जी समाचार आउटलेट्स, सोशल मीडिया प्रोफाइल और अन्य तरीकों से अपने दुष्प्रचार अभियानों के लिए दर्शकों को विकसित करने का प्रयास करते हैं - जिसका लक्ष्य चुनावी प्रक्रिया में कलह पैदा करना और जनता के विश्वास को कम करना है।

चुनाव प्रभाव: पर्याप्त जोखिम और दुःस्वप्न परिदृश्य

साइबरसेंट के मुख्य नवाचार अधिकारी पैड्रिक ओ'रेली के दृष्टिकोण से, जोखिम "पर्याप्त" है क्योंकि प्रौद्योगिकी इतनी तेज़ी से विकसित हो रही है।

वे कहते हैं, ''यह दिलचस्प होने का वादा करता है और शायद थोड़ा चिंताजनक भी, क्योंकि हम डीपफेक तकनीक का लाभ उठाते हुए दुष्प्रचार के नए रूप देख रहे हैं।''

विशेष रूप से, ओ'रेली कहते हैं, "दुःस्वप्न परिदृश्य" यह है कि एआई-जनित सामग्री के साथ माइक्रोटार्गेटिंग सोशल मीडिया प्लेटफार्मों पर फैल जाएगी। यह एक परिचित युक्ति है कैम्ब्रिज एनालिटिका स्कैंडल, जहां कंपनी ने 230 मिलियन अमेरिकी मतदाताओं पर मनोवैज्ञानिक प्रोफ़ाइल डेटा एकत्र किया, ताकि उनके विश्वासों और वोटों को प्रभावित करने के प्रयास में व्यक्तियों को फेसबुक के माध्यम से अत्यधिक अनुकूलित संदेश प्रदान किया जा सके। लेकिन GenAI उस प्रक्रिया को बड़े पैमाने पर स्वचालित कर सकता है, और अत्यधिक ठोस सामग्री बना सकता है जिसमें कुछ, यदि कोई हो, तो "बॉट" विशेषताएं होंगी जो लोगों को विचलित कर सकती हैं।

“चोरी किए गए लक्ष्यीकरण डेटा [उपयोगकर्ता कौन है और उनकी रुचियों के व्यक्तित्व स्नैपशॉट] को एआई-जनरेटेड सामग्री के साथ विलय करना एक वास्तविक जोखिम है,” वह बताते हैं। “2013-2017 के रूसी दुष्प्रचार अभियान इस बात का संकेत देते हैं कि और क्या हो सकता है और क्या होगा, और हम अमेरिकी नागरिकों द्वारा उत्पन्न डीपफेक के बारे में जानते हैं [जैसे एक] जिसमें बिडेन शामिल हैं, और एलिजाबेथ वॉरेन".

सोशल मीडिया का मिश्रण और आसानी से उपलब्ध डीपफेक तकनीक उन्होंने कहा कि यह पहले से ही गहराई से विभाजित देश में अमेरिकी नागरिकों के ध्रुवीकरण के लिए एक विनाशकारी हथियार हो सकता है।

"लोकतंत्र कुछ साझा परंपराओं और सूचनाओं पर आधारित है, और यहां खतरा नागरिकों के बीच बढ़ता विभाजन है, जिसके कारण स्टैनफोर्ड के शोधकर्ता रेनी डिरेस्टा ने 'बेस्पोक वास्तविकताएं' कहा है," ओ'रेली कहते हैं, उर्फ ​​लोग "वैकल्पिक तथ्यों" में विश्वास करते हैं।

धमकी देने वाले कलाकार विभाजन को बढ़ावा देने के लिए जिन प्लेटफार्मों का उपयोग करते हैं, वे संभवतः थोड़ी मदद करेंगे: उन्होंने कहा कि, उदाहरण के लिए, सोशल मीडिया प्लेटफॉर्म एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, ने सामग्री पर अपने गुणवत्ता आश्वासन (क्यूए) को खत्म कर दिया है।

“अन्य प्लेटफार्मों ने बॉयलरप्लेट आश्वासन प्रदान किया है कि वे दुष्प्रचार को संबोधित करेंगे, लेकिन मुक्त भाषण सुरक्षा और विनियमन की कमी अभी भी बुरे अभिनेताओं के लिए मैदान को खुला छोड़ देती है,” वह चेतावनी देते हैं।

एआई मौजूदा फ़िशिंग टीटीपी को बढ़ाता है

जेनएआई का उपयोग पहले से ही बड़े पैमाने पर अधिक विश्वसनीय, लक्षित फ़िशिंग अभियान तैयार करने के लिए किया जा रहा है - लेकिन टाइडल साइबर में साइबर खतरे की खुफिया जानकारी के निदेशक स्कॉट स्मॉल के अनुसार, चुनाव सुरक्षा के संदर्भ में यह घटना अधिक चिंताजनक है।

"हमें उम्मीद है कि साइबर प्रतिद्वंद्वी फ़िशिंग और सोशल इंजीनियरिंग हमलों के लिए जेनरेटिव एआई को अपनाएंगे - जो कई वर्षों से लगातार मात्रा के मामले में चुनाव-संबंधित हमलों के प्रमुख रूप हैं - और अधिक ठोस, जिससे यह अधिक संभावना है कि लक्ष्य दुर्भावनापूर्ण सामग्री के साथ बातचीत करेंगे, " वो समझाता है।

स्मॉल का कहना है कि एआई अपनाने से ऐसे हमलों को शुरू करने के लिए प्रवेश की बाधा भी कम हो जाती है, एक ऐसा कारक जो इस वर्ष अभियानों की मात्रा में वृद्धि की संभावना है जो अभियानों में घुसपैठ करने या अन्य संभावनाओं के बीच प्रतिरूपण उद्देश्यों के लिए उम्मीदवार खातों पर कब्जा करने की कोशिश करते हैं।

“आपराधिक और राष्ट्र-राज्य के विरोधी नियमित रूप से फ़िशिंग और सोशल इंजीनियरिंग के प्रलोभनों को वर्तमान घटनाओं और लोकप्रिय विषयों के लिए अनुकूलित करते हैं, और ये कलाकार निश्चित रूप से इस वर्ष आम तौर पर वितरित किए जा रहे चुनाव-संबंधित डिजिटल सामग्री में उछाल का फायदा उठाने की कोशिश करेंगे, ताकि दुर्भावनापूर्ण संदेश देने की कोशिश की जा सके। बिना सोचे-समझे उपयोगकर्ताओं के लिए सामग्री, ”वह कहते हैं।

एआई चुनावी खतरों से बचाव

इन खतरों से बचाव के लिए, चुनाव अधिकारियों और अभियानों को जेनएआई-संचालित जोखिमों और उनसे बचाव के बारे में पता होना चाहिए।

ऑप्टिव में साइबर-जोखिम के उपाध्यक्ष जेम्स टर्गल कहते हैं, "चुनाव अधिकारी और उम्मीदवार लगातार साक्षात्कार और प्रेस कॉन्फ्रेंस दे रहे हैं कि धमकी देने वाले कलाकार एआई-आधारित डीपफेक के लिए ध्वनि काट सकते हैं।" "इसलिए, यह सुनिश्चित करना उन पर निर्भर है कि सामग्री पर नियंत्रण सुनिश्चित करने के लिए उनके पास एक व्यक्ति या टीम जिम्मेदार है।"

उन्हें यह भी सुनिश्चित करना होगा कि स्वयंसेवकों और कार्यकर्ताओं को एआई-संचालित खतरों जैसे कि उन्नत सोशल इंजीनियरिंग, उनके पीछे के खतरे वाले अभिनेताओं और संदिग्ध गतिविधि का जवाब देने के तरीके पर प्रशिक्षित किया जाए।

उस उद्देश्य के लिए, कर्मचारियों को सोशल इंजीनियरिंग और डीपफेक वीडियो प्रशिक्षण में भाग लेना चाहिए जिसमें इलेक्ट्रॉनिक (ईमेल, टेक्स्ट और सोशल मीडिया प्लेटफॉर्म), व्यक्तिगत और टेलीफोन-आधारित प्रयासों सहित सभी रूपों और आक्रमण वैक्टरों के बारे में जानकारी शामिल है।

"यह बहुत महत्वपूर्ण है - विशेष रूप से स्वयंसेवकों के साथ - क्योंकि हर किसी के पास अच्छी साइबर स्वच्छता नहीं है," तुर्गल कहते हैं।

इसके अतिरिक्त, अभियान और चुनाव स्वयंसेवकों को सोशल मीडिया पोस्ट सहित ऑनलाइन और बाहरी संस्थाओं को सुरक्षित रूप से जानकारी प्रदान करने के बारे में प्रशिक्षित किया जाना चाहिए और ऐसा करते समय सावधानी बरतनी चाहिए।

उन्होंने चेतावनी देते हुए कहा, "साइबर खतरे वाले अभिनेता विशिष्ट लक्ष्यों के लिए सामाजिक रूप से इंजीनियर किए गए लालच को तैयार करने के लिए यह जानकारी इकट्ठा कर सकते हैं।"

ओ'रेली का कहना है कि दीर्घकालिक, विनियमन जिसमें शामिल है ऑडियो और वीडियो डीपफेक के लिए वॉटरमार्किंग यह महत्वपूर्ण होगा, संघीय सरकार एलएलएम के मालिकों के साथ सुरक्षा स्थापित करने के लिए काम कर रही है।

वास्तव में, संघीय संचार आयोग (एफसीसी) ने अभी घोषणा की टेलीफोन उपभोक्ता संरक्षण अधिनियम (टीसीपीए) के तहत एआई-जनरेटेड वॉयस कॉल को "कृत्रिम" बताया गया है, जिससे वॉयस क्लोनिंग तकनीक का उपयोग अवैध हो गया है और देश भर में राज्य अटॉर्नी जनरल को ऐसी धोखाधड़ी गतिविधियों से निपटने के लिए नए उपकरण उपलब्ध कराए जा रहे हैं।

ओ'रेली कहते हैं, "एआई इतनी तेजी से आगे बढ़ रहा है कि एक अंतर्निहित खतरा है कि तकनीकी प्रगति के साथ कोई भी प्रस्तावित नियम अप्रभावी हो सकता है, संभावित रूप से लक्ष्य से चूक सकता है।" "कुछ मायनों में, यह वाइल्ड वेस्ट है, और एआई बहुत कम सुरक्षा उपायों के साथ बाजार में आ रहा है।"

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security