आईबीएम सिक्योरिटी के शोधकर्ताओं ने कृत्रिम बुद्धिमत्ता में एक चौंकाने वाले नए खतरे का खुलासा किया है: "ऑडियो-जैकिंग" नामक तकनीक के माध्यम से लाइव बातचीत में हेरफेर करने की क्षमता।
जेनरेटिव एआई और डीपफेक ऑडियो तकनीक का उपयोग करते हुए, यह विधि वास्तविक समय में बोले गए शब्दों को रोक सकती है और बदल सकती है, जिससे डिजिटल संचार में अभूतपूर्व जोखिम पैदा हो सकता है।
यह भी पढ़ें: एआई डीपफेक डिटेक्शन बढ़ती धोखे की चुनौतियों के खिलाफ प्रगति कर रहा है
ऑडियो जैकिंग के खतरे को उजागर करना
ऑडियो जैकिंग फोन कॉल जैसे दो-तरफ़ा संचार से लाइव ऑडियो को संसाधित करके और विशिष्ट कीवर्ड या वाक्यांशों की खोज करके काम करती है। जब इन ट्रिगर्स का पता लगाया जाता है, तो एआई कदम उठाता है और अपने गंतव्य तक पहुंचने से पहले प्रामाणिक ऑडियो को हेरफेर किए गए डीपफेक संस्करण से बदल देता है। चकित करने वाला उदाहरण यह तकनीक आईबीएम शोधकर्ताओं द्वारा प्रदान की गई है, जिन्होंने बातचीत के दौरान बोली गई बैंक खाते की जानकारी को बिना पता लगाए बदल दिया।
ऑडियो-जैकिंग: लाइव ऑडियो लेनदेन को विकृत करने के लिए जेनरेटिव एआई का उपयोग करना: टेक्स्ट-टू-इमेज, टेक्स्ट-टू-स्पीच और बड़े भाषा मॉडल (एलएलएम) सहित जेनेरेटिव एआई के उदय ने हमारे काम और व्यक्तिगत जीवन को महत्वपूर्ण रूप से बदल दिया है। जबकि ये प्रगति... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
- शाह शेख (@shah_sheikh) फ़रवरी 1, 2024
जिस आसानी से इस हमले की अवधारणा का प्रमाण तैयार किया जा सकता है वह चिंताजनक है। शोधकर्ताओं ने नोट किया कि सबसे चुनौतीपूर्ण हिस्सा एआई बनाना नहीं था, बल्कि लाइव ऑडियो रिकॉर्डिंग और प्रसंस्करण की तकनीकीताएं थीं। विकास की यह आसानी पारंपरिक अपेक्षाओं से एक महत्वपूर्ण विचलन का प्रतिनिधित्व करती है, जिसमें इस तरह के प्रयास के लिए कई कंप्यूटर विज्ञान क्षेत्रों में काफी विशेषज्ञता की आवश्यकता होगी।
“इस पीओसी का निर्माण आश्चर्यजनक और डरावना रूप से आसान था। हमने अधिकांश समय यह पता लगाने में बिताया कि माइक्रोफ़ोन से ऑडियो कैसे कैप्चर किया जाए और ऑडियो को जेनरेटिव एआई में कैसे फीड किया जाए।
इस योजना में की भूमिका जनरेटिव एआई नाजुक है। किसी व्यक्ति की आवाज़ के केवल तीन सेकंड का उपयोग करके, प्रौद्योगिकी मांग पर वैध डीपफेक तैयार करने के लिए एक विश्वसनीय क्लोन तैयार कर सकती है। एपीआई के माध्यम से उपलब्ध यह क्षमता, उन्नत हेरफेर टूल के लिए लोकतंत्रीकरण प्रक्रिया में एक परेशान करने वाली प्रवृत्ति की ओर इशारा करती है।
"आजकल, हमें किसी व्यक्ति की आवाज़ को क्लोन करने के लिए केवल तीन सेकंड की आवश्यकता होती है और प्रामाणिक नकली आवाज़ें उत्पन्न करने के लिए टेक्स्ट-टू-स्पीच एपीआई का उपयोग करते हैं।"
निहितार्थ और संभावित दुरुपयोग
हालाँकि, ऑडियोजैकिंग का प्रभाव सिर्फ वित्तीय धोखाधड़ी से कहीं आगे तक जाता है। ऐसी तकनीक वास्तविक समय में सेंसरशिप करने, समाचार और राजनीतिक भाषण जैसे लाइव प्रसारण को बिना पता लगाए बदलने में सक्षम है। ये क्षमताएं सूचना की अखंडता से समझौता करती हैं, जिसका लोकतंत्र और सार्वजनिक विश्वास पर गहरा प्रभाव पड़ता है।
ऑडियो-जैकिंग हमले में कम बाधा के साथ, परिष्कृत सोशल इंजीनियरिंग या फ़िशिंग को काफी कम कर दिया गया है। यह सहजता ऐसे हमलों के फैलने के मुद्दों को उठाती है, जिससे वर्तमान सुरक्षा उपायों के लिए चुनौतियाँ पैदा होती हैं और नए रक्षा तंत्र की आवश्यकता होती है।
"इस पीओसी की परिपक्वता उपभोक्ताओं के लिए एक महत्वपूर्ण जोखिम का संकेत देगी, सबसे महत्वपूर्ण... यह हमला जितना अधिक परिष्कृत होगा, पीड़ितों का जाल उतना ही व्यापक होगा।"
ऑडियो जैकिंग की घटना एआई विकास के भीतर एक व्यापक मुद्दे को रेखांकित करती है: दोहरी प्रकृति उत्पादक प्रौद्योगिकियाँ. एक ओर, वे नवाचार और रचनात्मकता के लिए असीमित संभावनाओं का स्रोत हैं; दूसरी ओर, उनकी दुरुपयोग की गई क्षमता की उपेक्षा नहीं की जानी चाहिए। यह घटना एक महत्वपूर्ण सवाल उठाती है: समाज एआई के गहरे अनुप्रयोगों से बचाव करते हुए इसके लाभों का उपयोग कैसे कर सकता है?
एआई सुरक्षा के भविष्य पर ध्यान देना
डिजिटल खतरों के बदलते परिदृश्य के साथ, आईबीएम सिक्योरिटी द्वारा ऑडियो जैकिंग की पहचान सतर्क रहने और साइबर सुरक्षा को आधुनिक बनाने के लिए एक आवश्यक चेतावनी है। ऐसे परिष्कृत खतरों से निपटने के लिए नवीन पहचान एल्गोरिदम और अधिक सशक्त एन्क्रिप्शन तकनीकों सहित जवाबी उपायों का विकास महत्वपूर्ण है।
इसके अलावा, इस खुलासे से पता चलता है कि नैतिक मुद्दे अभिन्न अंग हैं एआई अनुसंधान एवं विकास। ऐसी शक्तिशाली प्रौद्योगिकियों के खतरों को दूर करने के लिए एआई-जिम्मेदार उपयोग के लिए नियम और मानक स्थापित करना आवश्यक है।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :हैस
- :है
- :नहीं
- $यूपी
- 1
- 11
- 7
- 8
- a
- क्षमता
- लेखा
- के पार
- को संबोधित
- उन्नत
- के खिलाफ
- AI
- एल्गोरिदम
- बदल
- an
- और
- एपीआई
- एपीआई
- अनुप्रयोगों
- हैं
- कृत्रिम
- कृत्रिम बुद्धिमत्ता
- AS
- At
- आक्रमण
- आक्रमण
- ऑडियो
- विश्वसनीय
- उपलब्ध
- बैंक
- बैंक खाता
- अवरोध
- BE
- किया गया
- से पहले
- जा रहा है
- मानक
- लाभ
- परे
- व्यापक
- लेकिन
- by
- कॉल
- कर सकते हैं
- क्षमताओं
- सक्षम
- कब्जा
- सेंसरशिप
- चुनौतियों
- चुनौतीपूर्ण
- बदल
- मुकाबला
- संचार
- संचार
- समझौता
- कंप्यूटर
- कम्प्यूटर साइंस
- काफी
- उपभोक्ताओं
- कन्वर्सेशन (Conversation)
- बातचीत
- सका
- बनाना
- रचनात्मकता
- महत्वपूर्ण
- वर्तमान
- साइबर सुरक्षा
- खतरों
- गहरे रंग
- धोखा
- deepfakes
- रक्षा
- मांग
- लोकतंत्र
- जनतंत्रीकरण
- प्रस्थान
- गंतव्य
- पता चला
- खोज
- विकास
- डिजिटल
- प्रकटीकरण
- विचार - विमर्श
- दोहरा
- दौरान
- आराम
- आसान
- प्रभाव
- प्रयास
- एन्क्रिप्शन
- अभियांत्रिकी
- आवश्यक
- नैतिक
- विकास
- उम्मीदों
- विशेषज्ञता
- विशेषज्ञों
- उल्लू बनाना
- फ़ील्ड
- वित्तीय
- वित्तीय धोखाधड़ी
- खोज
- के लिए
- धोखा
- से
- भविष्य
- उत्पन्न
- उत्पादक
- जनरेटिव एआई
- Go
- बढ़ रहा है
- हाथ
- साज़
- है
- कैसे
- How To
- तथापि
- HTTPS
- आईबीएम
- पहचान
- निहितार्थ
- in
- घटना
- सहित
- करें-
- नवोन्मेष
- अभिनव
- अभिन्न
- ईमानदारी
- बुद्धि
- मुद्दा
- मुद्दों
- IT
- आईटी इस
- केवल
- खोजशब्दों
- जानने वाला
- परिदृश्य
- भाषा
- बड़ा
- वैध
- जीना
- लाइव्स
- देख
- निम्न
- कम बाधा
- चालाकी से
- जोड़ - तोड़
- परिपक्वता
- उपायों
- तंत्र
- तरीका
- माइक्रोफोन
- मॉडल
- आधुनिकीकरण
- अधिक
- अधिकांश
- प्रकृति
- आवश्यकता
- जाल
- नया
- समाचार
- विख्यात
- of
- on
- ONE
- केवल
- or
- अन्य
- हमारी
- आउट
- के ऊपर
- भाग
- स्टाफ़
- घटना
- फ़िशिंग
- फ़ोन
- फोन कॉल्स
- मुहावरों
- केंद्रीय
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- PoC
- अंक
- राजनीतिक
- संभावनाओं
- संभावित
- शक्तिशाली
- प्रक्रिया
- प्रसंस्करण
- उत्पादन
- गहरा
- संकेतों
- बशर्ते
- सार्वजनिक
- लोगों का विश्वास
- प्रश्न
- उठाता
- बल्कि
- पहुँचती है
- पढ़ना
- वास्तविक
- वास्तविक समय
- रिकॉर्डिंग
- घटी
- परिष्कृत
- का प्रतिनिधित्व करता है
- शोधकर्ताओं
- प्रकट
- पता चलता है
- वृद्धि
- जोखिम
- जोखिम
- भूमिका
- नियम
- सुरक्षा
- योजना
- विज्ञान
- सेकंड
- सुरक्षा
- सुरक्षा उपाय
- की स्थापना
- कई
- शेख़
- स्थानांतरण
- चाहिए
- संकेत
- महत्वपूर्ण
- काफी
- सोशल मीडिया
- सोशल इंजीनियरिंग
- समाज
- परिष्कृत
- स्रोत
- विशिष्ट
- भाषणों
- खर्च
- बात
- प्रसार
- चौंकाने
- कदम
- तेजस्वी
- ऐसा
- हैरत की बात है
- लेता है
- तकनीक
- तकनीक
- टेक्नोलॉजीज
- टेक्नोलॉजी
- पाठ से भाषण
- कि
- RSI
- भविष्य
- लेकिन हाल ही
- फिर
- इन
- वे
- इसका
- धमकी
- धमकी
- तीन
- यहाँ
- इस प्रकार
- पहर
- सेवा मेरे
- उपकरण
- परंपरागत
- लेनदेन
- प्रवृत्ति
- <strong>उद्देश्य</strong>
- ट्रस्ट
- रेखांकित
- असीमित
- अभूतपूर्व
- प्रयोग
- उपयोग
- का उपयोग
- संस्करण
- के माध्यम से
- शिकार
- आवाज़
- आवाज
- चेतावनी
- था
- we
- कब
- कौन कौन से
- जब
- कौन
- व्यापक
- साथ में
- अंदर
- बिना
- शब्द
- काम
- कार्य
- होगा
- जेफिरनेट