शिक्षकों को जागरूक होने के लिए AI साइबर सुरक्षा कमजोरियां

एआई शिक्षा में एक मूल्यवान उपकरण हो सकता है, लेकिन यह कुछ प्रमुख साइबर सुरक्षा कमजोरियों को भी प्रस्तुत करता है जिनके बारे में शिक्षकों को अवगत होना चाहिए। ऐसे कई तरीके हैं जिनसे हैकर एआई की कमजोरियों का फायदा उठा सकते हैं और एआई सुरक्षा प्रणालियों को बायपास कर सकते हैं। आज बढ़ रही शीर्ष AI सुरक्षा कमजोरियों पर एक नज़र डालें और वे शिक्षा को कैसे प्रभावित कर सकते हैं।

समझौता एआई प्रशिक्षण डेटा

एआई एल्गोरिदम शिक्षा में अत्यंत उपयोगी हो सकता है, लेकिन अधिकांश एआई की ब्लैक-बॉक्स प्रकृति एक गंभीर साइबर सुरक्षा भेद्यता उत्पन्न करती है। एल्गोरिदम को प्रशिक्षण डेटा के सेट का उपयोग करके प्रशिक्षित किया जाता है जो एआई को कुछ समझना या पहचानना सिखाता है। उदाहरण के लिए, एक एआई को आठवीं कक्षा के बीजगणित की समस्याओं को समझने के लिए प्रशिक्षित किया जा सकता है ताकि वह होमवर्क ग्रेड कर सके।

हालाँकि, जिस तरह से AI एल्गोरिदम जानकारी को संसाधित करता है, वह एक ब्लैक बॉक्स में छिपा होता है, जिसका अर्थ है कि गड़बड़ियाँ और पक्षपात किसी का ध्यान नहीं जा सकता है। एक एआई अनजाने में कुछ गलत तरीके से सीख सकता है या प्रशिक्षण डेटा से गलत संबंध बना सकता है। एआई की ब्लैक-बॉक्स प्रकृति का मतलब यह भी है कि ज़हरीले प्रशिक्षण डेटा पर किसी का ध्यान नहीं जा सकता है।

हैकर्स ए . को शामिल करने के लिए प्रशिक्षण डेटा को खराब कर सकते हैं AI's . में छुपा हुआ पिछला दरवाजा तर्क। जब हैकर उस सिस्टम तक पहुंच चाहता है जहां एआई का उपयोग किया जाएगा, तो वे बस पिछले दरवाजे की कुंजी इनपुट कर सकते हैं और एआई इसे प्रशिक्षण डेटा से पहचान लेगा। इस तरह के पिछले दरवाजे का पता लगाना बेहद मुश्किल हो सकता है क्योंकि डेवलपर्स और उपयोगकर्ता एआई के ब्लैक बॉक्स में चल रहे सभी कनेक्शन नहीं देख सकते हैं।

"जिस तरह से एआई एल्गोरिदम जानकारी को संसाधित करता है वह एक ब्लैक बॉक्स में छिपा होता है, जिसका अर्थ है कि गड़बड़ियाँ और पूर्वाग्रह किसी का ध्यान नहीं जा सकते हैं।" 

हैकर अपना रहे हैं

एआई प्रशिक्षण डेटा में एक पिछले दरवाजे का निर्माण एक जटिल और समय लेने वाली प्रक्रिया है और कुछ ऐसा जो मुख्य रूप से केवल अत्यधिक कुशल हैकर ही करने में सक्षम होगा। दुर्भाग्य से, हैकर्स एआई की खतरे-शिकार क्षमताओं को दरकिनार करने के लिए अपनी हमले की रणनीतियों को अपना रहे हैं। वास्तव में, हैकर्स अपने स्वयं के एआई एल्गोरिदम भी बना रहे हैं जो अन्य एल्गोरिदम को मात दे सकते हैं।

उदाहरण के लिए, हैकर्स ने AI विकसित किया है जो कर सकता है पासवर्ड को स्वचालित रूप से क्रैक करें एक्सेस मैनेजमेंट सिस्टम को बायपास करने के लिए। इससे भी बदतर, हैकर्स एआई का उपयोग अपने रैंसमवेयर और मैलवेयर को पिछले एआई-संचालित सुरक्षा प्रोटोकॉल प्राप्त करने के लिए पर्याप्त स्मार्ट बनाने के लिए कर रहे हैं।

यह शिक्षा के लिए एक गंभीर खतरा है क्योंकि स्कूलों को छात्रों और परिवारों पर बड़ी मात्रा में व्यक्तिगत जानकारी एकत्र करने की आवश्यकता होती है। स्कूलों का डेटा हैकर्स के लिए एक अत्यधिक आकर्षक लक्ष्य है, जो जानते हैं कि उस डेटा से समझौता करने से घबराहट होगी, संभावित रूप से पीड़ितों से बड़े रैंसमवेयर भुगतान की ओर अग्रसर होगा।

जोखिम में एआई सुरक्षा प्रणालियों के साथ, शिक्षकों को इस बात की चिंता हो सकती है कि वे अपने छात्रों की रक्षा के लिए क्या कर सकते हैं। समाधान हैं, यद्यपि। उदाहरण के लिए, क्लाउड-आधारित AI सिस्टम पारंपरिक डेटा केंद्रों की तुलना में अधिक सुरक्षित हो सकते हैं। साथ ही, क्लाउड-इंटेलिजेंट डेटा सुरक्षा प्रणालियां, जो निर्मित हैं विशेष रूप से क्लाउड-नेटिव सिस्टम के लिए, AI साइबर हमले की स्थिति में स्कूलों के डेटा के लिए सुरक्षा का एक अतिरिक्त स्तर प्रदान कर सकता है।

डीपफेक और दोषपूर्ण छवि पहचान

पिछले दरवाजे के अलावा, हैकर्स एआई एल्गोरिदम में अनजाने में हुई गड़बड़ियों का भी फायदा उठा सकते हैं। उदाहरण के लिए, एक हैकर किसी छवि को गलत तरीके से पहचानने के लिए एआई को धोखा देने के लिए तस्वीरों के साथ छेड़छाड़ कर सकता है।

डीपफेक तकनीक का इस्तेमाल वीडियो, फोटो या ऑडियो फाइलों को छिपाने के लिए भी किया जा सकता है जैसे वे नहीं हैं। उदाहरण के लिए, इसका उपयोग शिक्षक या व्यवस्थापक का कपटपूर्ण वीडियो बनाने के लिए किया जा सकता है। डीपफेक हैकर्स को ऐसे सिस्टम में प्रवेश करने की अनुमति दे सकता है जो एक्सेस कंट्रोल के लिए ऑडियो या इमेज रिकग्निशन पर भरोसा करते हैं।

अत्यधिक यथार्थवादी डीपफेक बनाने के लिए हैकर्स स्वयं AI का लाभ उठा सकते हैं जो तब हमले का तरीका बन जाते हैं। उदाहरण के लिए, 2021 की धोखाधड़ी योजना इस्तेमाल किया एआई डीपफेक हांगकांग के एक बैंक से 35 मिलियन डॉलर की चोरी करने के लिए।

माता-पिता, शिक्षकों या प्रशासकों की आवाज के डीपफेक बनाने के लिए हैकर्स एआई को इसी तरह से हथियार बना सकते हैं। वे किसी को फोन पर कॉल करके और आवाज आधारित डीपफेक के साथ छल करके हमला शुरू करते हैं। इसका उपयोग स्कूलों, छात्रों, शिक्षकों और परिवारों से पैसे या व्यक्तिगत जानकारी चुराने के लिए किया जा सकता है।

"स्कूलों का डेटा हैकर्स के लिए एक अत्यधिक आकर्षक लक्ष्य है, जो जानते हैं कि उस डेटा से समझौता करने से घबराहट होगी, संभावित रूप से पीड़ितों से उच्च रैंसमवेयर भुगतान हो सकता है।" 

परीक्षण और शिक्षण के लिए एआई पर निर्भरता

एआई शिक्षा के विभिन्न पहलुओं को स्वचालित करने के लिए बहुत अच्छा है और यहां तक ​​कि छात्रों की शिक्षा की गुणवत्ता में भी सुधार कर सकता है। उदाहरण के लिए, लोकप्रिय भाषा शिक्षण वेबसाइट डुओलिंगो मशीन लर्निंग एआई का उपयोग करता है छात्रों को अपनी गति से सीखने में मदद करने के लिए। कई अन्य स्कूल और शैक्षिक संसाधन आज इसी तरह की तकनीक का उपयोग कर रहे हैं। इसे के रूप में जाना जाता है अनुकूली एआई सीखना, और यह टेस्ट ग्रेडिंग जैसे आवश्यक कार्यों में भी मदद करता है।

दुर्भाग्य से, एआई पर यह निर्भरता एक साइबर सुरक्षा भेद्यता है। हैकर्स उन प्रणालियों को लक्षित करते हैं जो प्रमुख प्रणालियों के संचालन के लिए महत्वपूर्ण हैं। इसलिए, यदि शिक्षक सफलतापूर्वक कोर्सवर्क पूरा करने के लिए छात्रों के लिए कुछ एआई ट्यूटरिंग टूल पर भरोसा कर रहे हैं, तो एआई पर निर्भरता का फायदा एक हैकर उठा सकता है। वे महत्वपूर्ण शिक्षा एआई एल्गोरिदम पर रैंसमवेयर हमला शुरू कर सकते हैं या संभवतः एआई में ही हेरफेर भी कर सकते हैं।

यह विशेष भेद्यता ऊपर वर्णित कई खतरों का एक संयोजन है। हैकर्स एआई में एक पिछले दरवाजे का निर्माण कर सकते हैं जो उन्हें एल्गोरिथम के साथ छेड़छाड़ करने की अनुमति देता है ताकि यह गलत तरीके से ग्रेड कर सके या छात्रों को गलत जानकारी सिखा सके।

"यदि शिक्षक छात्रों को सफलतापूर्वक कोर्सवर्क पूरा करने के लिए कुछ एआई ट्यूटरिंग टूल्स पर भरोसा कर रहे हैं, तो एआई पर निर्भरता का फायदा हैकर द्वारा उठाया जा सकता है।" 

शिक्षा साइबर खतरों के प्रति जागरूक रहना

इसमें कोई संदेह नहीं है कि शिक्षकों के लिए एआई एक अत्यधिक मूल्यवान उपकरण हो सकता है। हालाँकि, AI का उपयोग करने के लिए सावधानी और साइबर सुरक्षा के लिए एक सक्रिय दृष्टिकोण की आवश्यकता होती है ताकि AI कमजोरियों को हैकर्स द्वारा शोषण से बचाया जा सके।

जैसे-जैसे एआई शिक्षा और रोजमर्रा की जिंदगी में सर्वव्यापी होता जा रहा है, हैकर्स बुद्धिमान सुरक्षा प्रणालियों को विफल करने के लिए नए प्रकार के साइबर हमले विकसित कर रहे हैं। इन उभरते साइबर खतरों से अवगत रहकर, शिक्षक अपने सिस्टम और अपने छात्रों की सुरक्षा के लिए कार्रवाई कर सकते हैं।

इसके अलावा, पढ़ें 5 तरीके रोबोटिक्स आपको अधिक व्यवसाय प्राप्त करने में मदद करेंगे