जैसे-जैसे कंपनियां अपने उत्पाद पोर्टफोलियो में आर्टिफिशियल इंटेलिजेंस (एआई) क्षमताओं को तेजी से जोड़ रही हैं, साइबर सुरक्षा विशेषज्ञ चेतावनी देते हैं कि मशीन लर्निंग (एमएल) घटक नए प्रकार के हमलों के प्रति संवेदनशील हैं और उन्हें संरक्षित करने की आवश्यकता है।
स्टार्टअप हिडनलेयर, जिसे 19 जुलाई को लॉन्च किया गया था, का उद्देश्य कंपनियों को अपने संवेदनशील मशीन-लर्निंग मॉडल और उन मॉडलों को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा की बेहतर सुरक्षा करने में मदद करना है। कंपनी ने अपने पहले उत्पादों को एमएल डिटेक्शन और रिस्पॉन्स सेगमेंट के उद्देश्य से जारी किया है, जिसका उद्देश्य हमले के खिलाफ मॉडल को मजबूत करना और साथ ही उन मॉडलों को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा की सुरक्षा करना है।
जोखिम सैद्धांतिक नहीं हैं: कंपनी के संस्थापकों ने साइलेंस में काम किया जब शोधकर्ताओं ने मालवेयर का पता लगाने के लिए कंपनी के एआई इंजन को बायपास करने के तरीके खोजे, हिडनलेयर के सीईओ क्रिस्टोफर सेस्टिटो कहते हैं।
"उन्होंने उत्पाद के माध्यम से मॉडल पर हमला किया और मॉडल के साथ पर्याप्त बातचीत की ... यह निर्धारित करने के लिए कि मॉडल सबसे कमजोर कहां था," वे कहते हैं।
सेस्टिटो को उम्मीद है कि एआई/एमएल सिस्टम के खिलाफ हमले बढ़ेंगे क्योंकि अधिक कंपनियां अपने उत्पादों में सुविधाओं को शामिल करती हैं।
"एआई और एमएल सबसे तेजी से बढ़ने वाली प्रौद्योगिकियां हैं जिन्हें हमने कभी देखा है, इसलिए हम उम्मीद करते हैं कि वे सबसे तेजी से बढ़ते हमले वैक्टर हैं जिन्हें हमने कभी भी देखा है," वे कहते हैं।
मशीन लर्निंग मॉडल में खामियां
एमएल कई कंपनियों की अगली पीढ़ी के उत्पादों के लिए जरूरी हो गया है, लेकिन व्यवसाय आमतौर पर सुरक्षा प्रभावों पर विचार किए बिना एआई-आधारित सुविधाओं को जोड़ते हैं। खतरों में मॉडल चोरी हैं, जैसे कि साइलेंस के खिलाफ किए गए शोध, और कार्यात्मक निष्कर्षण, जहां हमलावर एक मॉडल को क्वेरी कर सकते हैं और आउटपुट के आधार पर एक कार्यात्मक समतुल्य प्रणाली का निर्माण कर सकते हैं।
दो साल पहले, Microsoft, MITR और अन्य कंपनियां एडवरसैरियल मशीन लर्निंग थ्रेट मैट्रिक्स बनाया एआई-आधारित सिस्टम के खिलाफ संभावित खतरों को सूचीबद्ध करने के लिए। अब के रूप में पुनः ब्रांडेड आर्टिफिशियल इंटेलिजेंस सिस्टम्स (ATLAS) के लिए एडवर्सेरियल थ्रेट लैंडस्केप, संभावित हमलों का शब्दकोश इस बात पर प्रकाश डालता है कि नवीन प्रौद्योगिकियां नवीन हमलों को आकर्षित करेंगी।
"पारंपरिक साइबर सुरक्षा भेद्यता के विपरीत जो विशिष्ट सॉफ़्टवेयर और हार्डवेयर सिस्टम से बंधे हैं, प्रतिकूल एमएल भेद्यता अंतर्निहित एमएल एल्गोरिदम अंतर्निहित सीमाओं द्वारा सक्षम हैं," के अनुसार गिटहब पर एटलस प्रोजेक्ट पेज. "डेटा को नए तरीकों से हथियार बनाया जा सकता है, जिसके लिए हमें साइबर प्रतिकूल व्यवहार के मॉडल के विस्तार की आवश्यकता होती है, ताकि उभरते खतरे वाले वैक्टर और तेजी से विकसित होने वाली प्रतिकूल मशीन लर्निंग अटैक जीवनचक्र को प्रतिबिंबित किया जा सके।"
व्यावहारिक खतरा हिडेनलेयर के तीन संस्थापकों - सेस्टिटो, टान्नर बर्न्स और जेम्स बैलार्ड के लिए अच्छी तरह से जाना जाता है - जिन्होंने साइलेंस में एक साथ काम किया था। इसके बाद, स्काईलाइट साइबर के शोधकर्ता ज्ञात अच्छा कोड जोड़ा गया - वास्तव में, रॉकेट लीग के निष्पादन योग्य गेम से स्ट्रिंग्स की एक सूची - साइलेंस की तकनीक को मूर्ख बनाने के लिए यह विश्वास करने के लिए कि 84% मैलवेयर वास्तव में सौम्य थे।
सेस्टिटो ने कहा, "हमारे मशीन लर्निंग मॉडल पर हमारे उत्पाद के माध्यम से सीधे हमला किए जाने के बाद हमने राहत प्रयासों का नेतृत्व किया और महसूस किया कि एमएल मॉडल को अपने उत्पादों में तैनात करने वाले किसी भी संगठन के लिए यह एक बड़ी समस्या होगी।" हिडनलेयर के लॉन्च की घोषणा करने वाला एक बयान.
वास्तविक समय में विरोधियों की तलाश
हिडेनलेयर का उद्देश्य एक ऐसी प्रणाली बनाना है जो एमएल सिस्टम के संचालन की निगरानी कर सके और डेटा या गणनाओं तक पहुंच की आवश्यकता के बिना यह निर्धारित कर सके कि ज्ञात प्रतिकूल तरीकों में से किसी एक का उपयोग करके सॉफ़्टवेयर पर हमला किया जा रहा है या नहीं।
"हम मॉडलों के साथ व्यवहार संबंधी बातचीत देख रहे हैं - यह एक आईपी पता या समापन बिंदु हो सकता है," सेस्टिटो कहते हैं। "हम विश्लेषण कर रहे हैं कि क्या मॉडल का उपयोग किया जा रहा है क्योंकि इसका उपयोग करने का इरादा है या यदि इनपुट और आउटपुट का लाभ उठाया जा रहा है या क्या अनुरोधकर्ता बहुत उच्च एन्ट्रापी निर्णय ले रहा है।"
वे कहते हैं कि वास्तविक समय में व्यवहार विश्लेषण करने की क्षमता कंपनी के एमएल पहचान और प्रतिक्रिया को अन्य दृष्टिकोणों से अलग करती है। इसके अलावा, तकनीक को विशिष्ट मॉडल या प्रशिक्षण डेटा तक पहुंच की आवश्यकता नहीं होती है, जो बौद्धिक संपदा को और अधिक इन्सुलेट करती है, हिडनलेयर कहते हैं।
सेस्टिटो कहते हैं, दृष्टिकोण का यह भी अर्थ है कि सुरक्षा एजेंट से ओवरहेड 1 या 2 मिलीसेकंड के क्रम में छोटा है।
"हम कच्चे डेटा के सदिश होने के बाद इनपुट देख रहे हैं, इसलिए बहुत कम प्रदर्शन प्रभावित हुआ है," वे कहते हैं।
