अपने साइबर सुरक्षा कार्यक्रमों में एआई को सुरक्षित रूप से कैसे व्यवस्थित करें

अपने साइबर सुरक्षा कार्यक्रमों में एआई को सुरक्षित रूप से कैसे व्यवस्थित करें

समय टिकट: 7 जुलाई, 2023 5:38 अपराह्न
अपने साइबर सुरक्षा कार्यक्रमों में एआई को सुरक्षित रूप से कैसे व्यवस्थित करें प्लेटोब्लॉकचेन डेटा इंटेलिजेंस। लंबवत खोज. ऐ.

जून के अंत में, साइबर सुरक्षा फर्म ग्रुप-आईबी ने एक उल्लेखनीय खुलासा किया सुरक्षा उल्लंघन जिसने चैटजीपीटी खातों को प्रभावित किया. कंपनी ने आश्चर्यजनक रूप से 100,000 समझौता किए गए उपकरणों की पहचान की, जिनमें से प्रत्येक में चैटजीपीटी क्रेडेंशियल थे, जिनका बाद में पिछले वर्ष के दौरान अवैध डार्क वेब मार्केटप्लेस पर कारोबार किया गया था। इस उल्लंघन ने चैटजीपीटी खातों की समझौता सुरक्षा को संबोधित करने के लिए तत्काल ध्यान देने की मांग की, क्योंकि संवेदनशील जानकारी वाली खोज क्वेरी हैकर्स के संपर्क में आ जाती हैं।

एक अन्य घटना में, एक महीने से भी कम समय के भीतर, सैमसंग को तीन प्रलेखित उदाहरणों का सामना करना पड़ा जिसमें कर्मचारियों ने अनजाने में ChatGPT के माध्यम से संवेदनशील जानकारी लीक हुई. चूँकि ChatGPT अपने स्वयं के प्रदर्शन को बेहतर बनाने के लिए उपयोगकर्ता इनपुट डेटा को बरकरार रखता है, सैमसंग से संबंधित ये मूल्यवान व्यापार रहस्य अब AI सेवा के पीछे की कंपनी OpenAI के कब्जे में हैं। यह सैमसंग की स्वामित्व जानकारी की गोपनीयता और सुरक्षा के संबंध में महत्वपूर्ण चिंताएँ पैदा करता है।

ईयू के जनरल डेटा प्रोटेक्शन रेगुलेशन (जीडीपीआर) के साथ चैटजीपीटी के अनुपालन के बारे में ऐसी चिंताओं के कारण, जो डेटा संग्रह और उपयोग के लिए सख्त दिशानिर्देशों को अनिवार्य करता है, इटली ने देशव्यापी प्रतिबंध लगा दिया है चैटजीपीटी के उपयोग पर।

एआई और जेनरेटिव एआई अनुप्रयोगों में तेजी से प्रगति ने बिजनेस इंटेलिजेंस, उत्पादों और संचालन में वृद्धि में तेजी लाने के नए अवसर खोले हैं। लेकिन साइबर सुरक्षा कार्यक्रम मालिकों को कानूनों के विकसित होने की प्रतीक्षा करते समय डेटा गोपनीयता सुनिश्चित करने की आवश्यकता है।

सार्वजनिक इंजन बनाम निजी इंजन

अवधारणाओं को बेहतर ढंग से समझने के लिए, आइए सार्वजनिक एआई और निजी एआई को परिभाषित करके शुरुआत करें। सार्वजनिक एआई सार्वजनिक रूप से सुलभ एआई सॉफ़्टवेयर अनुप्रयोगों को संदर्भित करता है जिन्हें डेटासेट पर प्रशिक्षित किया गया है, जो अक्सर उपयोगकर्ताओं या ग्राहकों से प्राप्त होते हैं। सार्वजनिक एआई का एक प्रमुख उदाहरण चैटजीपीटी है, जो इंटरनेट से सार्वजनिक रूप से उपलब्ध डेटा का लाभ उठाता है, जिसमें टेक्स्ट लेख, चित्र और वीडियो शामिल हैं।

सार्वजनिक एआई में ऐसे एल्गोरिदम भी शामिल हो सकते हैं जो किसी विशिष्ट उपयोगकर्ता या संगठन के लिए नहीं बल्कि डेटासेट का उपयोग करते हैं। नतीजतन, सार्वजनिक एआई के ग्राहकों को पता होना चाहिए कि उनका डेटा पूरी तरह से निजी नहीं रह सकता है।

दूसरी ओर, निजी एआई में डेटा पर प्रशिक्षण एल्गोरिदम शामिल होता है जो किसी विशेष उपयोगकर्ता या संगठन के लिए अद्वितीय होता है। इस मामले में, यदि आप किसी विशिष्ट डेटासेट, जैसे चालान या कर फ़ॉर्म का उपयोग करके किसी मॉडल को प्रशिक्षित करने के लिए मशीन लर्निंग सिस्टम का उपयोग करते हैं, तो वह मॉडल आपके संगठन के लिए विशिष्ट रहता है। प्लेटफ़ॉर्म विक्रेता आपके डेटा का उपयोग अपने स्वयं के मॉडल को प्रशिक्षित करने के लिए नहीं करते हैं, इसलिए निजी AI आपके प्रतिस्पर्धियों की सहायता के लिए आपके डेटा के किसी भी उपयोग को रोकता है।

प्रशिक्षण कार्यक्रमों और नीतियों में एआई को एकीकृत करें

सर्वोत्तम प्रथाओं का पालन करते हुए एआई अनुप्रयोगों को अपने उत्पादों और सेवाओं में प्रयोग करने, विकसित करने और एकीकृत करने के लिए, साइबर सुरक्षा कर्मचारियों को निम्नलिखित नीतियों को व्यवहार में लाना चाहिए।

उपयोगकर्ता जागरूकता और शिक्षा: उपयोगकर्ताओं को एआई के उपयोग से जुड़े जोखिमों के बारे में शिक्षित करें और उन्हें संवेदनशील जानकारी प्रसारित करते समय सतर्क रहने के लिए प्रोत्साहित करें। सुरक्षित संचार प्रथाओं को बढ़ावा देना और उपयोगकर्ताओं को एआई प्रणाली की प्रामाणिकता को सत्यापित करने की सलाह देना।

  • डेटा न्यूनतमकरण: कार्य को पूरा करने के लिए AI इंजन को केवल आवश्यक न्यूनतम मात्रा में डेटा प्रदान करें। अनावश्यक या संवेदनशील जानकारी साझा करने से बचें जो एआई प्रसंस्करण के लिए प्रासंगिक नहीं है।
  • गुमनामीकरण और पहचान विमुक्ति: जब भी संभव हो, एआई इंजन में इनपुट करने से पहले डेटा को अज्ञात या डी-आइडेंटिफ़ाई करें। इसमें व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई) या किसी अन्य संवेदनशील विशेषताओं को हटाना शामिल है जो एआई प्रसंस्करण के लिए आवश्यक नहीं हैं।

सुरक्षित डेटा प्रबंधन प्रथाएँ: अपने संवेदनशील डेटा को संभालने के लिए सख्त नीतियां और प्रक्रियाएं स्थापित करें। केवल अधिकृत कर्मियों तक पहुंच सीमित करें और अनधिकृत पहुंच को रोकने के लिए मजबूत प्रमाणीकरण तंत्र लागू करें। डेटा गोपनीयता की सर्वोत्तम प्रथाओं पर कर्मचारियों को प्रशिक्षित करें और डेटा पहुंच और उपयोग को ट्रैक करने के लिए लॉगिंग और ऑडिटिंग तंत्र लागू करें।

प्रतिधारण और निपटान: डेटा प्रतिधारण नीतियों को परिभाषित करें और आवश्यकता न रहने पर डेटा का सुरक्षित रूप से निपटान करें। उचित कार्यान्वयन करें डेटा निपटान तंत्र, जैसे कि सुरक्षित विलोपन या क्रिप्टोग्राफ़िक मिटाना, यह सुनिश्चित करने के लिए कि डेटा की आवश्यकता नहीं होने के बाद उसे पुनर्प्राप्त नहीं किया जा सकता है।

कानूनी और अनुपालन संबंधी विचार: आप एआई इंजन में जो डेटा इनपुट कर रहे हैं उसके कानूनी प्रभाव को समझें। सुनिश्चित करें कि जिस तरह से उपयोगकर्ता एआई का उपयोग करते हैं वह प्रासंगिक नियमों का अनुपालन करता है, जैसे डेटा सुरक्षा कानून या उद्योग-विशिष्ट मानक।

विक्रेता मूल्यांकन: यदि आप किसी तृतीय-पक्ष विक्रेता द्वारा प्रदान किए गए AI इंजन का उपयोग कर रहे हैं, तो उनके सुरक्षा उपायों का गहन मूल्यांकन करें। सुनिश्चित करें कि विक्रेता डेटा सुरक्षा और गोपनीयता के लिए उद्योग की सर्वोत्तम प्रथाओं का पालन करता है, और आपके डेटा की सुरक्षा के लिए उनके पास उचित सुरक्षा उपाय हैं। उदाहरण के लिए, आईएसओ और एसओसी सत्यापन, किसी विक्रेता के मान्यता प्राप्त मानकों के पालन और सूचना सुरक्षा के प्रति उनकी प्रतिबद्धता की मूल्यवान तृतीय-पक्ष मान्यता प्रदान करते हैं।

एआई स्वीकार्य उपयोग नीति (एयूपी) को औपचारिक बनाएं: एआई स्वीकार्य उपयोग नीति को एआई प्रौद्योगिकियों के जिम्मेदार और नैतिक उपयोग पर जोर देते हुए नीति के उद्देश्य और उद्देश्यों को रेखांकित करना चाहिए। इसे एआई उपयोग के दायरे और सीमाओं को निर्दिष्ट करते हुए स्वीकार्य उपयोग के मामलों को परिभाषित करना चाहिए। एयूपी को संगठन के भीतर नैतिक एआई प्रथाओं की संस्कृति को बढ़ावा देते हुए एआई के उपयोग में पारदर्शिता, जवाबदेही और जिम्मेदार निर्णय लेने को प्रोत्साहित करना चाहिए। नियमित समीक्षा और अपडेट विकसित एआई प्रौद्योगिकियों और नैतिकता के लिए नीति की प्रासंगिकता सुनिश्चित करते हैं।

निष्कर्ष

इन दिशानिर्देशों का पालन करके, प्रोग्राम मालिक संवेदनशील जानकारी की सुरक्षा और नैतिक और पेशेवर मानकों को बनाए रखते हुए एआई टूल का प्रभावी ढंग से लाभ उठा सकते हैं। सटीकता के लिए एआई-जनरेटेड सामग्री की समीक्षा करना महत्वपूर्ण है, साथ ही प्रतिक्रिया संकेतों को उत्पन्न करने वाले इनपुट डेटा की सुरक्षा भी करना महत्वपूर्ण है।

समय टिकट:

से अधिक डार्क रीडिंग