सुरक्षा को अब एआई डेवलपर्स को सशक्त बनाना होगा

इसमें कोई संदेह नहीं है कि GenAI व्यवसाय करने के तरीके को बदलने जा रहा है। अनुसंधान कंपनियाँ भारी उत्पादकता लाभ का अनुमान लगा रही हैं सभी क्षेत्रों में, जो यदि पूरा हो गया तो प्रत्येक उद्योग को पूरी तरह से बदल देगा। इतने बड़े संभावित लाभ के साथ, यह स्पष्ट है कि प्रत्येक उद्यम अपनी टीमों को जितनी जल्दी हो सके एआई-संचालित एप्लिकेशन बनाने में सक्षम बनाने का प्रयास कर रहा है। हालाँकि, सुरक्षा टीमों को यह सुनिश्चित करने के लिए अभी कार्रवाई करनी चाहिए कि ये ऐप्स जांच के दायरे में रहेंगे।

एआई बिजनेस वैल्यू को सबसे पहले हासिल करने की दौड़

कुछ उद्यमों ने अब तक सैकड़ों एआई-संचालित ऐप पहले ही बना लिए हैं। जैसे उल्लेखनीय उदाहरणों के साथ विकास की दर अविश्वसनीय है माइक्रोसॉफ्ट कोपायलट एप्लिकेशन जारी कर रहा है एक विशाल उद्यम आमतौर पर जो प्रदान करता है उससे कहीं अधिक दर पर।

चारों ओर ढाँचे और टूलींग की अपरिपक्वता के कारण एआई ऐप विकासइन्हें कई प्रकार की प्रौद्योगिकियों के साथ बनाया जा रहा है। कुछ मूलभूत मॉडलों के शीर्ष पर निर्मित विकास ढाँचे असंख्य हैं और महत्वपूर्ण रूप से भिन्न हैं, और वे सामने आते रहते हैं। ढाँचे जैसे लैंगचैन और ऑटोजीपीटी अभूतपूर्व गति से महत्वपूर्ण लोकप्रियता हासिल की है। एक प्रमुख उद्यम में, आप आसानी से इन अनुप्रयोगों को बनाने के लिए उपयोग किए जा रहे दसियों अलग-अलग ढांचे को खोजने की उम्मीद कर सकते हैं।

जो पहले संगठन दूसरों से पहले एआई से उत्पादकता लाभ हासिल करने में सक्षम होंगे, उन्हें बड़ी जीत मिलेगी। इसलिए, हम एक ऐसी दौड़ में भाग ले रहे हैं जहां हमें अभी उपलब्ध रूपरेखाओं के साथ काम करना है और काम पूरा करना है। फ्रेमवर्क को मानकीकृत करने में शायद काफी समय लगेगा, और उस समय तक आपको गेम के लिए देर हो चुकी होगी।

हमें वास्तविकता का सामना करना होगा: व्यवसाय की फिर से कल्पना की जा रही है - अप्रमाणित उपकरणों, रूपरेखाओं और खतरे के मॉडल के साथ - एक अभूतपूर्व गति से।

सुरक्षा: हम कहाँ से शुरू करें?

इतने कम समय में इतने सारे नए एप्लिकेशन बनाने से सुरक्षा पर बहुत बड़ा प्रभाव पड़ता है। सबसे पहले, ये केवल अधिक एप्लिकेशन हैं, जिनमें किसी भी अन्य एप्लिकेशन की तरह ही सुरक्षा जोखिम हैं; कुछ चिंताओं के नाम बताने के लिए उन्हें सही पहचान, डेटा प्रवाह और गुप्त प्रबंधन प्राप्त करने की आवश्यकता है। दूसरा, GenAI कुछ अनोखी सुरक्षा चुनौतियाँ पैदा करता है, जो कि फ्रेमवर्क की तरह हैं ओडब्ल्यूएएसपी एलएलएम टॉप 10 पकड़ने और शिक्षित करने में मदद करें।

उन्नत सुरक्षा संगठन, आईटी के सहयोग से, इन अनुप्रयोगों की सूची, मूल्यांकन और सुरक्षा के लिए समर्पित केंद्र बना रहे हैं। ध्यान दें कि इनके लिए पूरी तरह से नई प्रक्रियाएँ और नई सौंपी गई जिम्मेदारियाँ बनाने की आवश्यकता है। आदर्श रूप से, ये केंद्र डेवलपर्स के लिए एक सक्षम संसाधन के रूप में कार्य कर सकते हैं, जो सुरक्षित मानकों को पूरा करने के लिए खतरा मॉडलिंग और डिजाइन समीक्षा सेवाएं प्रदान करते हैं।

इस तरह का केंद्रीकृत संसाधन बनाना कोई आसान उपलब्धि नहीं है। किसी उद्यम में सभी एआई-संचालित परियोजनाओं को ढूंढना एक बड़ी चुनौती है इन्वेंट्री हमेशा होती है. इन अनुप्रयोगों के ऑडिट के लिए आवश्यक तकनीकी कौशल विकसित करना भी मुश्किल है - विशेष रूप से विभिन्न एआई ढांचे के प्रसार के कारण, प्रत्येक की अपनी विशिष्टताएं और गड़बड़ियां हैं। उत्पादन में इन ऐप्स की निगरानी करना एक और चुनौती है, अपरिपक्व विकास ढांचे से सही डेटा प्राप्त करने के तकनीकी दृष्टिकोण से और क्या देखना है यह जानने के सुरक्षा विश्लेषण परिप्रेक्ष्य से।

हालाँकि, ये दुर्गम चुनौतियाँ नहीं हैं। वास्तव में, वे इन्वेंट्री, सुरक्षा मूल्यांकन और रनटाइम सुरक्षा के विशिष्ट एप्लिकेशन सुरक्षा समस्या सूत्र का पालन करते हैं। आगे बढ़ने और अपने व्यवसाय को एआई क्रांति पर कब्जा करने में सक्षम बनाने के लिए, हमें उन समस्याओं को हल करने की दिशा में आगे बढ़ना शुरू करना होगा।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://www.darkreading.com/edge/security-must-empower-ai-developers-now