AWS के साथ जेनरेटिव AI के लिए एक सुरक्षित दृष्टिकोण | अमेज़न वेब सेवाएँ

जनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) दुनिया भर के उद्योगों में ग्राहक अनुभव को बदल रहा है। ग्राहक बड़े भाषा मॉडल (एलएलएम) और अन्य फाउंडेशन मॉडल (एफएम) का उपयोग करके जेनरेटिव एआई एप्लिकेशन का निर्माण कर रहे हैं, जो ग्राहक अनुभव को बढ़ाते हैं, संचालन में बदलाव करते हैं, कर्मचारी उत्पादकता में सुधार करते हैं और नए राजस्व चैनल बनाते हैं।

एफएम और उनके आसपास निर्मित एप्लिकेशन हमारे ग्राहकों के लिए अत्यंत मूल्यवान निवेश का प्रतिनिधित्व करते हैं। मॉडल के आउटपुट को अनुकूलित करने के लिए इन्हें अक्सर व्यक्तिगत डेटा, अनुपालन डेटा, परिचालन डेटा और वित्तीय जानकारी जैसे अत्यधिक संवेदनशील व्यावसायिक डेटा के साथ उपयोग किया जाता है। जेनेरिक एआई के फायदे तलाशने वाले ग्राहकों की सबसे बड़ी चिंता यह है कि वे अपने अत्यधिक संवेदनशील डेटा और निवेश की सुरक्षा कैसे करें। क्योंकि उनका डेटा और मॉडल वेट अविश्वसनीय रूप से मूल्यवान हैं, ग्राहकों को उन्हें सुरक्षित, सुरक्षित और निजी रखने की आवश्यकता होती है, चाहे वह उनके अपने व्यवस्थापक के खातों से हो, उनके ग्राहकों से हो, उनके स्वयं के वातावरण में चल रहे सॉफ़्टवेयर में कमजोरियों से हो, या यहां तक ​​कि उनके क्लाउड सेवा प्रदाता से भी हो। पहुँच।

AWS में, हमारी सर्वोच्च प्राथमिकता हमारे ग्राहकों के कार्यभार की सुरक्षा और गोपनीयता की रक्षा करना है। हम अपने जेनेरिक एआई स्टैक की तीन परतों में सुरक्षा के बारे में सोचते हैं:

• नीचे की परत - एलएलएम और अन्य एफएम के निर्माण और प्रशिक्षण के लिए उपकरण प्रदान करता है
• मध्यम परत - आपको जेनरेटिव एआई एप्लिकेशन बनाने और स्केल करने के लिए आवश्यक टूल के साथ-साथ सभी मॉडलों तक पहुंच प्रदान करता है
• शीर्ष परत - इसमें ऐसे एप्लिकेशन शामिल हैं जो कोड लिखकर और डिबग करके, सामग्री तैयार करके, अंतर्दृष्टि प्राप्त करके और कार्रवाई करके काम को तनाव मुक्त बनाने के लिए एलएलएम और अन्य एफएम का उपयोग करते हैं।

जेनरेटिव एआई को व्यापक और परिवर्तनकारी बनाने के लिए प्रत्येक परत महत्वपूर्ण है।

उसके साथ एडब्ल्यूएस नाइट्रो सिस्टम, हमने अपने ग्राहकों की ओर से अपनी तरह का पहला नवाचार प्रदान किया। नाइट्रो सिस्टम AWS के लिए एक अद्वितीय कंप्यूटिंग रीढ़ है, जिसके मूल में सुरक्षा और प्रदर्शन है। इसके विशेष हार्डवेयर और संबंधित फ़र्मवेयर को प्रतिबंधों को लागू करने के लिए डिज़ाइन किया गया है ताकि AWS में शामिल किसी भी व्यक्ति सहित कोई भी आपके कार्यभार या आपके पर चल रहे डेटा तक नहीं पहुंच सके। अमेज़ॅन इलास्टिक कम्प्यूट क्लाउड (अमेज़ॅन EC2) उदाहरण। ग्राहकों को 2 से सभी नाइट्रो-आधारित EC2017 इंस्टेंसेस पर AWS ऑपरेटरों की इस गोपनीयता और अलगाव से लाभ हुआ है।

डिज़ाइन के अनुसार, किसी भी अमेज़ॅन कर्मचारी के लिए नाइट्रो ईसी2 इंस्टेंस तक पहुंचने की कोई व्यवस्था नहीं है जिसका उपयोग ग्राहक अपने कार्यभार को चलाने के लिए करते हैं, या ग्राहकों द्वारा मशीन लर्निंग (एमएल) एक्सेलेरेटर या जीपीयू को भेजे जाने वाले डेटा तक पहुंचने के लिए। यह सुरक्षा सभी नाइट्रो-आधारित उदाहरणों पर लागू होती है, जिसमें एमएल त्वरक जैसे उदाहरण भी शामिल हैं एडब्ल्यूएस इन्फेंटेंटिया और एडब्ल्यूएस ट्रेनियम, और P4, P5, G5, और G6 जैसे GPU के साथ उदाहरण।

नाइट्रो सिस्टम सक्षम बनाता है लोचदार कपड़ा अनुकूलक (EFA), जो क्लाउड-स्केल इलास्टिक और बड़े पैमाने पर वितरित प्रशिक्षण के लिए AWS-निर्मित AWS स्केलेबल विश्वसनीय डेटाग्राम (SRD) संचार प्रोटोकॉल का उपयोग करता है, जो एकमात्र हमेशा एन्क्रिप्टेड रिमोट डायरेक्ट मेमोरी एक्सेस (RDMA) सक्षम नेटवर्क को सक्षम करता है। ईएफए के माध्यम से सभी संचार एन्क्रिप्टेड हैं वीपीसी एन्क्रिप्शन बिना किसी निष्पादन दंड के।

नाइट्रो सिस्टम का डिज़ाइन किया गया है एनसीसी ग्रुप द्वारा मान्य, एक स्वतंत्र साइबर सुरक्षा फर्म। AWS ग्राहक कार्यभार के लिए उच्च स्तर की सुरक्षा प्रदान करता है, और हमारा मानना ​​है कि यह सुरक्षा और गोपनीयता का वह स्तर है जिसकी ग्राहकों को अपने क्लाउड प्रदाता से अपेक्षा करनी चाहिए। सुरक्षा का यह स्तर इतना महत्वपूर्ण है कि हमने इसे अपने में जोड़ा है एडब्ल्यूएस सेवा शर्तें हमारे सभी ग्राहकों को एक अतिरिक्त आश्वासन प्रदान करने के लिए।

AWS उद्योग की अग्रणी सुरक्षा क्षमताओं का उपयोग करके सुरक्षित जेनरेटिव AI वर्कलोड का नवाचार करना

पहले दिन से, AWS AI बुनियादी ढांचे और सेवाओं में आपको अपने डेटा पर नियंत्रण देने के लिए अंतर्निहित सुरक्षा और गोपनीयता सुविधाएं हैं। जैसे-जैसे ग्राहक अपने संगठनों में जेनेरिक एआई को लागू करने के लिए तेजी से आगे बढ़ते हैं, आपको यह जानना होगा कि डेटा तैयारी, प्रशिक्षण और अनुमान सहित एआई जीवनचक्र में आपका डेटा सुरक्षित रूप से संभाला जा रहा है। मॉडल भार की सुरक्षा - वे पैरामीटर जो एक मॉडल प्रशिक्षण के दौरान सीखता है जो उसकी भविष्यवाणी करने की क्षमता के लिए महत्वपूर्ण हैं - आपके डेटा की सुरक्षा और मॉडल की अखंडता बनाए रखने के लिए सर्वोपरि है।

यही कारण है कि एडब्ल्यूएस के लिए यह महत्वपूर्ण है कि वह अपने ग्राहकों की ओर से जेनरेटिव एआई स्टैक की प्रत्येक परत में सुरक्षा स्तर को बढ़ाने के लिए नवाचार करना जारी रखे। ऐसा करने के लिए, हमारा मानना ​​है कि आपके पास जेनरेटिव एआई स्टैक की प्रत्येक परत में सुरक्षा और गोपनीयता होनी चाहिए। आपको एलएलएम और अन्य एफएम को प्रशिक्षित करने के लिए बुनियादी ढांचे को सुरक्षित करने, एलएलएम और अन्य एफएम को चलाने के लिए उपकरणों के साथ सुरक्षित रूप से निर्माण करने और अंतर्निहित सुरक्षा और गोपनीयता के साथ एफएम का उपयोग करने वाले एप्लिकेशन चलाने में सक्षम होने की आवश्यकता है जिस पर आप भरोसा कर सकते हैं।

एडब्ल्यूएस में, एआई इंफ्रास्ट्रक्चर को सुरक्षित करने का तात्पर्य संवेदनशील एआई डेटा तक शून्य पहुंच है, जैसे कि एआई मॉडल वेट और उन मॉडलों के साथ संसाधित डेटा, किसी भी अनधिकृत व्यक्ति द्वारा, इंफ्रास्ट्रक्चर ऑपरेटर या ग्राहक पर। इसमें तीन प्रमुख सिद्धांत शामिल हैं:

1. इंफ्रास्ट्रक्चर ऑपरेटर से एआई डेटा का पूर्ण अलगाव - इंफ्रास्ट्रक्चर ऑपरेटर के पास ग्राहक सामग्री और एआई डेटा तक पहुंचने की क्षमता नहीं होनी चाहिए, जैसे एआई मॉडल वजन और मॉडल के साथ संसाधित डेटा।
2. ग्राहकों के लिए AI डेटा को स्वयं से अलग करने की क्षमता - बुनियादी ढांचे को मॉडल वजन और डेटा को हार्डवेयर में लोड करने की अनुमति देने के लिए एक तंत्र प्रदान करना चाहिए, जबकि ग्राहकों के अपने उपयोगकर्ताओं और सॉफ़्टवेयर से अलग और पहुंच योग्य नहीं होना चाहिए।
3. संरक्षित बुनियादी ढांचा संचार - एमएल त्वरक बुनियादी ढांचे में उपकरणों के बीच संचार को संरक्षित किया जाना चाहिए। उपकरणों के बीच सभी बाहरी रूप से पहुंच योग्य लिंक एन्क्रिप्ट किए जाने चाहिए।

नाइट्रो सिस्टम आपके AI डेटा को AWS ऑपरेटरों से अलग करके सुरक्षित AI इन्फ्रास्ट्रक्चर के पहले सिद्धांत को पूरा करता है। दूसरा सिद्धांत आपको अपने एआई डेटा तक अपने स्वयं के उपयोगकर्ताओं और सॉफ़्टवेयर की प्रशासनिक पहुंच को हटाने का एक तरीका प्रदान करता है। AWS न केवल आपको इसे प्राप्त करने का एक तरीका प्रदान करता है, बल्कि हमने एक एकीकृत समाधान के निर्माण में निवेश करके इसे सीधा और व्यावहारिक भी बनाया है एडब्ल्यूएस नाइट्रो एन्क्लेव और AWS प्रमुख प्रबंधन सेवा (एडब्ल्यूएस केएमएस)। नाइट्रो एन्क्लेव और एडब्ल्यूएस केएमएस के साथ, आप अपने संवेदनशील एआई डेटा को उन कुंजियों का उपयोग करके एन्क्रिप्ट कर सकते हैं जो आपके पास हैं और नियंत्रित हैं, उस डेटा को अपनी पसंद के स्थान पर संग्रहीत कर सकते हैं, और एन्क्रिप्टेड डेटा को अनुमान लगाने के लिए एक अलग कंप्यूट वातावरण में सुरक्षित रूप से स्थानांतरित कर सकते हैं। इस पूरी प्रक्रिया के दौरान, संवेदनशील AI डेटा एन्क्रिप्ट किया जाता है और आपके EC2 इंस्टेंस पर आपके अपने उपयोगकर्ताओं और सॉफ़्टवेयर से अलग किया जाता है, और AWS ऑपरेटर इस डेटा तक नहीं पहुंच सकते हैं। इस प्रवाह से लाभान्वित होने वाले उपयोग मामलों में रनिंग शामिल है एलएलएम अनुमान एक एन्क्लेव में. आज तक, नाइट्रो एन्क्लेव केवल सीपीयू में काम करते हैं, जिससे बड़े जेनरेटर एआई मॉडल और अधिक जटिल प्रसंस्करण की संभावना सीमित हो जाती है।

हमने तीसरे सिद्धांत को पूरा करते हुए एमएल एक्सेलेरेटर और जीपीयू के साथ प्रथम श्रेणी एकीकरण को शामिल करने के लिए इस नाइट्रो एंड-टू-एंड एन्क्रिप्टेड प्रवाह को विस्तारित करने की अपनी योजना की घोषणा की। आप अपने स्वयं के ऑपरेटरों से अलगाव प्रदान करते हुए प्रसंस्करण के लिए संवेदनशील एआई डेटा को एमएल एक्सेलेरेटर में डिक्रिप्ट और लोड करने में सक्षम होंगे और एआई डेटा को संसाधित करने के लिए उपयोग किए जाने वाले एप्लिकेशन की प्रामाणिकता को सत्यापित करेंगे। नाइट्रो सिस्टम के माध्यम से, आप क्रिप्टोग्राफ़िक रूप से अपने एप्लिकेशन को AWS KMS पर मान्य कर सकते हैं और आवश्यक जांच पास होने पर ही डेटा को डिक्रिप्ट कर सकते हैं। यह संवर्द्धन AWS को आपके डेटा के लिए एंड-टू-एंड एन्क्रिप्शन की पेशकश करने की अनुमति देता है क्योंकि यह जेनरेटिव AI वर्कलोड के माध्यम से प्रवाहित होता है।

हम आगामी AWS-डिज़ाइन में इस एंड-टू-एंड एन्क्रिप्टेड प्रवाह की पेशकश करने की योजना बना रहे हैं ट्रेनियम2 साथ ही NVIDIA के आगामी ब्लैकवेल आर्किटेक्चर पर आधारित GPU इंस्टेंसेस, जो दोनों उपकरणों के बीच सुरक्षित संचार प्रदान करते हैं, सिक्योर AI इन्फ्रास्ट्रक्चर का तीसरा सिद्धांत है। AWS और NVIDIA बाजार में एक संयुक्त समाधान लाने के लिए निकटता से सहयोग कर रहे हैं, जिसमें NVIDIA का नया NVIDIA ब्लैकवेल GPU 21 प्लेटफ़ॉर्म शामिल है, जो NVIDIA के GB200 NVL72 समाधान को नाइट्रो सिस्टम और EFA प्रौद्योगिकियों के साथ जोड़ता है ताकि सुरक्षित रूप से निर्माण और अगले तैनाती के लिए उद्योग-अग्रणी समाधान प्रदान किया जा सके। जनरेशन जनरेटिव एआई अनुप्रयोग।

जेनेरिक एआई सुरक्षा के भविष्य को आगे बढ़ाना

आज, हजारों ग्राहक परिवर्तनकारी जेनेरिक एआई अनुप्रयोगों को प्रयोग करने और उत्पादन में स्थानांतरित करने के लिए एडब्ल्यूएस का उपयोग कर रहे हैं। जेनरेटिव एआई वर्कलोड में अत्यधिक मूल्यवान और संवेदनशील डेटा होता है जिसे आपके अपने ऑपरेटरों और क्लाउड सेवा प्रदाता से सुरक्षा के स्तर की आवश्यकता होती है। AWS नाइट्रो-आधारित EC2 इंस्टेंसेस का उपयोग करने वाले ग्राहकों को 2017 से AWS ऑपरेटरों से इस स्तर की सुरक्षा और अलगाव प्राप्त हुआ है, जब हमने अपना इनोवेटिव नाइट्रो सिस्टम लॉन्च किया था।

AWS में, हम उस नवाचार को जारी रख रहे हैं क्योंकि हम अपने ग्राहकों के लिए जेनरेटिव AI स्टैक की तीन परतों में अपने जेनरेटिव AI वर्कलोड को सुरक्षित करने के लिए व्यावहारिक और सुलभ क्षमताओं के निर्माण में निवेश करते हैं, ताकि आप जो करते हैं उस पर ध्यान केंद्रित कर सकें। सर्वोत्तम: जनरेटिव एआई के उपयोग को और अधिक क्षेत्रों तक बनाना और विस्तारित करना। और अधिक जानें यहाँ उत्पन्न करें.

---

लेखक के बारे में

एंथनी लिगुओरी EC2 के लिए AWS VP और प्रतिष्ठित इंजीनियर हैं

कोलम मैककार्थे एक AWS VP और EC2 के प्रतिष्ठित इंजीनियर हैं

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/