वास्तविक उपयोग के मामलों के माध्यम से किनारे पर मशीन सीखने को नष्ट करना

Edge एक शब्द है जो किसी स्थान को संदर्भित करता है, क्लाउड या एक बड़े डेटा केंद्र से दूर, जहां आपके पास एक कंप्यूटर डिवाइस (एज डिवाइस) है जो (एज) एप्लिकेशन चलाने में सक्षम है। एज कंप्यूटिंग इन एज डिवाइस पर वर्कलोड चलाने की क्रिया है। एज पर मशीन लर्निंग (एमएल@एज) एक अवधारणा है जो स्थानीय स्तर पर एमएल मॉडल को एज डिवाइस पर चलाने की क्षमता लाती है। इन एमएल मॉडल को एज एप्लिकेशन द्वारा लागू किया जा सकता है। ML@Edge कई परिदृश्यों के लिए महत्वपूर्ण है जहां कच्चे डेटा को क्लाउड से दूर के स्रोतों से एकत्र किया जाता है। इन परिदृश्यों में विशिष्ट आवश्यकताएं या प्रतिबंध भी हो सकते हैं:

• कम-विलंबता, रीयल-टाइम पूर्वानुमान
• क्लाउड से खराब या गैर-मौजूदा कनेक्टिविटी
• कानूनी प्रतिबंध जो बाहरी सेवाओं को डेटा भेजने की अनुमति नहीं देते
• बड़े डेटासेट जिन्हें क्लाउड पर प्रतिक्रिया भेजने से पहले स्थानीय रूप से पूर्व-संसाधित करने की आवश्यकता होती है

निम्नलिखित कई उपयोग के मामले हैं जो भविष्यवाणी के लिए उपयोग किए गए डेटा को उत्पन्न करने वाले उपकरणों के करीब चलने वाले एमएल मॉडल से लाभ उठा सकते हैं:

• सुरक्षा और संरक्षा - एक प्रतिबंधित क्षेत्र जहां एक स्वचालित बंदरगाह में भारी मशीनें संचालित होती हैं, कैमरे द्वारा निगरानी की जाती है। यदि कोई व्यक्ति गलती से इस क्षेत्र में प्रवेश करता है, तो मशीनों को रोकने और मानव की सुरक्षा के लिए एक सुरक्षा तंत्र सक्रिय होता है।
• भविष्य कहनेवाला रखरखाव - कंपन और ऑडियो सेंसर पवन टरबाइन के गियरबॉक्स से डेटा एकत्र करते हैं। एक विसंगति का पता लगाने वाला मॉडल सेंसर डेटा को संसाधित करता है और उपकरण के साथ विसंगतियों की पहचान करता है। यदि एक विसंगति का पता चला है, तो उपकरण को नुकसान पहुंचाने से बचने के लिए एज डिवाइस वास्तविक समय में एक आकस्मिक माप शुरू कर सकता है, जैसे ब्रेक लगाना या जनरेटर को ग्रिड से डिस्कनेक्ट करना।
• उत्पादन लाइनों में दोष का पता लगाना - एक कैमरा कन्वेयर बेल्ट पर उत्पादों की छवियों को कैप्चर करता है और एक छवि वर्गीकरण मॉडल के साथ फ़्रेम को संसाधित करता है। यदि कोई दोष पाया जाता है, तो उत्पाद को मैन्युअल हस्तक्षेप के बिना स्वचालित रूप से त्याग दिया जा सकता है।

हालांकि ML@Edge कई उपयोग के मामलों को संबोधित कर सकता है, लेकिन जटिल वास्तुशिल्प चुनौतियां हैं जिन्हें एक सुरक्षित, मजबूत और विश्वसनीय डिज़ाइन के लिए हल करने की आवश्यकता है। इस पोस्ट में, आप ML@Edge, संबंधित विषयों के बारे में कुछ विवरण सीखते हैं, और इन चुनौतियों को दूर करने के लिए AWS सेवाओं का उपयोग कैसे करें और अपने ML के लिए एज वर्कलोड पर एक संपूर्ण समाधान लागू करें।

एमएल@एज सिंहावलोकन

जब ML@Edge और इंटरनेट ऑफ़ थिंग्स (IoT) की बात आती है, तो एक आम भ्रम होता है, इसलिए यह स्पष्ट करना महत्वपूर्ण है कि ML@Edge IoT से कैसे भिन्न है और कैसे वे दोनों कुछ मामलों में एक शक्तिशाली समाधान प्रदान करने के लिए एक साथ आ सकते हैं।

एक एज सॉल्यूशन जो ML@Edge का उपयोग करता है, उसके दो मुख्य घटक हैं: एक एज एप्लिकेशन और एक ML मॉडल (एप्लिकेशन द्वारा लागू) एज डिवाइस पर चल रहा है। ML@Edge एक या अधिक ML मॉडल के जीवनचक्र को नियंत्रित करने के बारे में है जो कि किनारे के उपकरणों के बेड़े में तैनात हैं। एमएल मॉडल का जीवनचक्र क्लाउड साइड पर शुरू हो सकता है अमेज़न SageMaker, उदाहरण के लिए) लेकिन आम तौर पर एज डिवाइस पर मॉडल के स्टैंडअलोन परिनियोजन पर समाप्त होता है। प्रत्येक परिदृश्य अलग-अलग एमएल मॉडल जीवनचक्र की मांग करता है जिसे कई चरणों द्वारा तैयार किया जा सकता है, जैसे डेटा संग्रह; डेटा तैयारी; एज डिवाइस पर मॉडल निर्माण, संकलन और परिनियोजन; मॉडल लोड हो रहा है और चल रहा है; और जीवन चक्र को दोहराना।

ML@Edge तंत्र अनुप्रयोग जीवनचक्र के लिए ज़िम्मेदार नहीं है। उस उद्देश्य के लिए एक अलग दृष्टिकोण अपनाया जाना चाहिए। एमएल मॉडल जीवनचक्र और अनुप्रयोग जीवनचक्र को अलग करने से आपको उन्हें अलग-अलग गति से विकसित करते रहने की स्वतंत्रता और लचीलापन मिलता है। एक मोबाइल एप्लिकेशन की कल्पना करें जो एक एमएल मॉडल को एक छवि या एक्सएमएल फ़ाइल जैसे संसाधन के रूप में एम्बेड करता है। इस मामले में, हर बार जब आप एक नए मॉडल को प्रशिक्षित करते हैं और इसे मोबाइल फोन पर तैनात करना चाहते हैं, तो आपको पूरे एप्लिकेशन को फिर से तैनात करना होगा। इसमें समय और पैसा लगता है, और यह आपके आवेदन में बग पेश कर सकता है। एमएल मॉडल जीवनचक्र को अलग करके, आप एक बार मोबाइल ऐप प्रकाशित करते हैं और एमएल मॉडल के जितने चाहें उतने संस्करण तैनात करते हैं।

लेकिन IoT ML@Edge से कैसे संबंधित है? IoT सेंसर, प्रोसेसिंग क्षमता और सॉफ्टवेयर जैसी तकनीकों के साथ एम्बेडेड भौतिक वस्तुओं से संबंधित है। डेटा का आदान-प्रदान करने के लिए इन वस्तुओं को इंटरनेट या अन्य संचार नेटवर्क पर अन्य उपकरणों और प्रणालियों से जोड़ा जाता है। निम्नलिखित चित्र इस वास्तुकला को दर्शाता है। अवधारणा शुरू में तब बनाई गई थी जब साधारण उपकरणों के बारे में सोचा गया था जो सिर्फ किनारे से डेटा एकत्र करते हैं, सरल स्थानीय प्रसंस्करण करते हैं, और परिणाम को एक अधिक शक्तिशाली कंप्यूटिंग एकता में भेजते हैं जो एनालिटिक्स प्रक्रियाएं चलाती हैं जो लोगों और कंपनियों को उनके निर्णय लेने में मदद करती हैं। IoT समाधान एज एप्लिकेशन जीवनचक्र को नियंत्रित करने के लिए जिम्मेदार है। IoT के बारे में अधिक जानकारी के लिए देखें चीजों की इंटरनेट.

यदि आपके पास पहले से ही एक IoT एप्लिकेशन है, तो आप उत्पाद को अधिक कुशल बनाने के लिए ML@Edge क्षमताएं जोड़ सकते हैं, जैसा कि नीचे दिए गए चित्र में दिखाया गया है। ध्यान रखें कि ML@Edge IoT पर निर्भर नहीं करता है, लेकिन आप उन्हें एक अधिक शक्तिशाली समाधान बनाने के लिए संयोजित कर सकते हैं। जब आप ऐसा करते हैं, तो आप बाद में प्रसंस्करण के लिए क्लाउड पर डेटा भेजने की तुलना में अपने व्यवसाय के लिए वास्तविक समय की अंतर्दृष्टि उत्पन्न करने के लिए अपने सरल उपकरण की क्षमता में सुधार करते हैं।

यदि आप ML@Edge क्षमताओं के साथ शुरुआत से एक नया एज समाधान बना रहे हैं, तो एक लचीला आर्किटेक्चर डिज़ाइन करना महत्वपूर्ण है जो एप्लिकेशन और ML मॉडल जीवनचक्र दोनों का समर्थन करता है। हम इस पोस्ट में बाद में ML@Edge के साथ एज एप्लिकेशन के लिए कुछ संदर्भ आर्किटेक्चर प्रदान करते हैं। लेकिन पहले, आइए एज कंप्यूटिंग में गहराई से उतरें और पर्यावरण के प्रतिबंधों के आधार पर अपने समाधान के लिए सही एज डिवाइस का चयन करना सीखें।

एज कंप्यूटिंग

डिवाइस क्लाउड या बड़े डेटा सेंटर (बेस) से कितनी दूर है, इस पर निर्भर करते हुए, एज डिवाइस की तीन मुख्य विशेषताओं को सिस्टम के प्रदर्शन और दीर्घायु को अधिकतम करने के लिए विचार करने की आवश्यकता है: कंप्यूटिंग और भंडारण क्षमता, कनेक्टिविटी और बिजली की खपत। निम्नलिखित आरेख किनारे के उपकरणों के तीन समूहों को दिखाता है जो इन विशेषताओं के विभिन्न विनिर्देशों को जोड़ते हैं, यह इस बात पर निर्भर करता है कि वे आधार से कितनी दूर हैं।

समूह इस प्रकार हैं:

• MECs (मल्टी-एक्सेस एज कंप्यूटिंग) - MEC या छोटे डेटा केंद्र, जो कम या अल्ट्रा-लो लेटेंसी और उच्च बैंडविड्थ की विशेषता रखते हैं, सामान्य वातावरण हैं जहां ML@Edge क्लाउड वर्कलोड की तुलना में बड़े प्रतिबंधों के बिना लाभ ला सकता है। कारखानों, गोदामों, प्रयोगशालाओं आदि में 5G एंटेना और सर्वर न्यूनतम ऊर्जा बाधाओं के साथ और अच्छी इंटरनेट कनेक्टिविटी के साथ GPU और CPU, वर्चुअल मशीन, कंटेनर और बेयर-मेटल सर्वर पर ML मॉडल चलाने के विभिन्न तरीके प्रदान करते हैं।
• किनारे के पास - यह तब होता है जब गतिशीलता या डेटा एकत्रीकरण आवश्यकताएं होती हैं और उपकरणों में बिजली की खपत और प्रसंस्करण शक्ति के संबंध में कुछ बाधाएं होती हैं, लेकिन फिर भी कुछ विश्वसनीय कनेक्टिविटी होती है, हालांकि उच्च विलंबता के साथ, सीमित थ्रूपुट के साथ और "किनारे के करीब" से अधिक महंगा होता है। मोबाइल एप्लिकेशन, एमएल मॉडल में तेजी लाने के लिए विशिष्ट बोर्ड, या वायरलेस नेटवर्क द्वारा कवर किए गए एमएल मॉडल चलाने की क्षमता वाले साधारण उपकरण इस समूह में शामिल हैं।
• दूर की धार - इस चरम परिदृश्य में, किनारे के उपकरणों में बिजली की गंभीर खपत या कनेक्टिविटी की कमी होती है। नतीजतन, कई दूर के परिदृश्यों में प्रसंस्करण शक्ति भी प्रतिबंधित है। कृषि, खनन, निगरानी और सुरक्षा, और समुद्री परिवहन कुछ ऐसे क्षेत्र हैं जहां दूर के उपकरण महत्वपूर्ण भूमिका निभाते हैं। साधारण बोर्ड, आमतौर पर बिना GPU या अन्य AI त्वरक के, आम हैं। वे साधारण एमएल मॉडल को लोड करने और चलाने के लिए डिज़ाइन किए गए हैं, स्थानीय डेटाबेस में भविष्यवाणियों को सहेजते हैं, और अगले भविष्यवाणी चक्र तक सोते हैं। जिन उपकरणों को रीयल-टाइम डेटा को संसाधित करने की आवश्यकता होती है, उनमें डेटा खोने से बचने के लिए बड़े स्थानीय संग्रहण हो सकते हैं।

चुनौतियां

ML@Edge परिदृश्य होना आम बात है जहाँ आपके पास समान मॉडल और किनारे के अनुप्रयोगों को चलाने वाले सैकड़ों या हजारों (शायद लाखों) डिवाइस हैं। जब आप अपने सिस्टम को स्केल करते हैं, तो एक मजबूत समाधान होना महत्वपूर्ण है जो उन उपकरणों की संख्या को प्रबंधित कर सकता है जिन्हें आपको समर्थन देने की आवश्यकता है। यह एक जटिल कार्य है और इन परिदृश्यों के लिए, आपको कई प्रश्न पूछने होंगे:

• मैं किनारे पर उपकरणों के बेड़े पर एमएल मॉडल कैसे संचालित करूं?
• मैं एमएल मॉडल का निर्माण, अनुकूलन और कई एज डिवाइसों में कैसे तैनात करूं?
• मैं अपने मॉडल को किनारे पर तैनात और चलाते समय कैसे सुरक्षित करूं?
• मैं अपने मॉडल के प्रदर्शन की निगरानी कैसे करूं और जरूरत पड़ने पर उसे फिर से प्रशिक्षित करूं?
• मैं अपने प्रतिबंधित डिवाइस पर TensorFlow या PyTorch जैसे बड़े ढांचे को स्थापित करने की आवश्यकता को कैसे समाप्त करूं?
• मैं एक साधारण एपीआई के रूप में अपने एज एप्लिकेशन के साथ एक या एक से अधिक मॉडल का खुलासा कैसे करूं?
• मैं किनारे के उपकरणों द्वारा कैप्चर किए गए पेलोड और भविष्यवाणियों के साथ एक नया डेटासेट कैसे बना सकता हूं?
• मैं इन सभी कार्यों को स्वचालित रूप से कैसे करूँ (MLOps plus ML@Edge)?

अगले भाग में, हम उदाहरणों के उपयोग के मामलों और संदर्भ वास्तुकला के माध्यम से इन सभी प्रश्नों के उत्तर प्रदान करते हैं। हम यह भी चर्चा करते हैं कि प्रत्येक खोजे गए परिदृश्य के लिए संपूर्ण समाधान बनाने के लिए आप किन AWS सेवाओं को जोड़ सकते हैं। हालाँकि, यदि आप एक बहुत ही सरल प्रवाह के साथ शुरुआत करना चाहते हैं जो यह बताता है कि आपके ML@Edge समाधान को बनाने के लिए AWS द्वारा प्रदान की जाने वाली कुछ सेवाओं का उपयोग कैसे किया जाए, तो यह एक उदाहरण है:

सेजमेकर के साथ, आप आसानी से एक डेटासेट तैयार कर सकते हैं और एमएल मॉडल बना सकते हैं जो एज डिवाइस पर तैनात हैं। साथ अमेज़न SageMaker नियो, आप अपने द्वारा चुने गए विशिष्ट एज डिवाइस के लिए प्रशिक्षित मॉडल को संकलित और अनुकूलित कर सकते हैं। मॉडल को संकलित करने के बाद, आपको इसे चलाने के लिए केवल एक हल्का रनटाइम चाहिए (सेवा द्वारा प्रदान किया गया)। अमेज़न सेजमेकर एज मैनेजर एज उपकरणों के आपके बेड़े में तैनात सभी एमएल मॉडल के जीवनचक्र के प्रबंधन के लिए जिम्मेदार है। एज मैनेजर लाखों उपकरणों तक के बेड़े का प्रबंधन कर सकता है। एज डिवाइस में से प्रत्येक में स्थापित एक एजेंट, अनुप्रयोग के लिए एक एपीआई के रूप में तैनात एमएल मॉडल को उजागर करता है। एजेंट मेट्रिक्स, पेलोड और भविष्यवाणियों को इकट्ठा करने के लिए भी जिम्मेदार है, जिनका उपयोग आप जरूरत पड़ने पर मॉडल को फिर से प्रशिक्षित करने के लिए निगरानी या नए डेटासेट के निर्माण के लिए कर सकते हैं। अंत में, साथ अमेज़न SageMaker पाइपलाइन, आप अपने उपकरणों के बेड़े में एमएल मॉडल बनाने, अनुकूलित करने और तैनात करने के लिए आवश्यक सभी चरणों के साथ एक स्वचालित पाइपलाइन बना सकते हैं। यह स्वचालित पाइपलाइन तब मानवीय हस्तक्षेप के बिना, आपके द्वारा परिभाषित सरल घटनाओं द्वारा ट्रिगर की जा सकती है।

केस 1 का प्रयोग करें

मान लीजिए कि एक हवाई जहाज निर्माता उत्पादन हैंगर में भागों और उपकरणों का पता लगाना और उन्हें ट्रैक करना चाहता है। उत्पादकता में सुधार के लिए, उत्पादन के प्रत्येक चरण में इंजीनियरों के लिए सभी आवश्यक पुर्जे और सही उपकरण उपलब्ध होने चाहिए। हम इस तरह के सवालों के जवाब देने में सक्षम होना चाहते हैं: भाग ए कहां है? या टूल B कहाँ है? हमारे पास पहले से ही कई आईपी कैमरे स्थापित हैं और स्थानीय नेटवर्क से जुड़े हैं। कैमरे पूरे हैंगर को कवर करते हैं और नेटवर्क के माध्यम से रीयल-टाइम एचडी वीडियो स्ट्रीम कर सकते हैं।

AWS पैनोरमा इस मामले में अच्छी तरह से फिट बैठता है। एडब्ल्यूएस पैनोरमा एक एमएल उपकरण और प्रबंधित सेवा प्रदान करता है जो आपको आईपी कैमरों के अपने मौजूदा बेड़े में कंप्यूटर विज़न (सीवी) जोड़ने और स्वचालित करने में सक्षम बनाता है। एडब्ल्यूएस पैनोरमा आपको अपने मौजूदा इंटरनेट प्रोटोकॉल (आईपी) कैमरों में सीवी जोड़ने और उन कार्यों को स्वचालित करने की क्षमता देता है जिन्हें परंपरागत रूप से मानव निरीक्षण और निगरानी की आवश्यकता होती है।

निम्नलिखित संदर्भ वास्तुकला में, हम एडब्ल्यूएस पैनोरमा उपकरण पर चल रहे एप्लिकेशन के प्रमुख घटकों को दिखाते हैं। पैनोरमा एप्लिकेशन एसडीके कैमरा स्ट्रीम से वीडियो कैप्चर करना, कई एमएल मॉडल की पाइपलाइन के साथ निष्कर्ष निकालना और एक कंटेनर के अंदर चल रहे पायथन कोड का उपयोग करके परिणामों को संसाधित करना आसान बनाता है। आप किसी भी लोकप्रिय ML लाइब्रेरी जैसे TensorFlow, PyTorch, या TensorRT से मॉडल चला सकते हैं। मॉडल के परिणामों को आपके स्थानीय क्षेत्र नेटवर्क पर व्यावसायिक प्रणालियों के साथ एकीकृत किया जा सकता है, जिससे आप वास्तविक समय में घटनाओं का जवाब दे सकते हैं।

समाधान में निम्नलिखित चरण होते हैं:

1. AWS पैनोरमा डिवाइस को उसी स्थानीय नेटवर्क से कनेक्ट और कॉन्फ़िगर करें।
2. प्रत्येक फ्रेम में भागों और उपकरणों की पहचान करने के लिए एक एमएल मॉडल (ऑब्जेक्ट डिटेक्शन) को प्रशिक्षित करें।
3. एक एडब्ल्यूएस पैनोरमा एप्लिकेशन बनाएं जो एमएल मॉडल से भविष्यवाणियां प्राप्त करता है, प्रत्येक ऑब्जेक्ट पर एक ट्रैकिंग तंत्र लागू करता है, और परिणाम रीयल-टाइम डेटाबेस को भेजता है।
4. ऑपरेटर पुर्जों और उपकरणों का पता लगाने के लिए डेटाबेस को प्रश्न भेज सकते हैं।

केस 2 का प्रयोग करें

हमारे अगले उपयोग के मामले के लिए, कल्पना करें कि हम कई स्थितियों में ड्राइवर का समर्थन करने में सक्षम वाहनों के लिए एक डैशकैम बना रहे हैं, जैसे कि पैदल चलने वालों से बचना, एक के आधार पर अंबरल्ला से CV25 बोर्ड. सीमित सिस्टम संसाधनों वाले डिवाइस पर ML मॉडल को होस्ट करना मुश्किल हो सकता है। इस मामले में, मान लें कि एज डिवाइस पर आवश्यक एप्लिकेशन घटकों को तैनात करने के लिए हमारे पास पहले से ही एक अच्छी तरह से स्थापित ओवर-द-एयर (ओटीए) डिलीवरी तंत्र है। हालांकि, हम अभी भी मॉडल के ओटीए परिनियोजन करने की क्षमता से लाभान्वित होंगे, जिससे एप्लिकेशन जीवनचक्र और मॉडल जीवनचक्र को अलग किया जा सकेगा।

अमेज़न सेजमेकर एज मैनेजर और अमेज़न SageMaker नियो इस उपयोग के मामले के लिए अच्छी तरह से फिट।

एज मैनेजर एमएल एज डेवलपर्स के लिए क्लाउड या एज डिवाइस पर समान परिचित टूल का उपयोग करना आसान बनाता है। यह मॉडल को उत्पादन में लाने के लिए आवश्यक समय और प्रयास को कम करता है, जबकि आपको अपने डिवाइस बेड़े में मॉडल की गुणवत्ता की निरंतर निगरानी और सुधार करने की अनुमति देता है। सेजमेकर एज में एक ओटीए परिनियोजन तंत्र शामिल है जो आपको एप्लिकेशन या डिवाइस फर्मवेयर से स्वतंत्र बेड़े पर मॉडल तैनात करने में मदद करता है। एज मैनेजर एजेंट आपको एक ही डिवाइस पर कई मॉडल चलाने की अनुमति देता है। एजेंट आपके द्वारा नियंत्रित किए जाने वाले तर्क के आधार पर पूर्वानुमान डेटा एकत्र करता है, जैसे अंतराल, और इसे क्लाउड पर अपलोड करता है ताकि आप समय के साथ अपने मॉडल को समय-समय पर पुन: प्रशिक्षित कर सकें। सेजमेकर एज क्रिप्टोग्राफिक रूप से आपके मॉडल पर हस्ताक्षर करता है ताकि आप यह सत्यापित कर सकें कि क्लाउड से एज डिवाइस पर जाने के दौरान इसमें छेड़छाड़ नहीं की गई थी।

नियो एक सेवा के रूप में एक कंपाइलर है और इस उपयोग के मामले में विशेष रूप से अच्छा फिट है। नियो स्वचालित रूप से एमएल मॉडल को क्लाउड इंस्टेंस और एज डिवाइस पर अनुमान लगाने के लिए अनुकूलित करता है ताकि सटीकता में कोई नुकसान न हो। आप इनमें से किसी एक के साथ निर्मित एमएल मॉडल से शुरू करते हैं समर्थित ढांचे और सेजमेकर या कहीं और में प्रशिक्षित। फिर आप अपना लक्षित हार्डवेयर प्लेटफॉर्म चुनते हैं, (इसकी सूची देखें) समर्थित उपकरण) एक क्लिक के साथ, नियो प्रशिक्षित मॉडल का अनुकूलन करता है और इसे एक पैकेज में संकलित करता है जिसे हल्के सेजमेकर एज रनटाइम का उपयोग करके चलाया जा सकता है। कंपाइलर एक एमएल मॉडल का उपयोग प्रदर्शन अनुकूलन को लागू करने के लिए करता है जो क्लाउड इंस्टेंस या एज डिवाइस पर आपके मॉडल के लिए सर्वोत्तम उपलब्ध प्रदर्शन को निकालता है। फिर आप मॉडल को सेजमेकर एंडपॉइंट के रूप में या समर्थित एज डिवाइस पर तैनात करते हैं और भविष्यवाणियां करना शुरू करते हैं।

निम्नलिखित चित्र इस वास्तुकला को दर्शाता है।

समाधान वर्कफ़्लो में निम्न चरण होते हैं:

1. डेवलपर अंतिम मॉडल आर्टिफैक्ट बनाता है, प्रशिक्षित करता है, मान्य करता है और बनाता है जिसे डैशकैम पर तैनात करने की आवश्यकता होती है।
2. प्रशिक्षित मॉडल को संकलित करने के लिए नियो को आमंत्रित करें।
3. सेजमेकर एज एजेंट एज डिवाइस पर स्थापित और कॉन्फ़िगर किया गया है, इस मामले में डैशकैम।
4. एक हस्ताक्षरित मॉडल के साथ एक परिनियोजन पैकेज बनाएं और अनुकूलित मॉडल को लोड करने और लागू करने के लिए सेजमेकर एज एजेंट द्वारा उपयोग किए जाने वाले रनटाइम।
5. मौजूदा ओटीए परिनियोजन तंत्र का उपयोग करके पैकेज को परिनियोजित करें।
6. एज एप्लिकेशन अनुमान लगाने के लिए सेजमेकर एज एजेंट के साथ इंटरैक्ट करता है।
7. मॉडल निगरानी और शोधन उद्देश्यों के लिए एप्लिकेशन से रीयल-टाइम नमूना इनपुट डेटा भेजने के लिए एजेंट को कॉन्फ़िगर किया जा सकता है (यदि आवश्यक हो)।

केस 3 का प्रयोग करें

मान लीजिए कि आपका ग्राहक एक ऐसा एप्लिकेशन विकसित कर रहा है जो पवन टरबाइन (जैसे गियरबॉक्स, जनरेटर या रोटर) के तंत्र में विसंगतियों का पता लगाता है। लक्ष्य मक्खी पर स्थानीय सुरक्षा प्रक्रियाओं को चलाकर उपकरण पर होने वाले नुकसान को कम करना है। ये टर्बाइन बहुत महंगे हैं और उन जगहों पर स्थित हैं जो आसानी से उपलब्ध नहीं हैं। टर्बाइन से सेंसर डेटा की निगरानी के लिए प्रत्येक टर्बाइन को एनवीआईडीआईए जेटसन डिवाइस से बाहर निकाला जा सकता है। फिर हमें डेटा कैप्चर करने और विसंगतियों का पता लगाने के लिए एमएल एल्गोरिथम का उपयोग करने के लिए एक समाधान की आवश्यकता होती है। डिवाइस पर सॉफ्टवेयर और एमएल मॉडल को अप टू डेट रखने के लिए हमें एक ओटीए तंत्र की भी आवश्यकता है।

एडब्ल्यूएस IoT ग्रीनग्रास V2 एज मैनेजर के साथ इस उपयोग के मामले में अच्छी तरह से फिट बैठता है। AWS IoT ग्रीनग्रास एक ओपन-सोर्स IoT एज रनटाइम और क्लाउड सेवा है जो आपको अपने उपकरणों पर IoT एप्लिकेशन बनाने, तैनात करने और प्रबंधित करने में मदद करती है। आप AWS IoT ग्रीनग्रास का उपयोग पूर्व-निर्मित सॉफ़्टवेयर मॉड्यूल का उपयोग करके एज एप्लिकेशन बनाने के लिए कर सकते हैं, जिसे कहा जाता है घटकों, जो आपके किनारे के उपकरणों को AWS सेवाओं या तृतीय-पक्ष सेवाओं से जोड़ सकता है। AWS IoT ग्रीनग्रास की यह क्षमता सेजमेकर एज एजेंट सहित उपकरणों पर संपत्ति को तैनात करना आसान बनाती है। AWS IoT ग्रीनग्रास एप्लिकेशन जीवनचक्र के प्रबंधन के लिए जिम्मेदार है, जबकि एज मैनेजर एमएल मॉडल जीवनचक्र को अलग करता है। यह आपको एज एप्लिकेशन और एमएल मॉडल के नए संस्करणों को स्वतंत्र रूप से तैनात करके पूरे समाधान को विकसित करने की सुविधा देता है। निम्नलिखित चित्र इस वास्तुकला को दर्शाता है।

समाधान में निम्नलिखित चरण होते हैं:

1. डेवलपर अंतिम मॉडल आर्टिफैक्ट बनाता है, ट्रेन करता है, मान्य करता है और बनाता है जिसे पवन टरबाइन में तैनात करने की आवश्यकता होती है।
2. प्रशिक्षित मॉडल को संकलित करने के लिए नियो को आमंत्रित करें।
3. AWS IoT ग्रीनग्रास V2 एकीकरण के साथ एज मैनेजर का उपयोग करके एक मॉडल घटक बनाएं।
4. AWS IoT ग्रीनग्रास V2.
5. AWS IoT ग्रीनग्रास V2 का उपयोग करके एक अनुमान घटक बनाएं।
6. एज एप्लिकेशन अनुमान लगाने के लिए सेजमेकर एज एजेंट के साथ इंटरैक्ट करता है।
7. मॉडल निगरानी और शोधन उद्देश्यों के लिए एप्लिकेशन से रीयल-टाइम नमूना इनपुट डेटा भेजने के लिए एजेंट को कॉन्फ़िगर किया जा सकता है (यदि आवश्यक हो)।

केस 4 का प्रयोग करें

हमारे अंतिम उपयोग के मामले के लिए, आइए कंटेनरों को परिवहन करने वाले एक पोत को देखें, जहां प्रत्येक कंटेनर में कुछ सेंसर होते हैं और स्थानीय रूप से तैनात गणना और भंडारण बुनियादी ढांचे के लिए एक संकेत स्ट्रीम करते हैं। चुनौती यह है कि हम प्रत्येक कंटेनर की सामग्री और प्रत्येक कंटेनर के अंदर तापमान, आर्द्रता और गैसों के आधार पर माल की स्थिति जानना चाहते हैं। हम हर एक कंटेनर में सभी सामानों को ट्रैक करना चाहते हैं। यात्रा के दौरान कोई इंटरनेट कनेक्टिविटी नहीं है, और यात्रा में महीनों लग सकते हैं। इस बुनियादी ढांचे पर चलने वाले एमएल मॉडल को डेटा को प्रीप्रोसेस करना चाहिए और हमारे सभी सवालों के जवाब देने के लिए जानकारी तैयार करनी चाहिए। उत्पन्न डेटा को स्थानीय रूप से महीनों तक संग्रहीत करने की आवश्यकता होती है। एज एप्लिकेशन सभी अनुमानों को एक स्थानीय डेटाबेस में संग्रहीत करता है और फिर जब जहाज बंदरगाह पर पहुंचता है तो परिणामों को क्लाउड के साथ सिंक्रनाइज़ करता है।

एडब्ल्यूएस स्नोकोन और एडब्ल्यूएस स्नोबॉल से एडब्ल्यूएस हिमपात परिवार इस उपयोग के मामले में बहुत अच्छी तरह फिट हो सकता है।

एडब्ल्यूएस स्नोकोन एक छोटा, मजबूत और सुरक्षित एज कंप्यूटिंग और डेटा माइग्रेशन डिवाइस है। स्नोकोन को एक व्यक्ति के उठाने योग्य डिवाइस के लिए ओएसएचए मानक के लिए डिज़ाइन किया गया है। स्नोकोन आपको का उपयोग करके एज वर्कलोड चलाने में सक्षम बनाता है अमेज़ॅन इलास्टिक कम्प्यूट क्लाउड (अमेज़ॅन ईसी 2) कंप्यूटिंग, और कठोर, डिस्कनेक्टेड फील्ड वातावरण जैसे तेल रिग, खोज और बचाव वाहन, सैन्य साइट, या फैक्ट्री फर्श, साथ ही दूरस्थ कार्यालयों, अस्पतालों और मूवी थियेटर में स्थानीय भंडारण।

स्नोकोन की तुलना में स्नोबॉल अधिक कंप्यूटिंग जोड़ता है और इसलिए अधिक मांग वाले अनुप्रयोगों के लिए बहुत उपयुक्त हो सकता है। कंप्यूट ऑप्टिमाइज्ड फीचर डिस्कनेक्टेड वातावरण में एप्लिकेशन के प्रदर्शन को तेज करने के लिए EC100 इंस्टेंस के साथ एक वैकल्पिक NVIDIA टेस्ला V2 GPU प्रदान करता है। GPU विकल्प के साथ, आप कम या बिना कनेक्टिविटी वाले वातावरण में उन्नत ML और पूर्ण गति वीडियो विश्लेषण जैसे एप्लिकेशन चला सकते हैं।

ईसी 2 उदाहरण के शीर्ष पर, आपको किसी भी प्रकार के किनारे समाधान बनाने और तैनात करने की स्वतंत्रता है। उदाहरण के लिए: आप उपयोग कर सकते हैं अमेज़न ईसीएस या अन्य कंटेनर प्रबंधक एज एप्लिकेशन, एज मैनेजर एजेंट और एमएल मॉडल को अलग-अलग कंटेनरों के रूप में तैनात करने के लिए। यह आर्किटेक्चर यूज़ केस 2 के समान होगा (सिवाय इसके कि यह ज्यादातर समय ऑफलाइन काम करेगा), एक कंटेनर मैनेजर टूल के साथ।

निम्नलिखित आरेख इस समाधान वास्तुकला को दर्शाता है।

इस समाधान को लागू करने के लिए, बस अपने स्नो डिवाइस को यहां से ऑर्डर करें एडब्ल्यूएस प्रबंधन कंसोल और अपने संसाधनों को लॉन्च करें।

निष्कर्ष

इस पोस्ट में, हमने किनारे के विभिन्न पहलुओं पर चर्चा की है कि आप अपने उपयोग के मामले के आधार पर काम करना चुन सकते हैं। हमने ML@Edge के आसपास की कुछ प्रमुख अवधारणाओं पर भी चर्चा की और कैसे एप्लिकेशन जीवनचक्र और ML मॉडल जीवनचक्र को अलग करने से आपको एक-दूसरे पर निर्भरता के बिना उन्हें विकसित करने की स्वतंत्रता मिलती है। हमने इस बात पर जोर दिया कि कैसे अपने कार्यभार के लिए सही एज डिवाइस का चयन करना और समाधान प्रक्रिया के दौरान सही प्रश्न पूछना आपको पीछे की ओर काम करने और सही AWS सेवाओं को कम करने में मदद कर सकता है। हमने आपको अपने स्वयं के समाधान बनाने के लिए प्रेरित करने के लिए संदर्भ आर्किटेक्चर के साथ विभिन्न उपयोग के मामले भी प्रस्तुत किए हैं जो आपके कार्यभार के लिए काम करेंगे।

---

लेखक के बारे में

दिनेश कुमार सुब्रमणि एडिनबर्ग, स्कॉटलैंड में स्थित यूकेआईआर एसएमबी टीम के साथ एक वरिष्ठ समाधान वास्तुकार है। वह आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग में माहिर हैं। AWS सेवाओं के साथ उनकी समस्याओं को हल करने में मदद करने के लिए दिनेश को उद्योगों में ग्राहकों के साथ काम करने में मज़ा आता है। काम के अलावा, उन्हें अपने परिवार के साथ समय बिताना, शतरंज खेलना और विभिन्न शैलियों में संगीत का आनंद लेना पसंद है।

समीर अरुजो एडब्ल्यूएस में एआई/एमएल सॉल्यूशंस आर्किटेक्ट हैं। वह ग्राहकों को एआई/एमएल समाधान बनाने में मदद करता है जो एडब्ल्यूएस का उपयोग करके उनकी व्यावसायिक चुनौतियों का समाधान करते हैं। वह कंप्यूटर विज़न, नेचुरल लैंग्वेज प्रोसेसिंग, फोरकास्टिंग, ML ऐज एज, आदि से संबंधित कई AI/ML प्रोजेक्ट्स पर काम कर रहे हैं। वह अपने खाली समय में हार्डवेयर और स्वचालन परियोजनाओं के साथ खेलना पसंद करते हैं, और रोबोटिक्स के लिए उनकी विशेष रुचि है।

• कॉइनस्मार्ट। यूरोप का सर्वश्रेष्ठ बिटकॉइन और क्रिप्टो एक्सचेंज।
• प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। नि: शुल्क प्रवेश।
• क्रिप्टोहॉक। Altcoin रडार। मुफ्त परीक्षण।
• स्रोत: https://aws.amazon.com/blogs/machine-learning/demystifying-machine-learning-at-the-edge-through-real-use-cases/