अमेज़ॅन सेजमेकर एज मैनेजर और एडब्ल्यूएस आईओटी ग्रीनग्रास के साथ किनारे पर एमएलओप्स

इंटरनेट ऑफ थिंग्स (IoT) ने कई उद्योगों में ग्राहकों को सक्षम किया है, जैसे कि विनिर्माण, मोटर वाहन और ऊर्जा, वास्तविक दुनिया के वातावरण की निगरानी और नियंत्रण करने के लिए। कैमरे, थर्मोस्टैट्स और सेंसर जैसे विभिन्न प्रकार के एज IoT उपकरणों को तैनात करके, आप डेटा एकत्र कर सकते हैं, इसे क्लाउड पर भेज सकते हैं, और विसंगतियों, विफलताओं, और बहुत कुछ की भविष्यवाणी करने के लिए मशीन लर्निंग (एमएल) मॉडल बना सकते हैं। हालाँकि, यदि उपयोग के मामले में वास्तविक समय की भविष्यवाणी की आवश्यकता होती है, तो आपको अपने IoT समाधान को ML एट एज (ML@Edge) क्षमताओं के साथ समृद्ध करने की आवश्यकता है। एमएल@एज एक अवधारणा है जो एमएल मॉडल के जीवनचक्र को ऐप जीवनचक्र से अलग करती है और आपको एक एंड-टू-एंड एमएल पाइपलाइन चलाने की अनुमति देती है जिसमें डेटा तैयारी, मॉडल निर्माण, मॉडल संकलन और अनुकूलन, मॉडल परिनियोजन (किनारे उपकरणों के बेड़े में) शामिल हैं। मॉडल निष्पादन, और मॉडल निगरानी और शासन। आप ऐप को एक बार परिनियोजित करें और ML पाइपलाइन को जितनी बार चाहें उतनी बार चलाएं।

जैसा कि आप कल्पना कर सकते हैं, ML@Edge अवधारणा द्वारा प्रस्तावित सभी चरणों को लागू करना तुच्छ नहीं है। उदाहरण के लिए, संपूर्ण ML@Edge समाधान को लागू करने के लिए डेवलपर्स को कई प्रश्नों का समाधान करने की आवश्यकता है:

• मैं किनारे पर उपकरणों के बेड़े (सैकड़ों, हजारों, या लाखों) पर एमएल मॉडल कैसे संचालित करूं?
• मैं अपने मॉडल को किनारे पर तैनात और चलाते समय कैसे सुरक्षित करूं?
• मैं अपने मॉडल के प्रदर्शन की निगरानी कैसे करूं और जरूरत पड़ने पर उसे फिर से प्रशिक्षित करूं?

इस पोस्ट में, आप सीखेंगे कि इन सभी सवालों के जवाब कैसे दें और अपनी ML@Edge पाइपलाइन को स्वचालित करने के लिए एंड-टू-एंड समाधान तैयार करें। आप देखेंगे कि कैसे उपयोग करें अमेज़न सेजमेकर एज मैनेजर, अमेज़ॅन सैजमेकर स्टूडियो, तथा एडब्ल्यूएस IoT ग्रीनग्रास v2 एक एमएलओपीएस (एमएल ऑपरेशंस) वातावरण बनाने के लिए जो एमएल मॉडल के निर्माण और बड़े उपकरणों के बड़े बेड़े में तैनात करने की प्रक्रिया को स्वचालित करता है।

अगले अनुभागों में, हम एक संदर्भ आर्किटेक्चर प्रस्तुत करते हैं जो एज वर्कलोड पर केंद्रित एमएलओप्स के लिए एक पूर्ण समाधान बनाने के लिए आवश्यक सभी घटकों और वर्कफ़्लो का विवरण देता है। फिर हम एक नया मॉडल बनाने और तैयार करने के लिए यह समाधान स्वचालित रूप से चलने वाले चरणों में गहराई से उतरते हैं। हम आपको यह भी दिखाते हैं कि ML मॉडल की तैनाती, संचालन और निगरानी शुरू करने के लिए एज डिवाइस कैसे तैयार करें, और यह प्रदर्शित करें कि आपके उपकरणों के बेड़े में तैनात ML मॉडल की निगरानी और रखरखाव कैसे करें।

समाधान अवलोकन

मजबूत एमएल मॉडल के उत्पादन के लिए विशिष्ट संचालन (एमएलओपीएस) के बाद अर्ध-स्वचालित बुनियादी ढांचे के तहत डेटा वैज्ञानिकों, एमएल इंजीनियरों, डेटा इंजीनियरों और व्यावसायिक हितधारकों जैसे कई व्यक्तियों के सहयोग की आवश्यकता होती है। इसके अलावा, इन सभी अलग-अलग व्यक्तियों को उस घटक को विकसित करने या सुधारने के लिए लचीलापन और चपलता देने के लिए पर्यावरण का मॉडर्नाइजेशन महत्वपूर्ण है, जिसके लिए वे जिम्मेदार हैं। इस तरह के बुनियादी ढांचे के एक उदाहरण में कई एडब्ल्यूएस खाते शामिल हैं जो एमएल मॉडल के इस सहयोग और उत्पादन को क्लाउड और एज डिवाइस दोनों में सक्षम करते हैं। निम्नलिखित संदर्भ वास्तुकला में, हम दिखाते हैं कि हमने एमएल मॉडल बनाने और उन्हें किनारे पर तैनात करने के लिए इस एंड-टू-एंड एमएलओपीएस प्लेटफॉर्म की रचना करने वाले कई खातों और सेवाओं को कैसे व्यवस्थित किया।

इस समाधान में निम्नलिखित खाते शामिल हैं:

• डेटा लेक खाता - डेटा इंजीनियर ऑन-प्रिमाइसेस डेटाबेस और IoT उपकरणों सहित कई डेटा स्रोतों से डेटा को निगलना, संग्रहीत और तैयार करते हैं।
• टूलींग खाता - आईटी ऑपरेटर रिमोट एज डिवाइसेस के लिए प्री-प्रोडक्शन और प्रोडक्शन अकाउंट में एमएल मॉडल पैकेजों की स्वचालित निरंतर डिलीवरी और तैनाती के लिए सीआई / सीडी पाइपलाइनों का प्रबंधन और जांच करते हैं। CI/CD पाइपलाइनों के रन किसके उपयोग के माध्यम से स्वचालित होते हैं? अमेज़न EventBridge, जो एमएल मॉडल और लक्ष्य की स्थिति बदलने की घटनाओं पर नज़र रखता है AWS कोडपिपलीन.
• प्रयोग और विकास खाता - डेटा वैज्ञानिक एमएल पर आधारित व्यावसायिक समस्याओं को हल करने के लिए कई मॉडलिंग तकनीकों और एल्गोरिदम के साथ अनुसंधान और प्रयोग कर सकते हैं, अवधारणा समाधान का प्रमाण बना सकते हैं। एमएल इंजीनियर और डेटा वैज्ञानिक अवधारणा के प्रमाण को स्केल करने के लिए सहयोग करते हैं, का उपयोग करके स्वचालित वर्कफ़्लो बनाते हैं अमेज़न SageMaker पाइपलाइन डेटा तैयार करने और एमएल मॉडल बनाने, प्रशिक्षित करने और पैकेज करने के लिए। पाइपलाइनों का परिनियोजन CI/CD पाइपलाइनों के माध्यम से संचालित होता है, जबकि मॉडल का संस्करण नियंत्रण का उपयोग करके प्राप्त किया जाता है अमेज़ॅन सेजमेकर मॉडल रजिस्ट्री. डेटा वैज्ञानिक कई मॉडल संस्करणों के मैट्रिक्स का मूल्यांकन करते हैं और सीआई/सीडी पाइपलाइन को ट्रिगर करके उत्पादन के लिए सर्वश्रेष्ठ मॉडल को बढ़ावा देने का अनुरोध करते हैं।
• प्री-प्रोडक्शन अकाउंट - उत्पादन वातावरण में मॉडल को बढ़ावा देने से पहले, सिमुलेशन वातावरण में मजबूती सुनिश्चित करने के लिए मॉडल का परीक्षण किया जाना चाहिए। इसलिए, प्री-प्रोडक्शन एनवायरनमेंट प्रोडक्शन एनवायरनमेंट का एक सिम्युलेटर है, जिसमें सेजमेकर मॉडल एंडपॉइंट्स को तैनात और स्वचालित रूप से परीक्षण किया जाता है। परीक्षण विधियों में एक एकीकरण परीक्षण, तनाव परीक्षण, या अनुमान परिणामों पर एमएल-विशिष्ट परीक्षण शामिल हो सकते हैं। इस मामले में, उत्पादन वातावरण एक सेजमेकर मॉडल एंडपॉइंट नहीं बल्कि एक एज डिवाइस है। पूर्व-उत्पादन में एक एज डिवाइस का अनुकरण करने के लिए, दो दृष्टिकोण संभव हैं: a . का उपयोग करें अमेज़ॅन इलास्टिक कम्प्यूट क्लाउड (अमेज़ॅन ईसी2) उदाहरण समान हार्डवेयर विशेषताओं के साथ, या वास्तविक उपकरणों से युक्त इन-लैब टेस्टबेड का उपयोग करें। इस बुनियादी ढांचे के साथ, CI/CD पाइपलाइन मॉडल को संबंधित सिम्युलेटर में तैनात करती है और स्वचालित रूप से कई परीक्षण करती है। परीक्षण सफलतापूर्वक चलने के बाद, CI/CD पाइपलाइन को मैन्युअल अनुमोदन की आवश्यकता होती है (उदाहरण के लिए, मॉडल को उत्पादन में बढ़ावा देने के लिए IoT हितधारक से)।
• उत्पादन खाता - एडब्ल्यूएस क्लाउड पर मॉडल की मेजबानी के मामले में, सीआई/सीडी पाइपलाइन उत्पादन खाते पर एक सेजमेकर मॉडल एंडपॉइंट तैनात करती है। इस मामले में, उत्पादन वातावरण में किनारे के उपकरणों के कई बेड़े होते हैं। इसलिए, CI/CD पाइपलाइन मॉडल को संबंधित उपकरणों के बेड़े में परिनियोजित करने के लिए एज मैनेजर का उपयोग करती है।
• एज डिवाइस - रिमोट एज डिवाइस हार्डवेयर डिवाइस हैं जो एज मैनेजर का उपयोग करके एमएल मॉडल चला सकते हैं। यह उन उपकरणों पर एप्लिकेशन को मॉडल का प्रबंधन करने, मॉडल के खिलाफ अनुमान चलाने और डेटा को सुरक्षित रूप से कैप्चर करने की अनुमति देता है अमेज़न सरल भंडारण सेवा (अमेज़न S3)।

SageMaker परियोजनाओं इन खातों में से प्रत्येक के अंदर संसाधनों के प्रावधान की प्रक्रिया को स्वचालित करने में आपकी सहायता करता है। हम इस सुविधा में गहराई से नहीं उतरते हैं, लेकिन एक सेजमेकर प्रोजेक्ट टेम्प्लेट बनाने के तरीके के बारे में अधिक जानने के लिए, जो सभी खातों में एमएल मॉडल को तैनात करता है, चेक आउट करें अमेज़ॅन सैजमेकर पाइपलाइनों के साथ मल्टी-अकाउंट मॉडल की तैनाती.

प्री-प्रोडक्शन अकाउंट: डिजिटल ट्विन

प्रशिक्षण प्रक्रिया के बाद, परिणामी मॉडल का मूल्यांकन किया जाना चाहिए। प्री-प्रोडक्शन खाते में, आपके पास एक नकली एज डिवाइस है। यह प्रतिनिधित्व करता है डिजिटल ट्विन किनारे का उपकरण जिस पर ML मॉडल उत्पादन में चलता है। इस वातावरण में क्लासिक परीक्षण (जैसे इकाई, एकीकरण, और धुआं) करने और विकास टीम के लिए खेल का मैदान बनने का दोहरा उद्देश्य है। यह उपकरण एक ईसी2 इंस्टेंस का उपयोग करके सिम्युलेटेड है जहां एमएल मॉडल को प्रबंधित करने के लिए आवश्यक सभी घटकों को तैनात किया गया था।

शामिल सेवाएं इस प्रकार हैं:

• AWS IoT कोर - हम प्रयोग करते हैं AWS IoT कोर AWS IoT चीज़ ऑब्जेक्ट बनाने के लिए, एक डिवाइस फ्लीट बनाने के लिए, डिवाइस फ्लीट को पंजीकृत करें ताकि यह क्लाउड के साथ इंटरैक्ट कर सके, AWS IoT Core के लिए एज डिवाइस को प्रमाणित करने के लिए X.509 सर्टिफिकेट बनाएं, रोल एलियास को AWS IoT कोर के साथ संबद्ध करें जो तब उत्पन्न हुआ था जब बेड़े ने बनाया है, क्रेडेंशियल प्रदाता के लिए एक एडब्ल्यूएस खाता-विशिष्ट समापन बिंदु प्राप्त करें, एक आधिकारिक अमेज़ॅन रूट सीए फ़ाइल प्राप्त करें, और अमेज़ॅन सीए फ़ाइल को अमेज़ॅन एस 3 पर अपलोड करें।
• अमेज़न सेजमेकर नियो - साधु बनानेवाला नियो सटीकता में बिना किसी नुकसान के तेजी से चलने के लिए अनुमान के लिए मशीन लर्निंग मॉडल को स्वचालित रूप से अनुकूलित करता है। यह पहले से ही डार्कनेट, केरस, एमएक्सनेट, पायटॉर्च, टेन्सरफ्लो, टेन्सरफ्लो-लाइट, ओएनएनएक्स, या एक्सजीबूस्ट के साथ निर्मित मशीन लर्निंग मॉडल का समर्थन करता है और अमेज़ॅन सेजमेकर या कहीं और में प्रशिक्षित है। फिर आप अपना लक्षित हार्डवेयर प्लेटफॉर्म चुनते हैं, जो एक सेजमेकर होस्टिंग इंस्टेंस या अंबरेला, ऐप्पल, एआरएम, इंटेल, मीडियाटेक, एनवीडिया, एनएक्सपी, क्वालकॉम, रॉकचिप, टेक्सास इंस्ट्रूमेंट्स, या एक्सिलिनक्स के प्रोसेसर पर आधारित एक एज डिवाइस हो सकता है।
• एज मैनेजर - हम सेजमेकर बेड़े के भीतर एज डिवाइस को पंजीकृत और प्रबंधित करने के लिए एज मैनेजर का उपयोग करते हैं। बेड़े तार्किक रूप से समूहीकृत उपकरणों के संग्रह हैं जिनका उपयोग आप डेटा एकत्र करने और विश्लेषण करने के लिए कर सकते हैं। इसके अलावा, एज मैनेजर पैकेजर, अनुकूलित मॉडल को पैकेज करता है और एक AWS IoT ग्रीनग्रास V2 घटक बनाता है जिसे सीधे तैनात किया जा सकता है। आप स्मार्ट कैमरा, स्मार्ट स्पीकर, रोबोट और अन्य सेजमेकर डिवाइस फ्लीट पर एमएल मॉडल संचालित करने के लिए एज मैनेजर का उपयोग कर सकते हैं।
• एडब्ल्यूएस IoT ग्रीनग्रास V2 - AWS IoT ग्रीनग्रास आपको ईसी2 इंस्टेंस का उपयोग करके नकली उपकरणों में घटकों को तैनात करने की अनुमति देता है। EC2 उदाहरणों में AWS IoT ग्रीनग्रास V2 एजेंट का उपयोग करके, हम एज मैनेजर एजेंट और मॉडल के उपकरणों तक पहुंच, प्रबंधन और परिनियोजन को सरल बना सकते हैं। AWS IoT ग्रीनग्रास V2 के बिना, एज मैनेजर का उपयोग करने के लिए डिवाइस और फ्लीट सेट करने के लिए आपको एजेंट को S3 रिलीज़ बकेट से मैन्युअल रूप से कॉपी करने की आवश्यकता होती है। AWS IoT ग्रीनग्रास V2 और एज मैनेजर एकीकरण के साथ, AWS IoT ग्रीनग्रास V2 घटकों का उपयोग करना संभव है। घटक पूर्व-निर्मित सॉफ़्टवेयर मॉड्यूल हैं जो एज डिवाइस को AWS सेवाओं या तृतीय-पक्ष सेवा से AWS IoT ग्रीनग्रास के माध्यम से जोड़ सकते हैं।
• एज मैनेजर एजेंट - एज मैनेजर एजेंट को EC2 उदाहरण में AWS IoT ग्रीनग्रास V2 के माध्यम से तैनात किया गया है। एजेंट एक समय में कई मॉडल लोड कर सकता है और एज डिवाइस पर लोड किए गए मॉडल के साथ अनुमान लगा सकता है। एजेंट द्वारा लोड किए जा सकने वाले मॉडलों की संख्या डिवाइस पर उपलब्ध मेमोरी द्वारा निर्धारित की जाती है।
• अमेज़न S3 - हम एज मैनेजर एजेंट से प्राप्त अनुमान डेटा को स्टोर करने के लिए S3 बकेट का उपयोग करते हैं।

हम वास्तविक एज डिवाइस में ले जाने से पहले एमएल मॉडल के परीक्षण के लिए प्री-प्रोडक्शन अकाउंट को डिजिटल ट्विन के रूप में परिभाषित कर सकते हैं। यह निम्नलिखित लाभ प्रदान करता है:

• चपलता और लचीलापन - डेटा वैज्ञानिकों और एमएल इंजीनियरों को जल्दी से सत्यापित करने की आवश्यकता है कि क्या एमएल मॉडल और संबंधित स्क्रिप्ट (प्रीप्रोसेसिंग और इंट्रेंस स्क्रिप्ट) डिवाइस के किनारे पर काम करेंगे। हालाँकि, बड़े उद्यमों में IoT और डेटा विज्ञान विभाग अलग-अलग संस्थाएँ हो सकते हैं। क्लाउड में प्रौद्योगिकी स्टैक की पहचान करके, डेटा वैज्ञानिक और एमएल इंजीनियर परिनियोजन से पहले कलाकृतियों को पुनरावृत्त और समेकित कर सकते हैं।
• त्वरित जोखिम मूल्यांकन और उत्पादन समय - एज डिवाइस पर परिनियोजन प्रक्रिया का अंतिम चरण है। एक अलग और स्व-निहित वातावरण में सब कुछ मान्य करने के बाद, गुणवत्ता, प्रदर्शन और एकीकरण के मामले में किनारे के लिए आवश्यक विनिर्देशों का पालन करने के लिए इसे सुरक्षित करें। यह विरूपण साक्ष्य संस्करणों को ठीक करने और पुनरावृति करने के लिए IoT विभाग में अन्य लोगों की और भागीदारी से बचने में मदद करता है।
• बेहतर टीम सहयोग और बढ़ी हुई गुणवत्ता और प्रदर्शन - डेवलपमेंट टीम एज हार्डवेयर मेट्रिक्स का विश्लेषण करके और थर्ड-पार्टी टूल्स (जैसे I/O रेट) के साथ इंटरैक्शन के स्तर को मापकर एमएल मॉडल के प्रभाव का तुरंत आकलन कर सकती है। फिर, IoT टीम केवल उत्पादन परिवेश में परिनियोजन के लिए ज़िम्मेदार होती है, और आश्वस्त हो सकती है कि कलाकृतियाँ उत्पादन परिवेश के लिए सटीक हैं।
• परीक्षण के लिए एकीकृत खेल का मैदान - एमएल मॉडल के लक्ष्य को देखते हुए, पारंपरिक वर्कफ़्लो में पूर्व-उत्पादन वातावरण को क्लाउड वातावरण के बाहर एक एज डिवाइस द्वारा दर्शाया जाना चाहिए। यह जटिलता का एक और स्तर पेश करता है। मेट्रिक्स और फीडबैक एकत्र करने के लिए एकीकरण की आवश्यकता होती है। इसके बजाय, डिजिटल ट्विन सिम्युलेटेड वातावरण का उपयोग करके, बातचीत कम हो जाती है और बाजार में आने का समय कम हो जाता है।

उत्पादन खाता और बढ़त का माहौल

परीक्षण पूरा होने के बाद और विरूपण साक्ष्य स्थिरता प्राप्त हो जाने के बाद, आप पाइपलाइनों के माध्यम से उत्पादन परिनियोजन के लिए आगे बढ़ सकते हैं। एक ऑपरेटर द्वारा आर्टिफैक्ट को मंजूरी देने के बाद आर्टिफैक्ट परिनियोजन प्रोग्रामेटिक रूप से होता है। हालाँकि, तक पहुँच एडब्ल्यूएस प्रबंधन कंसोल ऑपरेटरों को रीड-ओनली मोड में प्रदान किया जाता है ताकि वे बेड़े से जुड़े मेटाडेटा की निगरानी कर सकें और इसलिए तैनात एमएल मॉडल के संस्करण और जीवनचक्र से जुड़े अन्य मीट्रिक के बारे में जानकारी प्राप्त कर सकें।

एज डिवाइस बेड़े एडब्ल्यूएस उत्पादन खाते से संबंधित हैं। क्लाउड और एज डिवाइस के बीच संचार की अनुमति देने के लिए इस खाते में विशिष्ट सुरक्षा और नेटवर्किंग कॉन्फ़िगरेशन हैं। उत्पादन खाते में तैनात मुख्य एडब्ल्यूएस सेवाएं एज मैनेजर हैं, जो सभी डिवाइस बेड़े के प्रबंधन, डेटा एकत्र करने और एमएल मॉडल के संचालन के लिए जिम्मेदार है, और एडब्ल्यूएस आईओटी कोर, जो आईओटी चीज़ ऑब्जेक्ट्स, सर्टिफिकेट, रोल उपनाम और एंडपॉइंट्स का प्रबंधन करता है।

उसी समय, हमें एमएल मॉडल को प्रबंधित करने के लिए सेवाओं और घटकों के साथ एक एज डिवाइस को कॉन्फ़िगर करने की आवश्यकता है। मुख्य घटक इस प्रकार हैं:

• एडब्ल्यूएस IoT ग्रीनग्रास V2
• एक एज मैनेजर एजेंट
• एडब्ल्यूएस IoT प्रमाणपत्र
• Application.py, जो अनुमान प्रक्रिया को व्यवस्थित करने के लिए जिम्मेदार है (एज डेटा स्रोत से जानकारी प्राप्त करना और एज मैनेजर एजेंट और लोड किए गए एमएल मॉडल का उपयोग करके अनुमान लगाना)
• अनुमानित डेटा को स्टोर करने के लिए Amazon S3 या डेटा लेक खाते से कनेक्शन

स्वचालित एमएल पाइपलाइन

अब जब आप संगठन और संदर्भ वास्तुकला के घटकों के बारे में अधिक जानते हैं, तो हम एमएल पाइपलाइन में गहराई से गोता लगा सकते हैं जिसका उपयोग हम विकास खाते के अंदर एमएल मॉडल के निर्माण, प्रशिक्षण और मूल्यांकन के लिए करते हैं।

एक पाइपलाइन (उपयोग करके निर्मित अमेज़ॅन सेजमेकर मॉडल बिल्डिंग पाइपलाइन) इंटरकनेक्टेड चरणों की एक श्रृंखला है जिसे JSON पाइपलाइन परिभाषा द्वारा परिभाषित किया गया है। यह पाइपलाइन परिभाषा एक डायरेक्टेड एसाइक्लिक ग्राफ (डीएजी) का उपयोग करके एक पाइपलाइन को एन्कोड करती है। यह DAG आपकी पाइपलाइन के प्रत्येक चरण के लिए आवश्यकताओं और संबंधों के बारे में जानकारी देता है। पाइपलाइन के DAG की संरचना चरणों के बीच डेटा निर्भरता द्वारा निर्धारित की जाती है। ये डेटा निर्भरताएँ तब बनाई जाती हैं जब एक चरण के आउटपुट के गुणों को दूसरे चरण में इनपुट के रूप में पास किया जाता है।

एमएल मॉडल के नए संस्करणों के निर्माण को आसानी से स्वचालित करने के लिए डेटा विज्ञान टीमों को सक्षम करने के लिए, एमएल मॉडल को लगातार खिलाने और सुधारने के लिए सत्यापन चरणों और स्वचालित डेटा को पेश करना महत्वपूर्ण है, साथ ही पाइपलाइन ट्रिगरिंग को सक्षम करने के लिए मॉडल निगरानी रणनीतियां भी। निम्न आरेख एक उदाहरण पाइपलाइन दिखाता है।

ऑटोमेशन और एमएलओपीएस क्षमताओं को सक्षम करने के लिए, पुन: प्रयोज्य कोड कलाकृतियों को बनाने के लिए मॉड्यूलर घटकों को बनाना महत्वपूर्ण है जो विभिन्न चरणों और एमएल उपयोग के मामलों में साझा किए जा सकते हैं। यह आपको संक्रमण को स्वचालित करके एक प्रयोग चरण से एक उत्पादन चरण में कार्यान्वयन को त्वरित रूप से स्थानांतरित करने में सक्षम बनाता है।

एमएल मॉडल के निरंतर प्रशिक्षण और संस्करण को सक्षम करने के लिए एमएल पाइपलाइन को परिभाषित करने के चरण इस प्रकार हैं:

• preprocessing - एमएल एल्गोरिथम के प्रशिक्षण के लिए डेटा की सफाई, फीचर इंजीनियरिंग और डेटासेट निर्माण की प्रक्रिया
• प्रशिक्षण - एमएल मॉडल आर्टिफैक्ट का एक नया संस्करण तैयार करने के लिए विकसित एमएल एल्गोरिदम को प्रशिक्षित करने की प्रक्रिया
• मूल्यांकन - प्रशिक्षण चरण के दौरान नहीं देखे गए नए डेटा पर मॉडल व्यवहार से संबंधित प्रमुख मीट्रिक निकालने के लिए जेनरेट किए गए एमएल मॉडल के मूल्यांकन की प्रक्रिया
• पंजीकरण - जेनरेट किए गए आर्टिफैक्ट के साथ निकाले गए मेट्रिक्स को जोड़कर नए प्रशिक्षित एमएल मॉडल आर्टिफैक्ट को वर्जन करने की प्रक्रिया

आप निम्नलिखित में सेजमेकर पाइपलाइन बनाने के तरीके के बारे में अधिक जानकारी देख सकते हैं: नोटबुक.

EventBridge का उपयोग करके CI/CD पाइपलाइनों को ट्रिगर करें

जब आप मॉडल का निर्माण पूरा कर लेते हैं, तो आप परिनियोजन प्रक्रिया प्रारंभ कर सकते हैं। पिछले खंड में परिभाषित सेजमेकर पाइपलाइन का अंतिम चरण विशिष्ट सेजमेकर मॉडल रजिस्ट्री समूह में मॉडल के एक नए संस्करण को पंजीकृत करता है। ML मॉडल के नए संस्करण का परिनियोजन मॉडल रजिस्ट्री स्थिति का उपयोग करके प्रबंधित किया जाता है। किसी ML मॉडल संस्करण को मैन्युअल रूप से स्वीकृत या अस्वीकार करके, यह चरण EventBridge द्वारा कैप्चर किए गए ईवेंट को बढ़ा देता है। यह घटना तब एडब्ल्यूएस आईओटी ग्रीनग्रास घटक का एक नया संस्करण बनाने के लिए एक नई पाइपलाइन (इस बार सीआई/सीडी) शुरू कर सकती है जिसे बाद में पूर्व-उत्पादन और उत्पादन खातों में तैनात किया जाता है। निम्न स्क्रीनशॉट हमारे परिभाषित EventBridge नियम को दिखाता है।

यह नियम स्थिति में मॉडल पैकेजों के अपडेट की तलाश में सेजमेकर मॉडल पैकेज समूह की निगरानी करता है Approved or Rejected.

EventBridge नियम को तब CodePipeline को लक्षित करने के लिए कॉन्फ़िगर किया गया है, जो उपयोग करके एक नया AWS IoT ग्रीनग्रास घटक बनाने का कार्यप्रवाह शुरू करता है। अमेज़न SageMaker नियो और एज मैनेजर।

लक्ष्य वास्तुकला के लिए एमएल मॉडल का अनुकूलन करें

नियो आपको किनारे के उपकरणों (और क्लाउड में) पर अनुमान लगाने के लिए एमएल मॉडल को अनुकूलित करने की अनुमति देता है। यह लक्ष्य आर्किटेक्चर के आधार पर बेहतर प्रदर्शन के लिए एमएल मॉडल को स्वचालित रूप से अनुकूलित करता है, और मॉडल को मूल ढांचे से अलग करता है, जिससे आप इसे हल्के रनटाइम पर चला सकते हैं।

निम्नलिखित का संदर्भ लें नोटबुक नियो का उपयोग करके एक PyTorch Resnet18 मॉडल को संकलित करने के तरीके के उदाहरण के लिए।

AWS IoT ग्रीनग्रास घटक को शामिल करके परिनियोजन पैकेज बनाएँ

एज मैनेजर आपको एज डिवाइस के बेड़े में मॉडल को प्रबंधित करने, सुरक्षित करने, तैनात करने और मॉनिटर करने की अनुमति देता है। निम्नलिखित में नोटबुक, आप इस बारे में अधिक विवरण देख सकते हैं कि किनारे के उपकरणों का एक न्यूनतम बेड़ा कैसे बनाया जाए और इस सुविधा के साथ कुछ प्रयोग चलाएँ।

बेड़े को कॉन्फ़िगर करने और मॉडल को संकलित करने के बाद, आपको एज मैनेजर पैकेजिंग कार्य चलाने की आवश्यकता है, जो मॉडल को बेड़े में तैनात करने के लिए तैयार करता है। आप Boto3 SDK का उपयोग करके पैकेजिंग का काम शुरू कर सकते हैं। हमारे मापदंडों के लिए, हम अनुकूलित मॉडल और मॉडल मेटाडेटा का उपयोग करते हैं। निम्नलिखित मापदंडों को जोड़कर OutputConfig, जॉब मॉडल के साथ AWS IoT ग्रीनग्रास V2 घटक भी तैयार करता है:

• PresetDeploymentType
• PresetDeploymentConfig

निम्नलिखित कोड देखें:

import boto3
import time

SageMaker_client = boto3.client('SageMaker')

SageMaker_client.create_edge_packaging_job(
    EdgePackagingJobName="mlops-edge-packaging-{}".format(int(time.time()*1000)),
    CompilationJobName=compilation_job_name,
    ModelName="PytorchMLOpsEdgeModel",
    ModelVersion="1.0.0",
    RoleArn=role,
    OutputConfig={
        'S3OutputLocation': 's3://{}/model/'.format(bucket_name),
        "PresetDeploymentType": "GreengrassV2Component",
        "PresetDeploymentConfig": json.dumps(
            {"ComponentName": component_name, "ComponentVersion": component_version}
        ),
    }
)

बड़े पैमाने पर एमएल मॉडल को किनारे पर तैनात करें

अब समय आ गया है कि आप अपने किनारे के उपकरणों के बेड़े में मॉडल को तैनात करें। सबसे पहले, हमें यह सुनिश्चित करने की आवश्यकता है कि हमारे पास आवश्यक है AWS पहचान और अभिगम प्रबंधन (मैं हूँ) अनुमतियाँ हमारे IoT उपकरणों का प्रावधान करने के लिए और इसमें घटकों को तैनात करने में सक्षम हैं। हमारे IoT प्लेटफॉर्म में उपकरणों को ऑनबोर्ड करना शुरू करने के लिए हमें दो बुनियादी तत्वों की आवश्यकता होती है:

• आईएएम नीति - यह नीति ऐसे उपकरणों के स्वचालित प्रावधान की अनुमति देती है, जो उपयोगकर्ता से जुड़ी होती है या प्रावधान करने वाली भूमिका निभाती है। इसमें IoT चीज़ और समूह बनाने के लिए IoT लिखने की अनुमति होनी चाहिए, साथ ही डिवाइस के लिए आवश्यक नीतियां संलग्न करनी चाहिए। अधिक जानकारी के लिए देखें संसाधनों का प्रावधान करने के लिए इंस्टॉलर के लिए न्यूनतम IAM नीति.
• IAM भूमिका - यह भूमिका हमारे द्वारा बनाए गए IoT चीज़ों और समूहों से जुड़ी होती है। आप बुनियादी अनुमतियों के साथ प्रावधान समय पर यह भूमिका बना सकते हैं, लेकिन इसमें अमेज़ॅन एस 3 तक पहुंच जैसी सुविधाओं की कमी होगी या AWS प्रमुख प्रबंधन सेवा (AWS KMS) जिसकी बाद में आवश्यकता हो सकती है। आप इस भूमिका को पहले से बना सकते हैं और जब हम डिवाइस का प्रावधान करते हैं तो इसका पुन: उपयोग कर सकते हैं। अधिक जानकारी के लिए देखें AWS के साथ इंटरैक्ट करने के लिए कोर डिवाइस को अधिकृत करें.

एडब्ल्यूएस IoT ग्रीनग्रास स्थापना और प्रावधान

हमारे पास IAM नीति और भूमिका होने के बाद, हम इसके लिए तैयार हैं स्वचालित संसाधन प्रावधान के साथ AWS IoT ग्रीनग्रास कोर सॉफ़्टवेयर स्थापित करें. यद्यपि मैन्युअल चरणों का पालन करते हुए IoT संसाधनों का प्रावधान करना संभव है, AWS IoT ग्रीनग्रास v2 नाभिक की स्थापना के दौरान इन संसाधनों को स्वचालित रूप से प्रावधान करने की सुविधाजनक प्रक्रिया है। प्लेटफ़ॉर्म में नए उपकरणों को जल्दी से ऑनबोर्ड करने के लिए यह पसंदीदा विकल्प है। अलावा default-jdk, अन्य पैकेजों को संस्थापित करने की आवश्यकता है, जैसे curl, unzip, तथा python3.

जब हम अपने डिवाइस का प्रावधान करते हैं, तो IoT चीज़ का नाम बिल्कुल वैसा ही होना चाहिए जैसा कि Edge Manager में परिभाषित किया गया है, अन्यथा डेटा को गंतव्य S3 बकेट में कैप्चर नहीं किया जाएगा।

यदि वे मौजूद नहीं हैं, तो इंस्टॉलर स्थापना के दौरान AWS IoT ग्रीनग्रास भूमिका और उपनाम बना सकता है। हालांकि, उन्हें न्यूनतम अनुमतियों के साथ बनाया जाएगा और उन्हें अन्य सेवाओं जैसे कि Amazon S3 के साथ बातचीत करने के लिए मैन्युअल रूप से अधिक नीतियां जोड़ने की आवश्यकता होगी। हम अनुशंसा करते हैं कि इन IAM संसाधनों को पहले से ही बनाया जाए, जैसा कि पहले दिखाया गया है, और फिर खाते में नए उपकरणों को ऑनबोर्ड करते समय उनका पुन: उपयोग करें।

मॉडल और अनुमान घटक पैकेजिंग

हमारे कोड के विकसित होने के बाद, हम अपने उपकरणों में घटकों के रूप में कोड (अनुमान के लिए) और हमारे एमएल मॉडल दोनों को तैनात कर सकते हैं।

सेजमेकर में एमएल मॉडल को प्रशिक्षित करने के बाद, आप सेजमेकर संकलन कार्य का उपयोग करके नियो के साथ मॉडल को अनुकूलित कर सकते हैं। परिणामी संकलित मॉडल कलाकृतियों को एज मैनेजर पैकेजर का उपयोग करके ग्रीनग्रास वी 2 घटक में पैक किया जा सकता है। फिर, इसे कस्टम घटक के रूप में पंजीकृत किया जा सकता है मेरे अवयव AWS IoT ग्रीनग्रास कंसोल पर अनुभाग। इस घटक में पहले से ही हमारे डिवाइस में मॉडल आर्टिफैक्ट को डाउनलोड और डीकंप्रेस करने के लिए आवश्यक जीवनचक्र कमांड शामिल हैं, ताकि अनुमान कोड इसके माध्यम से कैप्चर की गई छवियों को भेजने के लिए इसे लोड कर सके।

अनुमान कोड के संबंध में, हमें कंसोल का उपयोग करके एक घटक बनाना होगा या AWS कमांड लाइन इंटरफ़ेस (एडब्ल्यूएस सीएलआई)। सबसे पहले, हम अपने स्रोत अनुमान कोड और आवश्यक निर्भरता को Amazon S3 में पैक करते हैं। कोड अपलोड करने के बाद, हम निम्न उदाहरण की तरह .yaml या JSON में एक नुस्खा का उपयोग करके अपना घटक बना सकते हैं:

---
RecipeFormatVersion: 2020-01-25
ComponentName: dummymodel.inference
ComponentVersion: 0.0.1
ComponentDescription: Deploys inference code to a client
ComponentPublisher: Amazon Web Services, Inc.
ComponentDependencies:
  aws.GreenGrass.TokenExchangeService:
    VersionRequirement: '>=0.0.0'
    DependencyType: HARD
  dummymodel:
    VersionRequirement: '>=0.0.0'
    DependencyType: HARD
Manifests:
  - Platform:
      os: linux
      architecture: "*"
    Lifecycle:
      install: |-
        apt-get install python3-pip
        pip3 install numpy
        pip3 install sysv_ipc
        pip3 install boto3
        pip3 install grpcio-tools
        pip3 install grpcio
        pip3 install protobuf
        pip3 install SageMaker
        tar xf {artifacts:path}/sourcedir.tar.gz
      run:
        script: |-
          sleep 5 && sudo python3 {work:path}/inference.py 
    Artifacts:
      - URI: s3://BUCKET-NAME/path/to/inference/sourcedir.tar.gz
        Permission:
          Execute: OWNER

यह उदाहरण नुस्खा हमारे घटक के नाम और विवरण के साथ-साथ हमारे रन स्क्रिप्ट कमांड से पहले आवश्यक पूर्वापेक्षाएँ दिखाता है। नुस्खा डिवाइस में एक कार्य फ़ोल्डर वातावरण में आर्टिफैक्ट को अनपैक करता है, और हम उस पथ का उपयोग हमारे अनुमान कोड को चलाने के लिए करते हैं। ऐसी रेसिपी बनाने के लिए AWS CLI कमांड है:

aws greengrassv2 create-component-version --region $REGION 
                                          --inline-recipe fileb://path/to/recipe.yaml

अब आप AWS IoT ग्रीनग्रास कंसोल पर बनाए गए इस घटक को देख सकते हैं।

इस तथ्य से सावधान रहें कि घटक संस्करण मायने रखता है, और इसे नुस्खा फ़ाइल में निर्दिष्ट किया जाना चाहिए। एक ही संस्करण संख्या को दोहराने से एक त्रुटि वापस आ जाएगी।

हमारे मॉडल और अनुमान कोड को घटकों के रूप में स्थापित करने के बाद, हम उन्हें तैनात करने के लिए तैयार हैं।

AWS IoT ग्रीनग्रास का उपयोग करके एप्लिकेशन और मॉडल को परिनियोजित करें

पिछले अनुभागों में, आपने सीखा कि कैसे अनुमान कोड और एमएल मॉडल को पैकेज करना है। अब हम कई घटकों के साथ एक परिनियोजन बना सकते हैं जिसमें एज डिवाइस में मॉडल के साथ इंटरैक्ट करने के लिए हमारे अनुमान कोड के लिए आवश्यक घटक और कॉन्फ़िगरेशन दोनों शामिल हैं।

एज मैनेजर एजेंट वह घटक है जिसे एज मैनेजर की सभी क्षमताओं को सक्षम करने के लिए प्रत्येक एज डिवाइस पर स्थापित किया जाना चाहिए। सेजमेकर कंसोल पर, हमारे पास एक डिवाइस फ्लीट परिभाषित है, जिसमें एक संबद्ध S3 बकेट है। बेड़े से जुड़े सभी एज डिवाइस इस S3 पथ पर अपने डेटा को कैप्चर और रिपोर्ट करेंगे। एजेंट को AWS IoT ग्रीनग्रास v2 में एक घटक के रूप में तैनात किया जा सकता है, जिससे एजेंट को स्टैंडअलोन मोड में तैनात किए जाने की तुलना में इसे स्थापित करना और कॉन्फ़िगर करना आसान हो जाता है। एक घटक के रूप में एजेंट को तैनात करते समय, हमें इसके कॉन्फ़िगरेशन पैरामीटर, अर्थात् डिवाइस फ्लीट और S3 पथ निर्दिष्ट करने की आवश्यकता होती है।

हम अभी बनाए गए मॉडल और कोड के लिए कस्टम घटकों के साथ एक परिनियोजन कॉन्फ़िगरेशन बनाते हैं। यह सेटअप एक JSON फ़ाइल में परिभाषित किया गया है जो परिनियोजन नाम और लक्ष्य के साथ-साथ परिनियोजन में घटकों को सूचीबद्ध करता है। हम प्रत्येक घटक के कॉन्फ़िगरेशन पैरामीटर को जोड़ और अपडेट कर सकते हैं, जैसे कि एज मैनेजर एजेंट में, जहां हम बेड़े का नाम और बाल्टी निर्दिष्ट करते हैं।

{
    "targetArn": "targetArn",
    "deploymentName": "dummy-deployment",
    "components": {
        "aws.GreenGrass.Nucleus": {
            "version": "2.5.3",
        },
        "aws.GreenGrass.Cli": {
            "version": "2.5.3"
        },
        "aws.GreenGrass.SageMakerEdgeManager": {
            "version": 1.1.0,
            "configurationUpdate": {
                "merge": {
                "DeviceFleetName": "FLEET-NAME",
                "BucketName": "BUCKET-NAME-URI"
                }
            }
        },
        "dummymodel.inference": {
            "version": "0.0.1"
        },
        "dummymodel": {
            "version": "0.0.1"
        }
    }
}

यह ध्यान देने योग्य है कि हमने न केवल मॉडल, अनुमान घटकों और एजेंट को जोड़ा है, बल्कि AWS IoT ग्रीनग्रास CLI और न्यूक्लियस को भी घटकों के रूप में जोड़ा है। पूर्व डिवाइस पर स्थानीय रूप से कुछ तैनाती को डीबग करने में मदद कर सकता है। यदि आवश्यक हो (उदाहरण के लिए, प्रॉक्सी सेटिंग्स), और यदि आप AWS IoT ग्रीनग्रास v2 न्यूक्लियस का OTA अपग्रेड करना चाहते हैं, तो डिवाइस से आवश्यक नेटवर्क एक्सेस को कॉन्फ़िगर करने के लिए बाद वाले को परिनियोजन में जोड़ा जाता है। न्यूक्लियस को तैनात नहीं किया गया है क्योंकि यह डिवाइस में स्थापित है, और केवल कॉन्फ़िगरेशन अपडेट लागू किया जाएगा (जब तक कि कोई अपग्रेड न हो)। तैनात करने के लिए, हमें बस पिछले कॉन्फ़िगरेशन पर निम्न कमांड चलाने की आवश्यकता है। लक्ष्य ARN सेट करना याद रखें जिस पर परिनियोजन लागू किया जाएगा (एक IoT चीज़ या IoT समूह)। हम इन घटकों को कंसोल से भी तैनात कर सकते हैं।

aws greengrassv2 create-deployment --region $REGION 
                                   --cli-input-json file://path/to/deployment.json

किनारे पर तैनात एमएल मॉडल की निगरानी और प्रबंधन करें

अब जब आपका एप्लिकेशन किनारे के उपकरणों पर चल रहा है, तो यह समझने का समय है कि शासन, रखरखाव और दृश्यता में सुधार के लिए बेड़े की निगरानी कैसे करें। सेजमेकर कंसोल पर, चुनें एज मैनेजर नेविगेशन फलक में, फिर चुनें एज डिवाइस बेड़े. यहां से अपना बेड़ा चुनें।

बेड़े के विवरण पृष्ठ पर, आप उन मॉडलों के कुछ मेटाडेटा देख सकते हैं जो आपके बेड़े के प्रत्येक उपकरण पर चल रहे हैं। फ्लीट रिपोर्ट हर 24 घंटे में तैयार की जाती है।

एज एजेंट के माध्यम से प्रत्येक डिवाइस द्वारा कैप्चर किया गया डेटा json लाइन्स फॉर्मेट (JSONL) में S3 बकेट में भेजा जाता है। कैप्चर किए गए डेटा को भेजने की प्रक्रिया को एप्लिकेशन के दृष्टिकोण से प्रबंधित किया जाता है। इसलिए आप यह तय करने के लिए स्वतंत्र हैं कि यह डेटा भेजा जाए या नहीं, कैसे और कितनी बार।

आप इस डेटा का उपयोग कई चीजों के लिए कर सकते हैं, जैसे डेटा बहाव और मॉडल गुणवत्ता की निगरानी करना, एक नया डेटासेट बनाना, डेटा झील को समृद्ध करना, और बहुत कुछ। इस डेटा का उपयोग करने का एक सरल उदाहरण यह है कि जब आप कुछ डेटा बहाव की पहचान करते हैं जिस तरह से उपयोगकर्ता आपके एप्लिकेशन के साथ इंटरैक्ट कर रहे हैं और आपको एक नए मॉडल को प्रशिक्षित करने की आवश्यकता है। फिर आप कैप्चर किए गए डेटा के साथ एक नया डेटासेट बनाते हैं और इसे वापस विकास खाते में कॉपी करते हैं। यह स्वचालित रूप से आपके परिवेश का एक नया रन शुरू कर सकता है जो एक नया मॉडल बनाता है और परिनियोजित समाधान के प्रदर्शन को बनाए रखने के लिए इसे पूरे बेड़े में फिर से तैनात करता है।

निष्कर्ष

इस पोस्ट में, आपने सीखा कि AWS सेवाओं का उपयोग करके MLOps और ML@Edge को मिलाकर एक संपूर्ण समाधान कैसे बनाया जाता है। इस तरह के समाधान का निर्माण मामूली नहीं है, लेकिन हम आशा करते हैं कि इस पोस्ट में प्रस्तुत संदर्भ वास्तुकला आपको प्रेरित कर सकती है और आपको अपनी व्यावसायिक चुनौतियों के लिए एक ठोस वास्तुकला बनाने में मदद कर सकती है। आप इस आर्किटेक्चर के केवल उन हिस्सों या मॉड्यूल का भी उपयोग कर सकते हैं जो आपके मौजूदा एमएलओपीएस पर्यावरण के साथ एकीकृत होते हैं। एक समय में एक एकल मॉड्यूल को प्रोटोटाइप करके और इस चुनौती के प्रत्येक भाग को संबोधित करने के लिए उपयुक्त AWS सेवाओं का उपयोग करके, आप सीख सकते हैं कि एक मजबूत MLOps वातावरण कैसे बनाया जाए और अंतिम आर्किटेक्चर को और सरल बनाया जाए।

अगले चरण के रूप में, हम आपको अपने एमएल ऐट एज लाइफ़साइकल को प्रबंधित करने के लिए सेजमेकर एज मैनेजर को आज़माने के लिए प्रोत्साहित करते हैं। एज मैनेजर कैसे काम करता है, इस बारे में अधिक जानकारी के लिए देखें सेजमेकर एज मैनेजर के साथ किनारे पर मॉडल तैनात करें .

लेखक के बारे में

ब्रूनो पिस्टन मिलान में स्थित एडब्ल्यूएस के लिए एक एआई/एमएल विशेषज्ञ समाधान वास्तुकार है। वह किसी भी आकार के ग्राहकों के साथ उनकी तकनीकी जरूरतों को गहराई से समझने और एआई और मशीन लर्निंग समाधानों को डिजाइन करने में मदद करने के लिए काम करता है जो एडब्ल्यूएस क्लाउड और अमेज़ॅन मशीन लर्निंग स्टैक का सबसे अच्छा उपयोग करते हैं। उनकी विशेषज्ञता का क्षेत्र मशीन लर्निंग एंड टू एंड, मशीन लर्निंग औद्योगीकरण और एमएलओप्स हैं। उन्हें अपने दोस्तों के साथ समय बिताना और नई जगहों की खोज करना, साथ ही नए गंतव्यों की यात्रा करना पसंद है।

माटेओ कैलाब्रेसी एडब्ल्यूएस प्रोफेशनल सर्विसेज टीम में एआई/एमएल कस्टमर डिलीवरी आर्किटेक्ट है। वह एआई/एमएल परियोजनाओं पर ईएमईए बड़े उद्यमों के साथ काम करता है, जिससे उन्हें एमएल उत्पादन कार्यभार के प्रस्ताव, डिजाइन, वितरण, पैमाने और अनुकूलन में मदद मिलती है। उनकी मुख्य विशेषज्ञता एमएल ऑपरेशन (एमएलओपीएस) और एज में मशीन लर्निंग हैं। उनका लक्ष्य एडब्ल्यूएस सर्वोत्तम अभ्यास प्रदान करके व्यावसायिक परिणामों को महत्व देने और उनमें तेजी लाने के लिए उनके समय को कम करना है। अपने खाली समय में, उन्हें लंबी पैदल यात्रा और यात्रा करना पसंद है।

राउल डियाज़ गार्सिया एडब्ल्यूएस प्रोफेशनल सर्विसेज टीम में सीनियर डेटा साइंटिस्ट हैं। वह ईएमईए में बड़े उद्यम ग्राहकों के साथ काम करता है, जहां वह उन्हें आईओटी स्पेस में कंप्यूटर विज़न और मशीन लर्निंग से संबंधित समाधानों को सक्षम करने में मदद करता है।

सोक्रतिस कार्तिकी अमेज़ॅन वेब सेवाओं के लिए एक वरिष्ठ मशीन लर्निंग विशेषज्ञ समाधान वास्तुकार हैं। सोक्राटिस एडब्ल्यूएस सेवाओं का फायदा उठाकर और अपने ऑपरेटिंग मॉडल, यानी एमएलओपीएस फाउंडेशन, और ट्रांसफॉर्मेशन रोडमैप को सर्वोत्तम विकास प्रथाओं का लाभ उठाकर उद्यम ग्राहकों को अपने मशीन लर्निंग (एमएल) समाधानों का औद्योगीकरण करने में सक्षम बनाने पर ध्यान केंद्रित करता है। उन्होंने ऊर्जा, खुदरा, स्वास्थ्य, वित्त/बैंकिंग, मोटरस्पोर्ट्स आदि के क्षेत्र में अभिनव एंड-टू-एंड प्रोडक्शन-लेवल एमएल और इंटरनेट ऑफ थिंग्स (IoT) समाधानों की खोज, डिजाइन, नेतृत्व और कार्यान्वयन पर 15+ वर्ष बिताए हैं। सोकरातिस अपना खाली समय परिवार और दोस्तों के साथ बिताना पसंद करते हैं, या मोटरबाइक की सवारी करना पसंद करते हैं।

समीर अरुजो एडब्ल्यूएस में एआई/एमएल सॉल्यूशंस आर्किटेक्ट हैं। वह ग्राहकों को एआई/एमएल समाधान बनाने में मदद करता है जो एडब्ल्यूएस का उपयोग करके उनकी व्यावसायिक चुनौतियों का समाधान करते हैं। वह कंप्यूटर विज़न, नेचुरल लैंग्वेज प्रोसेसिंग, फोरकास्टिंग, ML ऐज एज, आदि से संबंधित कई AI/ML प्रोजेक्ट्स पर काम कर रहे हैं। वह अपने खाली समय में हार्डवेयर और स्वचालन परियोजनाओं के साथ खेलना पसंद करते हैं, और रोबोटिक्स के लिए उनकी विशेष रुचि है।