एडब्ल्यूएस पैनोरमा अब एनवीआईडीआईए जेटपैक एसडीके 4.6.2 का समर्थन करता है

AWS पैनोरमा मशीन लर्निंग (एमएल) उपकरणों और एक सॉफ्टवेयर डेवलपमेंट किट (एसडीके) का एक संग्रह है जो ऑन-प्रिमाइसेस इंटरनेट प्रोटोकॉल (आईपी) कैमरों में कंप्यूटर विज़न लाता है। एडब्ल्यूएस पैनोरमा डिवाइस विकल्पों में एडब्ल्यूएस पैनोरमा उपकरण और एडब्ल्यूएस पैनोरमा द्वारा संचालित लेनोवो थिंकएज एसई70 शामिल हैं। ये उपकरण विकल्प आपके अद्वितीय उपयोग के मामले के आधार पर आपको कीमत और प्रदर्शन में विकल्प प्रदान करते हैं। दोनों AWS पैनोरमा डिवाइस NVIDIA® Jetson™ सिस्टम ऑन मॉड्यूल्स (SOMs) पर बनाए गए हैं और NVIDIA JetPack SDK का उपयोग करते हैं।

एडब्ल्यूएस ने एडब्ल्यूएस पैनोरमा के लिए एक नया सॉफ्टवेयर अपडेट जारी किया है जो एनवीआईडीआईए जेटपैक एसडीके संस्करण 4.6.2 का समर्थन करता है। आप इस सॉफ़्टवेयर अपडेट को डाउनलोड कर सकते हैं और इसे ओवर-द-एयर (OTA) अपग्रेड प्रक्रिया के माध्यम से AWS पैनोरमा डिवाइस पर लागू कर सकते हैं। अधिक जानकारी के लिए देखें AWS पैनोरमा उपकरण का प्रबंधन.

यह रिलीज़ AWS पैनोरमा के लिए पिछले सॉफ़्टवेयर रिलीज़ के साथ पिछड़ा संगत नहीं है; आपको अपने अनुप्रयोगों का पुनर्निर्माण और पुनर्नियोजन करना होगा। यह पोस्ट आपके एप्लिकेशन सॉफ़्टवेयर लाइब्रेरी को नवीनतम समर्थित संस्करणों में अपडेट करने के लिए चरण-दर-चरण मार्गदर्शिका प्रदान करती है।

अद्यतन का अवलोकन

RSI NVIDIA जेटपैक एसडीके संस्करण 4.6.2 CUDA 10.2, cuDNN 8.2.1, और TensorRT 8.2.1 के नए संस्करणों के लिए समर्थन शामिल है। अब समर्थित अन्य उल्लेखनीय पुस्तकालयों में डीपस्ट्रीम 6.0 और ट्राइटन इनफरेंस सर्वर 21.07 शामिल हैं। इसके अलावा, TensorRT 8.2.1 में DNN ऑपरेटर समर्थन की एक विस्तृत सूची, DLA के लिए सिग्मॉइड/टैन INT8 समर्थन, और TensorFlow और PyTorch के साथ बेहतर एकीकरण शामिल है। मशाल से TensorRT रूपांतरण अब समर्थित है, साथ ही TensorFlow से TensorRT तक, बिना किसी मध्यवर्ती चरण के ONNX में कनवर्ट करने की आवश्यकता के। अतिरिक्त विवरण के लिए, देखें NVIDIA ने TensorRT 8.2 और PyTorch और TensorFlow के साथ एकीकरण की घोषणा की.

आप निम्न अनुभागों में दिए गए चरणों का पालन करके अपने अनुप्रयोगों को पुन: नियोजित कर सकते हैं।

.. पूर्वापेक्षाएँ

एक पूर्वापेक्षा के रूप में, आपको एक एडब्ल्यूएस खाते की आवश्यकता है और एक एडब्ल्यूएस पैनोरमा डिवाइस.

अपने AWS पैनोरमा डिवाइस को अपग्रेड करें

सबसे पहले, आप अपने AWS पैनोरमा डिवाइस को नवीनतम संस्करण में अपग्रेड करें।

1. AWS पैनोरमा कंसोल पर, चुनें डिवाइस नेविगेशन फलक में
2. एक उपकरण चुनें।
3. चुनें सेटिंग.
4. के अंतर्गत सिस्टम सॉफ्टवेयर, चुनें सॉफ्टवेयर अपडेट देखें.
   
   
5. चुनें सिस्टम सॉफ्टवेयर संस्करण 5.0 या ऊपर और फिर इस सॉफ़्टवेयर को स्थापित करने के लिए आगे बढ़ें।

अपने आवेदन को फिर से तैनात करें

यदि आप अपने एप्लिकेशन के हिस्से के रूप में ओपन जीपीयू एक्सेस सुविधा का उपयोग नहीं करते हैं, तो आप एडब्ल्यूएस पैनोरमा कंसोल पर बदलें सुविधा का उपयोग करते हैं। बदलें फ़ंक्शन नवीनतम सॉफ़्टवेयर के लिए आपके मॉडल का पुनर्निर्माण करता है।

1. AWS पैनोरमा कंसोल पर, चुनें तैनात आवेदन नेविगेशन फलक में
2. एक आवेदन का चयन करें।
3. चुनें बदलें.
   

ओपन GPU एक्सेस सुविधा का उपयोग करने वाले एप्लिकेशन के लिए, अपग्रेड करने में आमतौर पर आपके कंटेनर को अंतर्निहित GPU हार्डवेयर तक पहुंच की अनुमति देना और अपने स्वयं के मॉडल और रनटाइम को तैनात और प्रबंधित करना शामिल है। हम आपके आवेदन में NVIDIA TensorRT का उपयोग करने की सलाह देते हैं, लेकिन आप इस तक सीमित नहीं हैं।

आपको अपने Dockerfile के पुस्तकालयों को भी अद्यतन करने की आवश्यकता है। अद्यतन करने के लिए विशिष्ट पुस्तकालयों में CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, डीपस्ट्रीम 6.0, OpenCV 4.1.1 और VPI 1.1 शामिल हैं। एक नोट के रूप में, सॉफ़्टवेयर स्टैक में सभी संबंधित CUDA/NVIDIA परिवर्तन देखे जा सकते हैं जेटपैक एसडीके 4.6.2.

अब आप TensorRT 8.2.1 के लिए मॉडल का पुनर्निर्माण करें और अपना अपडेट करें package.json अद्यतन संपत्ति के साथ फ़ाइल। अब तुम यह कर सकते हो निर्माण अद्यतन निर्भरता और मॉडल के साथ आपका कंटेनर और एडब्ल्यूएस पैनोरमा कंसोल का उपयोग करके अपने उपकरण पर एप्लिकेशन कंटेनर को तैनात करें या एपीआई.

इस बिंदु पर आपके, एडब्ल्यूएस पैनोरमा एप्लिकेशन जेटपैक एसडीके संस्करण 4.6.2 का उपयोग करने में सक्षम होना चाहिए। एडब्ल्यूएस पैनोरमा के नमूना अनुप्रयोग जो इस संस्करण के साथ संगत हैं, पर स्थित हैं GitHub.

निष्कर्ष

AWS पैनोरमा के नए अपडेट के साथ, आपको अपने एप्लिकेशन को फिर से बनाना और फिर से तैनात करना होगा। इस पोस्ट ने आपको अपने AWS पैनोरमा एप्लिकेशन सॉफ़्टवेयर लाइब्रेरी को नवीनतम समर्थित संस्करणों में अपडेट करने के चरणों के बारे में बताया।

कृपया किसी भी प्रश्न के लिए एडब्ल्यूएस पैनोरमा तक पहुंचें एडब्ल्यूएस पुन: पोस्ट.

लेखक के बारे में

विनोद रमन AWS में प्रधान उत्पाद प्रबंधक हैं।

स्टीवन व्हाइट एडब्ल्यूएस में एक वरिष्ठ कंप्यूटर विजन/एजएमएल सॉल्यूशंस आर्किटेक्ट हैं।