AWS প্যানোরামা এখন NVIDIA JetPack SDK 4.6.2 সমর্থন করে

AWS প্যানোরামা মেশিন লার্নিং (ML) ডিভাইসের একটি সংগ্রহ এবং একটি সফ্টওয়্যার ডেভেলপমেন্ট কিট (SDK) যা অন-প্রিমিসেস ইন্টারনেট প্রোটোকল (আইপি) ক্যামেরাগুলিতে কম্পিউটার দৃষ্টি নিয়ে আসে। AWS প্যানোরামা ডিভাইস বিকল্পগুলির মধ্যে রয়েছে AWS প্যানোরামা অ্যাপ্লায়েন্স এবং Lenovo ThinkEdge SE70, AWS Panorama দ্বারা চালিত৷ এই ডিভাইস বিকল্পগুলি আপনার অনন্য ব্যবহারের ক্ষেত্রে নির্ভর করে দাম এবং কার্যক্ষমতার ক্ষেত্রে আপনাকে পছন্দ প্রদান করে। উভয় AWS প্যানোরামা ডিভাইসই NVIDIA® Jetson™ সিস্টেম অন মডিউল (SOMs) এ নির্মিত এবং NVIDIA JetPack SDK ব্যবহার করে।

AWS AWS প্যানোরামার জন্য একটি নতুন সফ্টওয়্যার আপডেট প্রকাশ করেছে যা NVIDIA Jetpack SDK সংস্করণ 4.6.2 সমর্থন করে। আপনি এই সফ্টওয়্যার আপডেটটি ডাউনলোড করতে পারেন এবং এটি একটি ওভার-দ্য-এয়ার (OTA) আপগ্রেড প্রক্রিয়ার মাধ্যমে AWS প্যানোরামা ডিভাইসে প্রয়োগ করতে পারেন৷ আরো বিস্তারিত জানার জন্য, দেখুন একটি AWS প্যানোরামা অ্যাপ্লায়েন্স পরিচালনা করা.

এই রিলিজটি AWS প্যানোরামার পূর্ববর্তী সফ্টওয়্যার রিলিজের সাথে পশ্চাদমুখী সামঞ্জস্যপূর্ণ নয়; আপনাকে অবশ্যই আপনার অ্যাপ্লিকেশনগুলি পুনর্নির্মাণ এবং পুনরায় স্থাপন করতে হবে৷ এই পোস্টটি আপনার অ্যাপ্লিকেশন সফ্টওয়্যার লাইব্রেরিগুলিকে সর্বশেষ সমর্থিত সংস্করণগুলিতে আপডেট করার জন্য একটি ধাপে ধাপে নির্দেশিকা প্রদান করে৷

আপডেটের ওভারভিউ

সার্জারির NVIDIA Jetpack SDK সংস্করণ 4.6.2 CUDA 10.2, cuDNN 8.2.1, এবং TensorRT 8.2.1 এর নতুন সংস্করণগুলির জন্য সমর্থন অন্তর্ভুক্ত করে। অন্যান্য উল্লেখযোগ্য লাইব্রেরি এখন সমর্থিত ডিপস্ট্রিম 6.0 এবং ট্রাইটন ইনফারেন্স সার্ভার 21.07 অন্তর্ভুক্ত। এছাড়াও, TensorRT 8.2.1-এ DNN অপারেটর সমর্থনের একটি প্রসারিত তালিকা, DLA-এর জন্য Sigmoid/Tanh INT8 সমর্থন, এবং TensorFlow এবং PyTorch-এর সাথে আরও ভাল একীকরণ অন্তর্ভুক্ত রয়েছে। টর্চ থেকে টেনসরআরটি রূপান্তর এখন সমর্থিত, পাশাপাশি টেনসরফ্লো থেকে টেনসরআরটি, একটি মধ্যবর্তী পদক্ষেপ হিসাবে ONNX-এ রূপান্তর করার প্রয়োজন ছাড়াই। অতিরিক্ত বিবরণের জন্য, পড়ুন NVIDIA TensorRT 8.2 এবং PyTorch এবং TensorFlow এর সাথে ইন্টিগ্রেশন ঘোষণা করেছে.

আপনি নিম্নলিখিত বিভাগে পদক্ষেপগুলি অনুসরণ করে আপনার অ্যাপ্লিকেশনগুলি পুনরায় স্থাপন করতে পারেন৷

পূর্বশর্ত

পূর্বশর্ত হিসাবে, আপনার একটি AWS অ্যাকাউন্ট এবং একটি প্রয়োজন AWS প্যানোরামা ডিভাইস.

আপনার AWS প্যানোরামা ডিভাইস আপগ্রেড করুন

প্রথমে, আপনি আপনার AWS প্যানোরামা ডিভাইসটি সর্বশেষ সংস্করণে আপগ্রেড করুন৷

1. AWS প্যানোরামা কনসোলে, বেছে নিন ডিভাইস নেভিগেশন ফলকে।
2. একটি যন্ত্রপাতি নির্বাচন করুন.
3. বেছে নিন সেটিংস.
4. অধীনে অস্ত্রোপচারনির্বাচন সফটওয়্যার আপডেট দেখুন.
   
   
5. বেছে নিন সিস্টেম সফ্টওয়্যার সংস্করণ 5.0 বা উপরে এবং তারপর এই সফ্টওয়্যার ইনস্টল করতে এগিয়ে যান।

আপনার আবেদন পুনরায় স্থাপন

আপনি যদি আপনার অ্যাপ্লিকেশনের অংশ হিসাবে ওপেন GPU অ্যাক্সেস বৈশিষ্ট্যটি ব্যবহার না করেন তবে আপনি AWS প্যানোরামা কনসোলে প্রতিস্থাপন বৈশিষ্ট্যটি ব্যবহার করেন৷ প্রতিস্থাপন ফাংশন সর্বশেষ সফ্টওয়্যার জন্য আপনার মডেল পুনর্নির্মাণ.

1. AWS প্যানোরামা কনসোলে, বেছে নিন প্রয়োগ করা অ্যাপ্লিকেশন নেভিগেশন ফলকে।
2. একটি অ্যাপ্লিকেশন নির্বাচন করুন।
3. বেছে নিন প্রতিস্থাপন করা.
   

ওপেন GPU অ্যাক্সেস বৈশিষ্ট্য ব্যবহার করে অ্যাপ্লিকেশনগুলির জন্য, আপগ্রেড করার ক্ষেত্রে সাধারণত অন্তর্নিহিত GPU হার্ডওয়্যারে আপনার কন্টেইনার অ্যাক্সেসের অনুমতি দেওয়া এবং আপনার নিজস্ব মডেল এবং রানটাইম স্থাপন এবং পরিচালনা করা জড়িত। আমরা আপনার অ্যাপ্লিকেশানে NVIDIA TensorRT ব্যবহার করার পরামর্শ দিই, কিন্তু আপনি এতেই সীমাবদ্ধ নন।

আপনাকে আপনার ডকারফাইলের লাইব্রেরিগুলিও আপডেট করতে হবে। আপডেট করার জন্য সাধারণ লাইব্রেরির মধ্যে রয়েছে CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1, এবং VPI 1.1। একটি নোট হিসাবে, সফ্টওয়্যার স্ট্যাকের সমস্ত সম্পর্কিত CUDA/NVIDIA পরিবর্তন এখানে পাওয়া যাবে JetPack SDK 4.6.2.

এখন আপনি TensorRT 8.2.1 এর জন্য মডেলগুলি পুনর্নির্মাণ করুন এবং আপনার আপডেট করুন package.json আপডেট করা সম্পদ সহ ফাইল। এখন তুমি পারো নির্মাণ করা আপডেট হওয়া নির্ভরতা এবং মডেল সহ আপনার কন্টেইনার এবং AWS প্যানোরামা কনসোল ব্যবহার করে আপনার অ্যাপ্লায়েন্সে অ্যাপ্লিকেশন কন্টেইনার স্থাপন করুন বা API গুলি.

এই মুহুর্তে আপনার, AWS প্যানোরামা অ্যাপ্লিকেশনগুলি জেটপ্যাক SDK সংস্করণ 4.6.2 ব্যবহার করতে সক্ষম হওয়া উচিত। এই সংস্করণের সাথে সামঞ্জস্যপূর্ণ AWS প্যানোরামার নমুনা অ্যাপ্লিকেশনগুলি এখানে অবস্থিত৷ GitHub.

উপসংহার

AWS প্যানোরামাতে নতুন আপডেটের সাথে, আপনাকে অবশ্যই আপনার অ্যাপ্লিকেশনগুলিকে পুনর্নির্মাণ এবং পুনরায় স্থাপন করতে হবে৷ এই পোস্টটি আপনাকে আপনার AWS প্যানোরামা অ্যাপ্লিকেশন সফ্টওয়্যার লাইব্রেরিগুলিকে সর্বশেষ সমর্থিত সংস্করণে আপডেট করার পদক্ষেপের মাধ্যমে নিয়ে গেছে।

যেকোন প্রশ্ন থাকলে অনুগ্রহ করে এডব্লিউএস প্যানোরামার সাথে যোগাযোগ করুন AWS পুনরায়: পোস্ট.

লেখক সম্পর্কে

বিনোদ রমন AWS-এর একজন প্রধান পণ্য ব্যবস্থাপক।

স্টিভেন হোয়াইট AWS-এর একজন সিনিয়র কম্পিউটার ভিশন/এজএমএল সলিউশন আর্কিটেক্ট।