AWS Panorama sekarang mendukung NVIDIA JetPack SDK 4.6.2

Panorama AWS adalah kumpulan perangkat pembelajaran mesin (ML) dan perangkat pengembangan perangkat lunak (SDK) yang menghadirkan visi komputer ke kamera protokol internet (IP) lokal. Opsi perangkat AWS Panorama mencakup AWS Panorama Appliance dan Lenovo ThinkEdge SE70, yang didukung oleh AWS Panorama. Opsi perangkat ini memberi Anda pilihan dalam harga dan kinerja, tergantung pada kasus penggunaan unik Anda. Kedua perangkat AWS Panorama dibangun di atas NVIDIA® Jetson™ System on Modules (SOMs) dan menggunakan NVIDIA JetPack SDK.

AWS telah merilis pembaruan perangkat lunak baru untuk AWS Panorama yang mendukung NVIDIA Jetpack SDK versi 4.6.2. Anda dapat mengunduh pembaruan perangkat lunak ini dan menerapkannya ke perangkat AWS Panorama melalui proses peningkatan versi over-the-air (OTA). Untuk lebih jelasnya, lihat Mengelola Peralatan Panorama AWS.

Rilis ini tidak kompatibel dengan rilis perangkat lunak sebelumnya untuk AWS Panorama; Anda harus membangun kembali dan menerapkan ulang aplikasi Anda. Posting ini memberikan panduan langkah demi langkah untuk memperbarui perpustakaan perangkat lunak aplikasi Anda ke versi terbaru yang didukung.

Ikhtisar pembaruan

Grafik NVIDIA Jetpack SDK versi 4.6.2 mencakup dukungan untuk versi CUDA 10.2, cuDNN 8.2.1, dan TensorRT 8.2.1 yang lebih baru. Pustaka terkenal lainnya yang sekarang didukung termasuk DeepStream 6.0 dan Triton Inference Server 21.07. Selain itu, TensorRT 8.2.1 menyertakan daftar dukungan operator DNN yang diperluas, dukungan Sigmoid/Tanh INT8 untuk DLA, dan integrasi yang lebih baik dengan TensorFlow dan PyTorch. Konversi Torch ke TensorRT kini didukung, serta TensorFlow ke TensorRT, tanpa perlu mengonversi ke ONNX sebagai langkah perantara. Untuk detail tambahan, lihat NVIDIA Mengumumkan TensorRT 8.2 dan Integrasi dengan PyTorch dan TensorFlow.

Anda dapat menerapkan ulang aplikasi Anda dengan mengikuti langkah-langkah di bagian berikut.

Prasyarat

Sebagai prasyarat, Anda memerlukan akun AWS dan Perangkat Panorama AWS.

Tingkatkan perangkat AWS Panorama Anda

Pertama, Anda meningkatkan perangkat AWS Panorama Anda ke versi terbaru.

1. Di konsol AWS Panorama, pilih Devices di panel navigasi.
2. Pilih Peralatan.
3. Pilih Settings.
4. Bawah software sistem, pilih Lihat pembaruan Perangkat Lunak.
   
   
5. Pilih Perangkat Lunak Sistem versi 5.0 atau di atasnya dan kemudian lanjutkan untuk menginstal perangkat lunak ini.

Terapkan ulang aplikasi Anda

Jika Anda tidak menggunakan fitur akses Open GPU sebagai bagian dari aplikasi Anda, Anda menggunakan fitur Ganti di konsol AWS Panorama. Fungsi Ganti membangun kembali model Anda untuk perangkat lunak terbaru.

1. Di konsol AWS Panorama, pilih Aplikasi yang diterapkan di panel navigasi.
2. Pilih aplikasi.
3. Pilih menggantikan.
   

Untuk aplikasi yang menggunakan fitur akses Open GPU, pemutakhiran biasanya melibatkan mengizinkan akses container Anda ke perangkat keras GPU yang mendasarinya dan menerapkan serta mengelola model dan waktu proses Anda sendiri. Kami menyarankan untuk menggunakan NVIDIA TensorRT dalam aplikasi Anda, tetapi Anda tidak terbatas pada ini.

Anda juga perlu memperbarui pustaka Dockerfile Anda. Pustaka umum yang akan diperbarui mencakup CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1, dan VPI 1.1. Sebagai catatan, semua perubahan CUDA/NVIDIA terkait dalam tumpukan perangkat lunak dapat ditemukan di JetPack SDK 4.6.2.

Sekarang Anda membangun kembali model untuk TensorRT 8.2.1 dan memperbarui package.json file dengan aset yang diperbarui. Sekarang kamu bisa membangun wadah Anda dengan dependensi dan model yang diperbarui dan menerapkan wadah aplikasi ke Appliance Anda menggunakan konsol AWS Panorama atau Lebah.

Pada titik ini, aplikasi AWS Panorama Anda harus dapat menggunakan Jetpack SDK versi 4.6.2. Contoh aplikasi AWS Panorama yang kompatibel dengan versi ini terletak di GitHub.

Kesimpulan

Dengan pembaruan baru untuk AWS Panorama, Anda harus membangun kembali dan menerapkan ulang aplikasi Anda. Posting ini memandu Anda melalui langkah-langkah untuk memperbarui perpustakaan perangkat lunak aplikasi AWS Panorama Anda ke versi terbaru yang didukung.

Silakan hubungi AWS Panorama jika ada pertanyaan di AWS re:Posting.

Tentang Penulis

Vinod Raman adalah Manajer Produk Utama di AWS.

Steven Putih adalah Senior Computer Vision/EdgeML Solutions Architect di AWS.