AWS Panorama acceptă acum NVIDIA JetPack SDK 4.6.2

AWS Panorama este o colecție de dispozitive de învățare automată (ML) și un kit de dezvoltare software (SDK) care oferă viziunea computerizată camerelor cu protocol de internet (IP) locale. Opțiunile pentru dispozitivele AWS Panorama includ AWS Panorama Appliance și Lenovo ThinkEdge SE70, alimentat de AWS Panorama. Aceste opțiuni de dispozitiv vă oferă opțiuni de preț și performanță, în funcție de cazul dvs. unic de utilizare. Ambele dispozitive AWS Panorama sunt construite pe NVIDIA® Jetson™ System on Modules (SOM) și folosesc SDK-ul NVIDIA JetPack.

AWS a lansat o nouă actualizare software pentru AWS Panorama care acceptă NVIDIA Jetpack SDK versiunea 4.6.2. Puteți descărca această actualizare de software și o puteți aplica pe dispozitivul AWS Panorama printr-un proces de actualizare over-the-air (OTA). Pentru mai multe detalii, vezi Gestionarea unui dispozitiv AWS Panorama.

Această versiune nu este compatibilă cu versiunile anterioare de software pentru AWS Panorama; trebuie să reconstruiți și să redistribuiți aplicațiile. Această postare oferă un ghid pas cu pas pentru actualizarea bibliotecilor de aplicații software la cele mai recente versiuni acceptate.

Prezentare generală a actualizării

NVIDIA Jetpack SDK versiunea 4.6.2 include suport pentru versiunile mai noi de CUDA 10.2, cuDNN 8.2.1 și TensorRT 8.2.1. Alte biblioteci notabile acceptate acum includ DeepStream 6.0 și Triton Inference Server 21.07. În plus, TensorRT 8.2.1 include o listă extinsă de suport pentru operatori DNN, suport pentru Sigmoid/Tanh INT8 pentru DLA și o mai bună integrare cu TensorFlow și PyTorch. Conversia Torch în TensorRT este acum acceptată, precum și TensorFlow în TensorRT, fără a fi necesară conversia la ONNX ca pas intermediar. Pentru detalii suplimentare, consultați NVIDIA anunță TensorRT 8.2 și integrări cu PyTorch și TensorFlow.

Vă puteți redistribui aplicațiile urmând pașii din secțiunile următoare.

Cerințe preliminare

Ca o cerință prealabilă, aveți nevoie de un cont AWS și de un Dispozitiv AWS Panorama.

Actualizați-vă dispozitivul AWS Panorama

În primul rând, actualizați dispozitivul AWS Panorama la cea mai recentă versiune.

1. Pe consola AWS Panorama, alegeți Dispozitive în panoul de navigare.
2. Alegeți un aparat.
3. Alege Setări cont.
4. În Programul sistemului, alege Vizualizare actualizare software.
   
   
5. Alege Software de sistem versiunea 5.0 sau mai sus și apoi procedați la instalarea acestui software.

Reinstalați aplicația dvs

Dacă nu utilizați caracteristica de acces Open GPU ca parte a aplicației dvs., utilizați caracteristica Înlocuire de pe consola AWS Panorama. Funcția Înlocuire vă reconstruiește modelul pentru cel mai recent software.

1. Pe consola AWS Panorama, alegeți Aplicații implementate în panoul de navigare.
2. Selectați o aplicație.
3. Alege Înlocui.
   

Pentru aplicațiile care utilizează funcția de acces Open GPU, upgrade-ul implică, de obicei, să vă permiteți accesul containerului la hardware-ul GPU-ul de bază și să implementați și să vă gestionați propriile modele și timp de execuție. Vă recomandăm să utilizați NVIDIA TensorRT în aplicația dvs., dar nu vă limitați la asta.

De asemenea, trebuie să actualizați bibliotecile Dockerfile. Bibliotecile tipice de actualizat includ CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 și VPI 1.1. Ca o notă, toate modificările legate de CUDA/NVIDIA din stiva de software pot fi găsite la JetPack SDK 4.6.2.

Acum reconstruiți modelele pentru TensorRT 8.2.1 și vă actualizați pachet.json fișier cu activele actualizate. Acuma poți construi containerul dvs. cu dependențele și modelele actualizate și implementați containerul aplicației pe dispozitiv utilizând consola AWS Panorama sau API-uri.

În acest moment, aplicațiile dvs. AWS Panorama ar trebui să poată utiliza Jetpack SDK versiunea 4.6.2. Exemplele de aplicații AWS Panorama care sunt compatibile cu această versiune se află pe GitHub.

Concluzie

Cu noua actualizare pentru AWS Panorama, trebuie să reconstruiți și să vă redistribuiți aplicațiile. Această postare v-a ghidat prin pașii pentru a vă actualiza bibliotecile software de aplicație AWS Panorama la cele mai recente versiuni acceptate.

Vă rugăm să contactați AWS Panorama pentru orice întrebări la AWS re:Post.

Despre Autori

Vinod Raman este manager de produs principal la AWS.

Steven White este arhitect senior de viziune pe computer/EdgeML Solutions la AWS.