AWS Panorama tukee nyt NVIDIA JetPack SDK 4.6.2:ta

AWS-panoraama on kokoelma koneoppimislaitteita (ML) ja ohjelmistokehityspakettia (SDK), joka tuo tietokonenäön paikallisiin Internet Protocol (IP) -kameroihin. AWS Panorama -laitevaihtoehtoja ovat AWS Panorama Appliance ja Lenovo ThinkEdge SE70, jonka tehonlähteenä on AWS Panorama. Nämä laitevaihtoehdot tarjoavat sinulle hinta- ja suorituskykyvaihtoehtoja yksilöllisen käyttötilanteen mukaan. Molemmat AWS Panorama -laitteet on rakennettu NVIDIA® Jetson™ System on Modules (SOM) -järjestelmään ja käyttävät NVIDIA JetPack SDK:ta.

AWS on julkaissut uuden ohjelmistopäivityksen AWS Panoramalle, joka tukee NVIDIA Jetpack SDK -versiota 4.6.2. Voit ladata tämän ohjelmistopäivityksen ja ottaa sen käyttöön AWS Panorama -laitteessa OTA-päivitysprosessin kautta. Katso lisätietoja AWS Panorama Appliancen hallinta.

Tämä julkaisu ei ole taaksepäin yhteensopiva AWS Panoraman aikaisempien ohjelmistojulkaisujen kanssa. sinun on rakennettava ja järjestettävä uudelleen sovelluksesi. Tämä viesti tarjoaa vaiheittaisen oppaan sovellusohjelmistokirjastojen päivittämiseen uusimpiin tuettuihin versioihin.

Päivityksen yleiskatsaus

- NVIDIA Jetpack SDK -versio 4.6.2 sisältää tuen CUDA 10.2:n, cuDNN 8.2.1:n ja TensorRT 8.2.1:n uudemmille versioille. Muita nyt tuettuja merkittäviä kirjastoja ovat DeepStream 6.0 ja Triton Inference Server 21.07. Lisäksi TensorRT 8.2.1 sisältää laajennetun luettelon DNN-operaattorituesta, Sigmoid/Tanh INT8 -tuen DLA:lle ja paremman integraation TensorFlow'n ja PyTorchin kanssa. Torch to TensorRT muuntaminen on nyt tuettu, samoin kuin TensorFlow TensorRT ilman tarvetta muuntaa ONNX:ksi välivaiheena. Lisätietoja on kohdassa NVIDIA julkistaa TensorRT 8.2:n ja integraatiot PyTorchin ja TensorFlow'n kanssa.

Voit asentaa sovelluksesi uudelleen noudattamalla seuraavien osien ohjeita.

Edellytykset

Edellytyksenä tarvitset AWS-tilin ja AWS Panorama laite.

Päivitä AWS Panorama -laitteesi

Ensin päivität AWS Panorama -laitteesi uusimpaan versioon.

1. Valitse AWS Panorama -konsolissa Laitteet navigointipaneelissa.
2. Valitse laite.
3. Valita Asetukset.
4. Alle järjestelmän ohjelmisto, valitse Näytä ohjelmistopäivitys.
   
   
5. Valita Järjestelmäohjelmiston versio 5.0 tai uudempi ja jatka sitten tämän ohjelmiston asentamista.

Ota sovelluksesi käyttöön uudelleen

Jos et käytä Open GPU -käyttöominaisuutta osana sovellustasi, käytät AWS Panorama -konsolin Korvaa-ominaisuutta. Korvaa-toiminto rakentaa mallisi uudelleen uusinta ohjelmistoa varten.

1. Valitse AWS Panorama -konsolissa Käyttöönotetut sovellukset navigointipaneelissa.
2. Valitse sovellus.
3. Valita korvata.
   

Open GPU Access -ominaisuutta käyttäville sovelluksille päivitys sisältää yleensä sen, että säilön käyttöoikeus annetaan taustalla olevaan GPU-laitteistoon sekä omien mallien ja suoritusajan käyttöönotto ja hallinta. Suosittelemme käyttämään NVIDIA TensorRT:tä sovelluksessasi, mutta et rajoitu tähän.

Sinun on myös päivitettävä Dockerfile-tiedostosi kirjastot. Tyypillisiä päivitettäviä kirjastoja ovat CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 ja VPI 1.1. Huomaa, että kaikki ohjelmistopinoon liittyvät CUDA/NVIDIA-muutokset löytyvät osoitteesta JetPack SDK 4.6.2.

Nyt rakennat mallit uudelleen TensorRT 8.2.1:lle ja päivität package.json tiedosto päivitetyillä resursseilla. Nyt voit rakentaa säilösi päivitetyillä riippuvuuksilla ja malleilla ja ota sovellussäilö käyttöön laitteeseesi AWS Panorama -konsolin avulla tai API.

Tässä vaiheessa AWS Panorama -sovellusten pitäisi pystyä käyttämään Jetpack SDK -versiota 4.6.2. AWS Panoraman mallisovellukset, jotka ovat yhteensopivia tämän version kanssa, sijaitsevat osoitteessa GitHub.

Yhteenveto

Uuden AWS Panoraman päivityksen myötä sinun on rakennettava uudelleen sovelluksesi ja otettava ne uudelleen käyttöön. Tämä viesti opasti sinua päivittämään AWS Panorama -sovellusohjelmistokirjastosi uusimpiin tuettuihin versioihin.

Jos sinulla on kysyttävää, ota yhteyttä AWS Panoramaan osoitteessa AWS re:Post.

Tietoja Tekijät

Vinod Raman on AWS:n päätuotepäällikkö.

Steven White on AWS:n vanhempi Computer Vision/EdgeML Solutions -arkkitehti.