Az AWS Panorama mostantól támogatja az NVIDIA JetPack SDK 4.6.2-t

AWS Panoráma gépi tanulási (ML) eszközök és szoftverfejlesztő készlet (SDK) gyűjteménye, amely számítógépes látást visz a helyszíni internetprotokoll (IP) kamerákba. Az AWS Panorama eszközök között megtalálható az AWS Panorama Appliance és az AWS Panorama által hajtott Lenovo ThinkEdge SE70. Ezek az eszközopciók az egyedi használati esettől függően ár és teljesítmény tekintetében kínálnak választási lehetőséget. Mindkét AWS Panorama eszköz az NVIDIA® Jetson™ System on Modules (SOM) rendszerre épül, és az NVIDIA JetPack SDK-t használják.

Az AWS új szoftverfrissítést adott ki az AWS Panorama számára, amely támogatja az NVIDIA Jetpack SDK 4.6.2-es verzióját. Ezt a szoftverfrissítést letöltheti, és az AWS Panorama eszközre egy OTA (Other-the-air) frissítési eljárással alkalmazhatja. További részletekért lásd AWS Panorama Appliance kezelése.

Ez a kiadás visszafelé nem kompatibilis az AWS Panorama korábbi szoftverkiadásaival; újra kell építenie és újra kell telepítenie az alkalmazásait. Ez a bejegyzés lépésről lépésre nyújt útmutatót az alkalmazásszoftver-könyvtárak frissítéséhez a legújabb támogatott verziókra.

A frissítés áttekintése

A NVIDIA Jetpack SDK 4.6.2-es verzió támogatja a CUDA 10.2, cuDNN 8.2.1 és TensorRT 8.2.1 újabb verzióit. További jelentős, már támogatott könyvtárak közé tartozik a DeepStream 6.0 és a Triton Inference Server 21.07. Ezenkívül a TensorRT 8.2.1 tartalmazza a DNN-operátor-támogatás kibővített listáját, a Sigmoid/Tanh INT8-támogatást a DLA-hoz, valamint a TensorFlow-val és a PyTorch-al való jobb integrációt. A Torch to TensorRT konvertálása már támogatott, valamint a TensorFlow TensorRT, anélkül, hogy közbenső lépésként ONNX-re kellene konvertálni. További részletekért lásd: Az NVIDIA bejelentette a TensorRT 8.2-t és a PyTorch- és TensorFlow-integrációkat.

Alkalmazásait újratelepítheti a következő szakaszok lépéseinek követésével.

Előfeltételek

Előfeltételként szüksége van egy AWS-fiókra és egy AWS Panorama eszköz.

Frissítse az AWS Panorama eszközt

Először frissítse AWS Panorama eszközét a legújabb verzióra.

1. Az AWS Panorama konzolon válassza a lehetőséget Eszközök a navigációs ablaktáblában.
2. Válasszon készüléket.
3. A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a beállítások.
4. Alatt Rendszer szoftver, választ Szoftverfrissítés megtekintése.
   
   
5. A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a Rendszerszoftver 5.0 verzió vagy fentebb, majd folytassa a szoftver telepítését.

Telepítse újra az alkalmazást

Ha az alkalmazás részeként nem használja a GPU megnyitása funkciót, használja az AWS Panorama konzol Csere funkcióját. A Csere funkció újjáépíti a modellt a legújabb szoftverhez.

1. Az AWS Panorama konzolon válassza a lehetőséget Telepített alkalmazások a navigációs ablaktáblában.
2. Válasszon ki egy alkalmazást.
3. A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a Cserélje.
   

Az Open GPU-elérési funkciót használó alkalmazások esetében a frissítés általában magában foglalja a tároló hozzáférésének engedélyezését a mögöttes GPU-hardverhez, valamint a saját modellek és futási környezet üzembe helyezését és kezelését. Javasoljuk az NVIDIA TensorRT használatát az alkalmazásban, de nem korlátozódik erre.

Frissítenie kell a Dockerfile könyvtárait is. A tipikusan frissítendő könyvtárak közé tartozik a CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 és VPI 1.1. Megjegyzés: az összes kapcsolódó CUDA/NVIDIA-módosítás a szoftververemben megtalálható a következő címen JetPack SDK 4.6.2.

Most újraépítheti a TensorRT 8.2.1 modelljeit, és frissítheti csomag.json fájl a frissített eszközökkel. Most tudsz épít tárolóját a frissített függőségekkel és modellekkel, és telepítse az alkalmazástárolót a készülékére az AWS Panorama konzol vagy API-k.

Ezen a ponton az AWS Panorama alkalmazásainak képesnek kell lenniük a Jetpack SDK 4.6.2-es verziójának használatára. Az AWS Panorama ezzel a verzióval kompatibilis példaalkalmazásai itt találhatók GitHub.

Következtetés

Az AWS Panorama új frissítésével újra kell építenie és újra kell telepítenie alkalmazásait. Ez a bejegyzés végigvezeti Önt az AWS Panorama alkalmazásszoftver-könyvtárak frissítésének lépésein a legújabb támogatott verziókra.

Kérdéseivel forduljon az AWS Panorámához a címen AWS re:Hozzászólás.

A szerzőkről

Vinod Raman az AWS fő termékmenedzsere.

Steven White az AWS vezető számítógép-látás/EdgeML megoldások építésze.