AWS Panorama prend désormais en charge NVIDIA JetPack SDK 4.6.2

Panorama AWS est une collection de dispositifs d'apprentissage automatique (ML) et un kit de développement logiciel (SDK) qui apporte la vision par ordinateur aux caméras IP (Internet Protocol) sur site. Les options de périphériques AWS Panorama incluent l'appliance AWS Panorama et le Lenovo ThinkEdge SE70, optimisés par AWS Panorama. Ces options d'appareil vous offrent des choix en termes de prix et de performances, en fonction de votre cas d'utilisation unique. Les deux appareils AWS Panorama sont construits sur le système NVIDIA® Jetson™ sur modules (SOM) et utilisent le SDK NVIDIA JetPack.

AWS a publié une nouvelle mise à jour logicielle pour AWS Panorama qui prend en charge la version 4.6.2 du SDK NVIDIA Jetpack. Vous pouvez télécharger cette mise à jour logicielle et l'appliquer à l'appareil AWS Panorama via un processus de mise à niveau en direct (OTA). Pour plus de détails, voir Gestion d'une appliance AWS Panorama.

Cette version n'est pas rétrocompatible avec les versions logicielles précédentes pour AWS Panorama ; vous devez reconstruire et redéployer vos applications. Cet article fournit un guide étape par étape pour mettre à jour vos bibliothèques de logiciels d'application vers les dernières versions prises en charge.

Aperçu de la mise à jour

La Kit de développement logiciel NVIDIA Jetpack version 4.6.2 inclut la prise en charge des versions plus récentes de CUDA 10.2, cuDNN 8.2.1 et TensorRT 8.2.1. D'autres bibliothèques notables désormais prises en charge incluent DeepStream 6.0 et Triton Inference Server 21.07. De plus, TensorRT 8.2.1 inclut une liste étendue de prise en charge des opérateurs DNN, la prise en charge Sigmoid/Tanh INT8 pour DLA et une meilleure intégration avec TensorFlow et PyTorch. La conversion de Torch vers TensorRT est désormais prise en charge, ainsi que TensorFlow vers TensorRT, sans qu'il soit nécessaire de convertir en ONNX comme étape intermédiaire. Pour plus de détails, reportez-vous à NVIDIA annonce TensorRT 8.2 et les intégrations avec PyTorch et TensorFlow.

Vous pouvez redéployer vos applications en suivant les étapes des sections suivantes.

Pré-requis

Comme condition préalable, vous avez besoin d'un compte AWS et d'un Appareil AWS Panorama.

Mettez à niveau votre appareil AWS Panorama

Tout d'abord, vous mettez à niveau votre appareil AWS Panorama vers la dernière version.

1. Sur la console AWS Panorama, choisissez Compatibles dans le volet de navigation.
2. Choisissez un appareil.
3. Selectionnez Paramètres.
4. Sous Logiciel système, choisissez Afficher la mise à jour du logiciel.
   
   
5. Selectionnez Logiciel système version 5.0 ou supérieur, puis procédez à l'installation de ce logiciel.

Redéployez votre application

Si vous n'utilisez pas la fonctionnalité d'accès Open GPU dans le cadre de votre application, vous utilisez la fonctionnalité Remplacer sur la console AWS Panorama. La fonction Remplacer reconstruit votre modèle pour le dernier logiciel.

1. Sur la console AWS Panorama, choisissez Applications déployées dans le volet de navigation.
2. Sélectionnez une application.
3. Selectionnez remplacer.
   

Pour les applications utilisant la fonctionnalité d'accès Open GPU, la mise à niveau implique généralement d'autoriser votre conteneur à accéder au matériel GPU sous-jacent, ainsi que de déployer et de gérer vos propres modèles et runtime. Nous vous recommandons d'utiliser NVIDIA TensorRT dans votre application, mais vous n'êtes pas limité à cela.

Vous devez également mettre à jour les bibliothèques de votre Dockerfile. Les bibliothèques typiques à mettre à jour incluent CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 et VPI 1.1. À noter que toutes les modifications liées à CUDA/NVIDIA dans la pile logicielle peuvent être trouvées sur Kit de développement logiciel JetPack 4.6.2.

Maintenant, vous reconstruisez les modèles pour TensorRT 8.2.1 et mettez à jour votre package.json fichier avec les actifs mis à jour. Tu peux maintenant construire votre conteneur avec les dépendances et les modèles mis à jour et déployez le conteneur d'application sur votre appliance à l'aide de la console AWS Panorama ou Apis.

À ce stade, vos applications AWS Panorama devraient pouvoir utiliser la version 4.6.2 du SDK Jetpack. Les exemples d'applications d'AWS Panorama compatibles avec cette version se trouvent sur GitHub.

Conclusion

Avec la nouvelle mise à jour d'AWS Panorama, vous devez reconstruire et redéployer vos applications. Cet article vous a guidé à travers les étapes de mise à jour de vos bibliothèques de logiciels d'application AWS Panorama vers les dernières versions prises en charge.

Veuillez contacter AWS Panorama pour toute question à l'adresse AWS re:Publier.

À propos des auteurs

Vinod Raman est chef de produit principal chez AWS.

Steven White est architecte senior de solutions Computer Vision/EdgeML chez AWS.