AWS Panorama รองรับ NVIDIA JetPack SDK 4.6.2 . แล้ว

AWS พาโนรามา คือชุดของอุปกรณ์การเรียนรู้ของเครื่อง (ML) และชุดพัฒนาซอฟต์แวร์ (SDK) ที่นำวิสัยทัศน์ของคอมพิวเตอร์มาสู่กล้องอินเทอร์เน็ตโปรโตคอล (IP) ภายในองค์กร ตัวเลือกอุปกรณ์ AWS Panorama ได้แก่ AWS Panorama Appliance และ Lenovo ThinkEdge SE70 ที่ขับเคลื่อนโดย AWS Panorama ตัวเลือกอุปกรณ์เหล่านี้ให้คุณเลือกได้ทั้งในด้านราคาและประสิทธิภาพ โดยขึ้นอยู่กับกรณีการใช้งานเฉพาะของคุณ อุปกรณ์ AWS Panorama ทั้งสองเครื่องสร้างขึ้นบน NVIDIA® Jetson™ System บนโมดูล (SOM) และใช้ NVIDIA JetPack SDK

AWS ได้เปิดตัวการอัปเดตซอฟต์แวร์ใหม่สำหรับ AWS Panorama ที่รองรับ NVIDIA Jetpack SDK เวอร์ชัน 4.6.2 คุณสามารถดาวน์โหลดการอัปเดตซอฟต์แวร์นี้และนำไปใช้กับอุปกรณ์ AWS Panorama ผ่านกระบวนการอัปเกรดแบบ over-the-air (OTA) ดูรายละเอียดเพิ่มเติมได้ที่ การจัดการ AWS Panorama Appliance.

รุ่นนี้ไม่สามารถใช้งานร่วมกับซอฟต์แวร์รุ่นก่อนหน้าสำหรับ AWS Panorama ได้ คุณต้องสร้างและปรับใช้แอปพลิเคชันของคุณใหม่ โพสต์นี้ให้คำแนะนำทีละขั้นตอนในการอัปเดตไลบรารีซอฟต์แวร์แอปพลิเคชันของคุณเป็นเวอร์ชันล่าสุดที่รองรับ

ภาพรวมของการอัพเดท

พื้นที่ NVIDIA Jetpack SDK เวอร์ชัน 4.6.2 รวมการสนับสนุน CUDA 10.2, cuDNN 8.2.1 และ TensorRT 8.2.1 เวอร์ชันใหม่กว่า ขณะนี้ไลบรารีเด่นอื่นๆ รองรับ DeepStream 6.0 และ Triton Inference Server 21.07 นอกจากนี้ TensorRT 8.2.1 ยังเพิ่มรายการรองรับตัวดำเนินการ DNN, รองรับ Sigmoid/Tanh INT8 สำหรับ DLA และการรวมที่ดีขึ้นกับ TensorFlow และ PyTorch รองรับการแปลง Torch เป็น TensorRT เช่นเดียวกับ TensorFlow เป็น TensorRT โดยไม่จำเป็นต้องแปลงเป็น ONNX เป็นขั้นตอนกลาง สำหรับรายละเอียดเพิ่มเติม โปรดดูที่ NVIDIA ประกาศ TensorRT 8.2 และการผสานรวมกับ PyTorch และ TensorFlow.

คุณสามารถปรับใช้แอปพลิเคชันของคุณอีกครั้งโดยทำตามขั้นตอนในหัวข้อต่อไปนี้

เบื้องต้น

เป็นข้อกำหนดเบื้องต้น คุณต้องมีบัญชี AWS และ อุปกรณ์ AWS Panorama.

อัปเกรดอุปกรณ์ AWS Panorama

ขั้นแรก คุณต้องอัปเกรดอุปกรณ์ AWS Panorama เป็นเวอร์ชันล่าสุด

1. บนคอนโซล AWS Panorama ให้เลือก อุปกรณ์ ในบานหน้าต่างนำทาง
2. เลือกเครื่องใช้ไฟฟ้า
3. Choose การตั้งค่า.
4. ภายใต้ ซอฟต์แวร์ระบบเลือก ดูการอัปเดตซอฟต์แวร์.
   
   
5. Choose ซอฟต์แวร์ระบบเวอร์ชัน 5.0 ขึ้นไป จากนั้นดำเนินการติดตั้งซอฟต์แวร์นี้

ปรับใช้แอปพลิเคชันของคุณอีกครั้ง

หากคุณไม่ได้ใช้คุณสมบัติการเข้าถึง Open GPU เป็นส่วนหนึ่งของแอปพลิเคชัน ให้ใช้คุณสมบัติแทนที่บนคอนโซล AWS Panorama ฟังก์ชัน Replace จะสร้างแบบจำลองของคุณขึ้นมาใหม่สำหรับซอฟต์แวร์ล่าสุด

1. บนคอนโซล AWS Panorama ให้เลือก แอปพลิเคชันที่ปรับใช้ ในบานหน้าต่างนำทาง
2. เลือกแอปพลิเคชัน
3. Choose แทนที่.
   

สำหรับแอปพลิเคชันที่ใช้คุณสมบัติการเข้าถึง Open GPU โดยทั่วไปการอัปเกรดจะเกี่ยวข้องกับการอนุญาตให้คอนเทนเนอร์ของคุณเข้าถึงฮาร์ดแวร์ GPU พื้นฐาน และปรับใช้และจัดการโมเดลและรันไทม์ของคุณเอง เราขอแนะนำให้ใช้ NVIDIA TensorRT ในแอปพลิเคชันของคุณ แต่ไม่จำกัดเพียงเท่านี้

คุณต้องอัปเดตไลบรารีของ Dockerfile ด้วย ไลบรารีทั่วไปที่จะอัปเดต ได้แก่ CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 และ VPI 1.1 หมายเหตุ สามารถดูการเปลี่ยนแปลง CUDA/NVIDIA ที่เกี่ยวข้องทั้งหมดในซอฟต์แวร์สแต็กได้ที่ JetPack SDK 4.6.2.

ตอนนี้คุณสร้างโมเดลใหม่สำหรับ TensorRT 8.2.1 และอัปเดตของคุณ package.json ไฟล์ที่มีเนื้อหาที่อัปเดต ได้แล้ว สร้าง คอนเทนเนอร์ของคุณที่มีการขึ้นต่อกันและโมเดลที่อัปเดตแล้วปรับใช้คอนเทนเนอร์แอปพลิเคชันกับอุปกรณ์โดยใช้คอนโซล AWS Panorama หรือ APIs.

ณ จุดนี้ แอปพลิเคชัน AWS Panorama ควรสามารถใช้ Jetpack SDK เวอร์ชัน 4.6.2 ได้ แอปพลิเคชันตัวอย่างของ AWS Panorama ที่เข้ากันได้กับเวอร์ชันนี้อยู่ที่ GitHub.

สรุป

ด้วยการอัปเดตใหม่ใน AWS Panorama คุณต้องสร้างและปรับใช้แอปพลิเคชันของคุณใหม่ โพสต์นี้จะแนะนำคุณตลอดขั้นตอนในการอัปเดตไลบรารีซอฟต์แวร์แอปพลิเคชัน AWS Panorama เป็นเวอร์ชันล่าสุดที่รองรับ

โปรดติดต่อ AWS Panorama หากมีคำถามใดๆ ที่ AWS re:โพสต์.

เกี่ยวกับผู้เขียน

วิโนด รามัน เป็นผู้จัดการผลิตภัณฑ์หลักที่ AWS

สตีเวน ไวท์ เป็นสถาปนิกอาวุโสด้าน Computer Vision/EdgeML Solutions ที่ AWS