Nvidia ล่มด้วยรหัสต่ำในการอัพเดท AI Enterprise

Nvidia ตั้งเป้าที่จะขจัดความเจ็บปวดจากการพัฒนาแมชชีนเลิร์นนิงในสัปดาห์นี้ด้วยชุด AI Enterprise รุ่นล่าสุด ซึ่งรวมถึงชุดเครื่องมือแบบ low-code สำหรับเวิร์กโหลดแมชชีนเลิร์นนิง

การอัปเดตนี้ยังขยายการรองรับ Red Hat OpenShift, แพลตฟอร์มปฏิบัติการ ML ของ Domino Data Lab และเครื่องเสมือน NVads A10 v5 ของ Azure

เปิดตัวเมื่อฤดูร้อนที่แล้ว Nvidia เรียกเก็บเงิน AI Enterprise เป็นร้านค้าแบบครบวงจรสำหรับการพัฒนาและปรับใช้ปริมาณงานขององค์กรบน GPU โดยไม่คำนึงว่าจะถูกปรับใช้ในองค์กรหรือในระบบคลาวด์

ชุดเครื่องมือนี้เป็นชุดเครื่องมือและเฟรมเวิร์กที่พัฒนาหรือรับรองโดย Nvidia เพื่อให้การสร้างแอปพลิเคชัน AI/ML เข้าถึงได้ง่ายขึ้นสำหรับองค์กรทุกขนาด ในปีที่ผ่านมา ผู้ผลิตชิปได้เปิดตัวการสนับสนุนเฟรมเวิร์กยอดนิยมและแพลตฟอร์มการประมวลผลที่หลากหลาย เช่น vSphere ของ VMware

รุ่นล่าสุด — 2.1 รุ่น — แนะนำการสนับสนุนรหัสต่ำในรูปแบบของ TAO Toolkit ของ Nvidia

โค้ดน้อยเป็นแนวคิดในการขจัดความซับซ้อนที่เกี่ยวข้องกับการเข้ารหัสแอปพลิเคชันด้วยตนเอง ในกรณีนี้คือปริมาณงานการพูดและการมองเห็น AI โดยใช้โค้ดเพียงเล็กน้อยหรือไม่มีเลยในกระบวนการ ตัวอย่างเช่น TOA Toolkit ของ Nvidia มีคุณสมบัติรองรับ REST API, การนำเข้าน้ำหนัก, การรวม TensorBoard และโมเดลที่ผ่านการฝึกอบรมล่วงหน้าหลายรุ่น ซึ่งออกแบบมาเพื่อลดความซับซ้อนของกระบวนการประกอบแอปพลิเคชัน

นอกเหนือจากฟังก์ชันการทำงานแบบ low-code แล้ว การเปิดตัวยังรวมถึงเวอร์ชันล่าสุดของ Nvidia RAPIDS (22.04) ซึ่งเป็นชุดของไลบรารีซอฟต์แวร์โอเพ่นซอร์สและ API ที่กำหนดเป้าหมายไปที่แอปพลิเคชันด้านวิทยาศาสตร์ข้อมูลที่ทำงานบน GPU

รุ่น 2.1 ยังเห็นว่าผู้ผลิตชิปรับรองเครื่องมือและปริมาณงานเหล่านี้เพื่อใช้กับซอฟต์แวร์และแพลตฟอร์มคลาวด์ที่หลากหลาย

สำหรับผู้ที่ย้ายไปยังเฟรมเวิร์กคอนเทนเนอร์และคลาวด์เนทีฟ การอัปเดตจะเพิ่มการสนับสนุนอย่างเป็นทางการสำหรับการรันปริมาณงาน Nvidia บนแพลตฟอร์ม OpenShift Kubernetes ยอดนิยมของ Red Hat ในคลาวด์สาธารณะ

รันไทม์คอนเทนเนอร์ของเร้ดแฮทเป็นสภาพแวดล้อมแอปพลิเคชันล่าสุดที่ได้รับการรับรอง และเป็นไปตามการรวม vSphere ของ VMware เมื่อปีที่แล้ว บริการ MLOps ของ Domino Data Lab ก็ได้รับพรจาก Nvidia ในสัปดาห์นี้เช่นกัน แพลตฟอร์มของบริษัทมีเครื่องมือสำหรับการจัดเตรียมเซิร์ฟเวอร์ที่เร่งด้วย GPU สำหรับเวอร์ชวลไลเซชันของปริมาณงาน AI/ML

และสิ่งที่ไม่น่าประหลาดใจเลย ทีมสีเขียวได้รับรองอินสแตนซ์ GPU ที่ใช้ Nvidia รุ่นล่าสุดของ Microsoft Azure แล้ว แนะนำ ในเดือนมีนาคม อินสแตนซ์ขับเคลื่อนโดยตัวเร่งความเร็ว A10 ของผู้ผลิตชิป ซึ่งสามารถแบ่งออกเป็น GPU แบบเศษส่วนได้มากถึงหกตัวโดยใช้การแบ่งส่วนชั่วคราว

นอกเหนือจากการอัปเดต Nvidia AI Enterprise แล้ว บริษัทยังได้แนะนำห้องปฏิบัติการใหม่สามห้องสำหรับบริการ LaunchPad ซึ่งช่วยให้องค์กรสามารถเข้าถึงซอฟต์แวร์และฮาร์ดแวร์ AI/ML ในระยะสั้นเพื่อพิสูจน์แนวคิดและวัตถุประสงค์ในการทดสอบ

ห้องปฏิบัติการล่าสุดประกอบด้วยการฝึกอบรมหลายโหนดสำหรับการจัดประเภทอิมเมจบน vSphere ด้วย Tanzu ซึ่งเป็นแพลตฟอร์ม Kubernetes ของ VMware; การตรวจจับการฉ้อโกงโดยใช้โมเดล XGBoost และ Triton เซิร์ฟเวอร์การอนุมานของ Nvidia และการสร้างแบบจำลองการตรวจจับวัตถุโดยใช้ TOA Toolkit และ DeepStream ซึ่งเป็นบริการวิเคราะห์สตรีมมิ่งของผู้ผลิตชิป ®