ฝึกครั้งเดียว วิ่งได้ทุกที่ เกือบ: แรงผลักดันของ Qualcomm เพื่อนำ AI มาสู่โทรศัพท์ ชิปพีซี

Qualcomm รู้ดีว่าหากต้องการให้นักพัฒนาสร้างและเพิ่มประสิทธิภาพแอปพลิเคชัน AI ในกลุ่มผลิตภัณฑ์ซิลิคอน ยักษ์ใหญ่ Snapdragon จำเป็นต้องทำให้ประสบการณ์ใช้งานได้ง่ายขึ้นและดีกว่าที่คู่แข่งทำในแผนกซอฟต์แวร์

นั่นเป็นเหตุผลที่เมื่อวันพุธผู้ออกแบบชิป fabless ได้แนะนำสิ่งที่เรียกว่า สแต็ค AI ของ Qualcommซึ่งมีจุดมุ่งหมายเพื่อให้นักพัฒนานำโมเดล AI ที่พวกเขาพัฒนาขึ้นมาสำหรับอุปกรณ์ประเภทหนึ่ง เช่น สมาร์ทโฟน และปรับให้เข้ากับอุปกรณ์ประเภทอื่นได้อย่างง่ายดาย เหมือนพีซี. สแต็คนี้มีไว้สำหรับอุปกรณ์ที่ขับเคลื่อนโดยระบบบนชิปของ Qualcomm เท่านั้น ไม่ว่าจะเป็นในแล็ปท็อป โทรศัพท์มือถือ ความบันเทิงในรถยนต์ หรืออย่างอื่น

แม้ว่า Qualcomm จะเป็นที่รู้จักกันดีในเรื่องชิป Snapdragon แบบ Arm-based สำหรับมือถือที่ขับเคลื่อนโทรศัพท์ Android หลายรุ่น แต่ Chip House นี้ก็หวังว่าจะเติบโตไปสู่ตลาดอื่นๆ เช่น คอมพิวเตอร์ส่วนบุคคล อินเทอร์เน็ตของสรรพสิ่ง และยานยนต์ การขยายตัวนี้หมายความว่า Qualcomm กำลังแข่งขันกับ Apple, อินเทล, Nvidia, เอเอ็มดีและอื่น ๆ ในสนามรบที่ใหญ่กว่ามาก

เนื่องจากผู้เล่นทั้งหมดเหล่านี้เห็นพ้องต้องกันว่า AI เป็นภาระงานที่สำคัญในอนาคตสำหรับทุกอย่างตั้งแต่รถยนต์และอุปกรณ์ IoT ไปจนถึงพีซีและสมาร์ทโฟน Qualcomm หวังว่าจะโดดเด่นด้วยสแต็กซอฟต์แวร์ที่เป็นหนึ่งเดียว ซึ่งรวบรวมเครื่องมือ เฟรมเวิร์ก รันไทม์และอื่น ๆ ที่มีอยู่ทั้งหมดของบริษัท ประเภทของซอฟต์แวร์สำหรับพัฒนาแอปพลิเคชัน AI ในตระกูลโปรเซสเซอร์

ในการบรรยายสรุปกับนักข่าว Ziad Asghar ผู้บริหารของ Qualcomm กล่าวว่าการรวมความพยายามด้านซอฟต์แวร์ AI ของบริษัทนั้นสอดคล้องกับการนำเทคโนโลยีชิปหลักมาปรับใช้กับตลาดต่างๆ ด้วยการปรับแต่งเอง

“ดังนั้น การลงทุนจึงกลายเป็นข้อได้เปรียบเชิงบวกอย่างแท้จริงสำหรับเรา เพราะตอนนี้การลงทุนที่เราทำในพื้นที่หนึ่งสามารถแพร่กระจายอย่างแข็งแกร่งไปยังพื้นที่ต่างๆ ทั้งหมดได้” Asghar รองประธานฝ่ายการจัดการผลิตภัณฑ์ที่ Qualcomm Technologies กล่าว

เปิดชุดเครื่องมือ

ด้วย Qualcomm AI Stack บริษัทหวังที่จะนำประโยชน์ของการใช้ชุดเทคโนโลยีชุดเดียวสำหรับหลายพื้นที่ตลาดมาสู่นักพัฒนาและผู้ผลิตอุปกรณ์ในด้านซอฟต์แวร์

ด้วยการลดปริมาณงานที่ต้องใช้ในการปรับแอปพลิเคชัน AI จากชิป Qualcomm ประเภทหนึ่งไปอีกประเภทหนึ่ง บริษัท นี้สัญญาว่าจะช่วย บริษัท ต่างๆประหยัดเงินในทรัพยากรด้านวิศวกรรมที่มีราคาแพง

"เรากำลังให้ความสามารถกับฐาน OEM ของเราเพื่อให้สามารถทำเช่นนั้นได้ในระดับที่ดีโดยไม่ต้องใช้จ่ายมากขึ้นในแง่ของ [วิศวกรรมที่ไม่เกิดซ้ำ]" Asghar กล่าว

สิ่งที่ทำให้ Qualcomm AI Stack แตกต่างจากชุดซอฟต์แวร์ที่แข่งขันกันตาม Asghar คือ Qualcomm AI Model Efficiency Toolkit หนึ่งในคุณสมบัติที่สำคัญที่สุดของมันคือความสามารถในการบีบอัดโมเดล AI ที่ใช้พลังงานมากซึ่งฝึกฝนในระบบคลาวด์จากความแม่นยำของจุดทศนิยม 32 บิตไปเป็นรูปแบบจำนวนเต็ม 8 บิต เพื่อให้สามารถทำงานได้ดีบนอุปกรณ์ที่ใช้พลังงานต่ำ

“เมื่อคุณทำเช่นนั้น คุณจะได้รับประโยชน์มหาศาลในแง่ของการใช้พลังงาน การปรับปรุงการใช้พลังงานถึงสี่เท่าในหลายกรณีในสถานการณ์เช่นนี้” เขากล่าว

วอลคอมม์ยังให้บริการด้านเครื่องมือการค้นหาสถาปัตยกรรมประสาท ซึ่งช่วยให้นักพัฒนาเพิ่มประสิทธิภาพโมเดล AI โดยใช้ข้อจำกัดต่างๆ เช่น ความแม่นยำที่มากขึ้น เวลาแฝงที่ต่ำกว่า หรือพลังงานที่ต่ำกว่า สิ่งนี้จะช่วยให้นักพัฒนาสามารถ Asghar กล่าวว่า "ได้รับความแม่นยำมากขึ้นหรือแบบจำลองที่สามารถให้เวลาแฝงที่ต่ำกว่าหรือแบบจำลองที่สามารถทำงานเดียวกันโดยใช้พลังงานต่ำ"

แม้ว่าซอฟต์แวร์พื้นฐานส่วนใหญ่ใน Qualcomm AI Stack จะไม่ใช่เรื่องใหม่ Asghar เรียกการรวมองค์ประกอบเหล่านี้ว่า "ก้าวกระโดด" สำหรับนักพัฒนาและผู้ผลิตอุปกรณ์ และกล่าวว่าซอฟต์แวร์ดังกล่าวจะทำหน้าที่เป็นรากฐานสำหรับชุดพัฒนาซอฟต์แวร์เฉพาะโดเมนในอนาคต ตลาดเป็นรูปเป็นร่าง

“สิ่งที่เราเห็นคือตอนนี้ด้วยรากฐานที่แข็งแกร่งมาก ซึ่งรวมเป็นหนึ่งเดียวในทุกสายธุรกิจที่แตกต่างกัน เราสามารถเริ่มเขียน SDK เฉพาะโดเมนเหล่านี้มากขึ้นเมื่อมีแนวดิ่งใหม่เกิดขึ้นที่เราเห็นการรวมตัวกันของลูกค้าของเรา” เขาพูดว่า. ®