Latih sekali, jalankan di mana saja, hampir: Drive Qualcomm untuk menghadirkan AI ke ponselnya, chip PC

Qualcomm tahu bahwa jika ingin pengembang membangun dan mengoptimalkan aplikasi AI di seluruh portofolio silikonnya, raksasa Snapdragon perlu membuat pengalamannya lebih sederhana dan, idealnya, lebih baik daripada apa yang telah disiapkan oleh para pesaingnya di departemen tumpukan perangkat lunak.

Itu sebabnya pada hari Rabu perancang chip fabless memperkenalkan apa yang disebutnya Tumpukan Qualcomm AI, yang bertujuan untuk, antara lain, memungkinkan pengembang mengambil model AI yang telah mereka kembangkan untuk satu jenis perangkat, katakanlah ponsel cerdas, dan dengan mudah menyesuaikannya untuk yang lain, seperti PC. Tumpukan ini hanya untuk perangkat yang didukung oleh sistem-on-chip Qualcomm, baik di laptop, ponsel, hiburan mobil, atau yang lainnya.

Sementara Qualcomm terkenal dengan chip Snapdragon berbasis Arm mobile yang menggerakkan banyak ponsel Android, rumah chip tersebut berharap dapat tumbuh ke pasar lain, seperti komputer pribadi, Internet of Things, dan otomotif. Ekspansi ini berarti Qualcomm bersaing dengan perusahaan-perusahaan seperti Apple, Intel, Nvidia, AMD, dan lainnya, di medan perang yang jauh lebih besar.

Mengingat bahwa semua pemain ini setuju bahwa AI adalah beban kerja utama di masa depan untuk semuanya, mulai dari mobil dan perangkat IoT hingga PC dan smartphone, Qualcomm berharap untuk menonjol dengan kumpulan perangkat lunak terpadu, yang menyatukan semua alat, kerangka kerja, runtime, dan lainnya yang ada di perusahaan. jenis perangkat lunak untuk mengembangkan aplikasi AI pada keluarga prosesornya.

Dalam briefing dengan wartawan, eksekutif Qualcomm Ziad Asghar mengatakan konsolidasi upaya perangkat lunak AI perusahaan sejalan dengan bagaimana ia telah mengambil teknologi chip intinya dan mengadaptasinya ke pasar yang berbeda dengan penyesuaian.

“Jadi investasi menjadi keuntungan positif yang nyata bagi kami karena sekarang investasi yang kami lakukan di satu area sebenarnya dapat menyebar dengan sangat kuat ke semua area yang berbeda,” kata Asghar, yang merupakan wakil presiden manajemen produk di Qualcomm Technologies.

Membuka toolkit

Dengan Qualcomm AI Stack, perusahaan sekarang berharap dapat membawa manfaat penggunaan satu set teknologi untuk beberapa area pasar ini kepada pengembang dan pembuat perangkat di sisi perangkat lunak.

Dengan mengurangi jumlah pekerjaan yang diperlukan untuk mengadaptasi aplikasi AI dari satu jenis chip Qualcomm ke yang lain, bisnis ini menjanjikan untuk menghemat uang perusahaan pada sumber daya teknik yang mahal.

“Kami memberikan kemampuan kepada basis OEM kami untuk dapat melakukan itu secara maksimal tanpa benar-benar harus menghabiskan lebih banyak dalam hal [rekayasa non-berulang],” kata Asghar.

Apa yang membedakan Qualcomm AI Stack dari tumpukan perangkat lunak yang bersaing, menurut Asghar, adalah Toolkit Efisiensi Model AI Qualcomm. Salah satu fitur terpentingnya adalah kemampuan untuk mengompresi model AI yang haus daya yang dilatih di cloud dari presisi floating point 32-bit ke format integer 8-bit sehingga dapat berjalan dengan baik di perangkat berdaya rendah.

“Saat Anda melakukannya, Anda dapat membawa manfaat besar dalam hal konsumsi daya, hingga peningkatan konsumsi daya hingga empat kali lipat dalam banyak kasus dalam skenario seperti ini,” katanya.

Qualcomm juga mengandalkan alat Pencarian Arsitektur Neural, yang memungkinkan pengembang mengoptimalkan model AI menggunakan berbagai kendala, seperti akurasi yang lebih tinggi, latensi yang lebih rendah, atau daya yang lebih rendah. Ini akan memungkinkan pengembang untuk, kata Asghar, “mendapatkan lebih banyak akurasi atau model yang mampu memberi Anda latensi lebih rendah atau model yang mampu melakukan tugas yang sama dengan daya lebih rendah.”

Sementara sebagian besar perangkat lunak yang mendasari di Qualcomm AI Stack bukanlah hal baru, Asghar menyebut penyatuan elemen sebagai "lompatan ke depan" bagi pengembang dan pembuat perangkat dan mengatakan itu akan berfungsi sebagai dasar untuk kit pengembangan perangkat lunak khusus domain ketika masa depan pasar terbentuk.

“Apa yang kami bayangkan adalah bahwa sekarang dengan pijakan yang sangat kokoh ini, yang disatukan di semua lini bisnis yang berbeda, kami dapat mulai menulis lebih banyak SDK khusus domain ini saat vertikal baru muncul di mana kami melihat aglomerasi pelanggan kami,” dia berkata. ®