Тренуйтеся один раз, бігайте куди завгодно, майже: прагнення Qualcomm залучити AI у свій телефон, чіпи для ПК

Qualcomm знає, що якщо він хоче, щоб розробники створювали та оптимізували додатки штучного інтелекту в своєму портфоліо кремнію, гіганту Snapdragon потрібно зробити роботу простішою та, в ідеалі, кращою, ніж те, що готували її конкуренти у відділі стеку програмного забезпечення.

Ось чому в середу розробник чіпів fabless представив те, що він називає Стек Qualcomm AI, який, серед іншого, має на меті дозволити розробникам використовувати моделі ШІ, які вони розробили для одного типу пристроїв, скажімо, смартфонів, і легко адаптувати їх для іншого, як ПК. Цей стек призначений лише для пристроїв, які працюють від системи Qualcomm на чіпі, будь то ноутбуки, мобільні телефони, автомобільні розваги чи щось інше.

Незважаючи на те, що Qualcomm найбільш відома своїми мобільними чіпами Snapdragon на базі Arm, які працюють на багатьох телефонах Android, чіп-компанія сподівається вийти на інші ринки, такі як персональні комп’ютери, Інтернет речей і автомобільна промисловість. Це розширення означає, що Qualcomm конкурує з подібними Apple, Intel, Nvidia, AMD, та інші, на набагато більшому полі бою.

Враховуючи, що всі ці гравці погоджуються, що штучний інтелект є ключовим майбутнім робочим навантаженням для всього, починаючи від автомобілів і пристроїв Інтернету речей і закінчуючи ПК і смартфонами, Qualcomm сподівається виділитися за допомогою єдиного програмного стеку, який об’єднує всі існуючі інструменти компанії, фреймворки, середовища виконання та інше. види програмного забезпечення для розробки додатків ШІ на сімействах процесорів.

Під час брифінгу з журналістами виконавчий директор Qualcomm Зіад Асгар сказав, що консолідація зусиль компанії щодо програмного забезпечення штучного інтелекту відповідає тому, як вона використовує свою основну технологію чіпів та адаптує її до різних ринків за допомогою налаштування.

«Тож інвестиції стають справжньою позитивною перевагою для нас, тому що тепер інвестиції, які ми робимо в одну сферу, насправді можуть дуже сильно поширюватися на всі різні сфери», — сказав Асгар, який є віце-президентом з управління продуктами в Qualcomm Technologies.

Відкриття набору інструментів

Завдяки Qualcomm AI Stack компанія тепер сподівається надати цю перевагу використання одного набору технологій для багатьох ринкових областей розробникам і виробникам пристроїв на стороні програмного забезпечення.

Зменшивши обсяг роботи, необхідний для адаптації додатків штучного інтелекту від одного типу чіпа Qualcomm до іншого, компанія обіцяє заощадити гроші компаній на дорогих інженерних ресурсах.

«Ми надаємо нашій базі OEM можливість робити це значною мірою, фактично не витрачаючи набагато більше на [неповторювані інженерні роботи]», — сказав Асгар.

За словами Асгара, те, що відрізняє Qualcomm AI Stack від конкуруючих стеків програмного забезпечення, це набір інструментів Qualcomm AI Model Efficiency Toolkit. Однією з його найважливіших особливостей є здатність стискати енергоємну модель AI, навчену в хмарі, з 32-бітної точності з плаваючою комою до 8-бітного цілочисельного формату, щоб вона могла добре працювати на пристроях з низьким енергоспоживанням.

«Якщо ви це зробите, ви зможете принести величезні переваги з точки зору споживання електроенергії, покращення споживання енергії до чотирьох разів у багатьох випадках у подібних сценаріях», — сказав він.

Qualcomm також робить ставку на свій інструмент Neural Architecture Search, який дозволяє розробникам оптимізувати моделі штучного інтелекту за допомогою різних обмежень, таких як більша точність, менша затримка або менша потужність. Це дозволить розробникам, за словами Асгара, «отримати набагато більшу точність або модель, яка здатна дати вам меншу затримку, або модель, яка здатна виконувати те саме завдання за меншої потужності».

Хоча значна частина програмного забезпечення, що лежить в основі Qualcomm AI Stack, не нова, Асгар назвав уніфікацію елементів «ривком вперед» для розробників і виробників пристроїв і сказав, що в майбутньому це стане основою для комплектів розробки програмного забезпечення для конкретної області. ринки формуються.

«Те, що ми передбачаємо, так це те, що тепер, маючи цю дуже міцну основу, яка об’єднана в усіх різних бізнес-напрямках, ми можемо почати писати більше цих доменно-спеціальних SDK, оскільки з’являється нова вертикаль, де ми бачимо агломерацію наших клієнтів», він сказав. ®