Antrenați-vă o dată, alergați oriunde, aproape: unitatea Qualcomm de a aduce AI pe telefonul său, cipuri de PC

Qualcomm știe că, dacă dorește ca dezvoltatorii să construiască și să optimizeze aplicații AI în portofoliul său de siliciu, gigantul Snapdragon trebuie să facă experiența mai simplă și, în mod ideal, mai bună decât ceea ce au pregătit rivalii săi în departamentul de stivă de software.

De aceea, miercuri, designerul de cipuri fără fabule a prezentat ceea ce numește Qualcomm AI Stack, care își propune, printre altele, să permită dezvoltatorilor să ia modele AI pe care le-au dezvoltat pentru un tip de dispozitiv, să spunem smartphone-uri, și să le adapteze cu ușurință pentru altul, ca PC-urile. Această stivă este doar pentru dispozitivele alimentate de sistemul pe cipuri Qualcomm, fie ele în laptopuri, telefoane mobile, divertisment auto sau altceva.

În timp ce Qualcomm este cel mai bine cunoscut pentru cipurile Snapdragon, bazate pe Arm, care alimentează multe telefoane Android, casa de cipuri speră să se dezvolte pe alte piețe, cum ar fi computerele personale, Internetul obiectelor și industria auto. Această expansiune înseamnă că Qualcomm concurează cu oameni ca Apple, Intel, Nvidia, AMD, și altele, pe un câmp de luptă mult mai mare.

Având în vedere că toți acești jucători sunt de acord că AI este o sarcină de lucru esențială viitoare pentru orice, de la mașini și dispozitive IoT până la PC-uri și smartphone-uri, Qualcomm speră să iasă în evidență printr-o stivă unificată de software, care reunește toate instrumentele, cadrele, duratele de execuție și altele existente ale companiei. tipuri de software pentru dezvoltarea aplicațiilor AI pe familiile sale de procesoare.

Într-o întâlnire cu jurnaliştii, directorul executiv al Qualcomm, Ziad Asghar, a declarat că consolidarea eforturilor companiei de software AI corespunde modului în care aceasta a preluat tehnologia de bază a cipurilor şi a adaptat-o ​​la diferite pieţe cu personalizare.

„Așadar, o investiție devine un avantaj pozitiv real pentru noi, deoarece acum investiția pe care o facem într-un domeniu este de fapt capabilă să se propagă foarte puternic în toate domeniile diferite”, a spus Asghar, care este vicepreședinte de management de produs la Qualcomm Technologies.

Deschiderea trusei de instrumente

Cu Qualcomm AI Stack, compania speră acum să aducă acest beneficiu al utilizării unui set de tehnologii pentru mai multe zone de piață dezvoltatorilor și producătorilor de dispozitive din partea software-ului.

Prin reducerea cantității de muncă necesară pentru adaptarea aplicațiilor AI de la un tip de cip Qualcomm la altul, afacerea promite că va economisi bani companiilor pe resurse de inginerie costisitoare.

„Oferim bazei noastre OEM capacitatea de a putea face asta în mare măsură, fără a fi nevoit să cheltuiască mult mai mult în termeni de [inginerie nerecurentă]”, a spus Asghar.

Ceea ce diferențiază Qualcomm AI Stack de stivele de software concurente, potrivit Asghar, este Qualcomm AI Model Efficiency Toolkit. Una dintre cele mai semnificative caracteristici ale sale este abilitatea de a comprima un model AI amanat de putere antrenat în cloud de la precizie în virgulă mobilă de 32 de biți la formatul întreg de 8 biți, astfel încât să poată rula bine pe dispozitive cu putere redusă.

„Pe măsură ce faci asta, poți aduce beneficii uriașe în ceea ce privește consumul de energie, îmbunătățirea consumului de energie de până la patru ori în multe cazuri în scenarii ca acesta”, a spus el.

Qualcomm se bazează, de asemenea, pe instrumentul său Neural Architecture Search, care le permite dezvoltatorilor să optimizeze modelele AI folosind diverse constrângeri, cum ar fi o precizie mai mare, o latență mai mică sau o putere mai mică. Acest lucru le va permite dezvoltatorilor, a spus Asghar, „obține mult mai multă precizie sau un model care vă poate oferi o latență mai mică sau un model care este capabil să facă aceeași sarcină la o putere mai mică”.

Deși o mare parte din software-ul de bază din Qualcomm AI Stack nu este nou, Asghar a numit unificarea elementelor un „salt înainte” pentru dezvoltatori și producătorii de dispozitive și a spus că va servi drept bază pentru kiturile de dezvoltare software specifice domeniului în viitor. piețele prind contur.

„Ceea ce ne imaginăm este că acum, cu această bază foarte solidă, care este unificată în toate liniile de afaceri diferite, putem începe să scriem mai multe dintre aceste SDK-uri specifice domeniului, pe măsură ce apare o nouă verticală în care vedem o aglomerare a clienților noștri.” el a spus. ®