Tren én gang, løp hvor som helst, nesten: Qualcomms innsats for å bringe AI til telefonen, PC-brikker

Qualcomm vet at hvis de vil at utviklere skal bygge og optimalisere AI-applikasjoner på tvers av sin silisiumportefølje, må Snapdragon-giganten gjøre opplevelsen enklere og ideelt sett bedre enn det konkurrentene har laget i programvarestabelavdelingen.

Derfor introduserte den fabelløse brikkedesigneren på onsdag det den kaller Qualcomm AI Stack, som har som mål blant annet å la utviklere ta AI-modeller de har utviklet for én enhetstype, la oss si smarttelefoner, og enkelt tilpasse dem til en annen, som PC-er. Denne stabelen er kun for enheter som drives av Qualcomms system-på-brikker, enten de er i bærbare datamaskiner, mobiltelefoner, bilunderholdning eller noe annet.

Mens Qualcomm er mest kjent for sine mobile Arm-baserte Snapdragon-brikker som driver mange Android-telefoner, håper chiphuset å vokse inn i andre markeder, som personlige datamaskiner, tingenes internett og bilindustrien. Denne utvidelsen betyr at Qualcomm konkurrerer med slike som eple, Intel, Nvidia, AMD, og andre, på en mye større slagmark.

Gitt at alle disse spillerne er enige om at AI er en viktig fremtidig arbeidsbelastning for alt fra biler og IoT-enheter til PC-er og smarttelefoner, håper Qualcomm å skille seg ut med en enhetlig programvarestabel, som samler alle selskapets eksisterende verktøy, rammeverk, kjøretider og andre typer programvare for å utvikle AI-applikasjoner på sine prosessorfamilier.

I en orientering med journalister sa Qualcomm-sjef Ziad Asghar at konsolideringen av selskapets AI-programvareinnsats faller i tråd med hvordan det har tatt sin kjernebrikketeknologi og tilpasset den til forskjellige markeder med tilpasning.

"Så en investering blir en reell positiv fordel for oss fordi nå investeringen vi gjør i ett område faktisk er i stand til å spre seg veldig sterkt inn i alle de forskjellige områdene," sa Asghar, som er visepresident for produktledelse i Qualcomm Technologies.

Åpne opp verktøysettet

Med Qualcomm AI Stack håper selskapet nå å bringe denne fordelen med å bruke ett sett med teknologier for flere markedsområder til utviklere og enhetsprodusenter på programvaresiden.

Ved å kutte ned på mengden arbeid som kreves for å tilpasse AI-applikasjoner fra én type Qualcomm-brikke til en annen, lover biz å spare bedrifter penger på dyre ingeniørressurser.

"Vi gir OEM-basen vår muligheten til å kunne gjøre det i stor grad uten å måtte bruke mye mer i form av [engangsteknikk]," sa Asghar.

Det som skiller Qualcomm AI Stack fra konkurrerende programvarestabler, ifølge Asghar, er Qualcomm AI Model Efficiency Toolkit. En av dens viktigste funksjoner er muligheten til å komprimere en kraftkrevende AI-modell trent i skyen fra 32-bits flytende punktpresisjon til 8-biters heltallsformat, slik at den kan kjøre godt på enheter med lavt strømforbruk.

"Når du gjør det, er du i stand til å gi enorme fordeler når det gjelder strømforbruk, opptil fire ganger forbedring av strømforbruket i mange tilfeller i scenarier som dette," sa han.

Qualcomm satser også på sitt Neural Architecture Search-verktøy, som lar utviklere optimalisere AI-modeller ved å bruke ulike begrensninger, for eksempel større nøyaktighet, lavere ventetid eller lavere effekt. Dette vil tillate utviklere å, sa Asghar, "få mye mer nøyaktighet eller en modell som er i stand til å gi deg lavere ventetid eller en modell som er i stand til å gjøre den samme oppgaven med lavere effekt."

Mens mye av den underliggende programvaren i Qualcomm AI Stack ikke er ny, kalte Asghar foreningen av elementene et "sprang fremover" for utviklere og enhetsprodusenter og sa at den vil tjene som grunnlaget for domenespesifikke programvareutviklingssett i fremtiden. markedene tar form.

"Det vi ser for oss er at nå med dette veldig solide fotfestet, som er forent på tvers av alle de forskjellige forretningslinjene, kan vi begynne å skrive flere av disse domenespesifikke SDK-ene etter hvert som en ny vertikal dukker opp der vi ser en agglomerasjon av kundene våre," han sa. ®