Træn én gang, løb hvor som helst, næsten: Qualcomms vilje til at bringe AI til sin telefon, pc-chips

Qualcomm ved, at hvis de vil have udviklere til at bygge og optimere AI-applikationer på tværs af sin portefølje af silicium, skal Snapdragon-giganten gøre oplevelsen enklere og ideelt set bedre end hvad dens konkurrenter har lavet i softwarestackafdelingen.

Derfor introducerede den fabelløse chipdesigner i onsdags, hvad den kalder Qualcomm AI Stack, som blandt andet har til formål at lade udviklere tage AI-modeller, de har udviklet til én enhedstype, lad os sige smartphones, og nemt tilpasse dem til en anden, som pc'er. Denne stak er kun til enheder, der drives af Qualcomms system-on-chips, det være sig i bærbare computere, mobiltelefoner, bilunderholdning eller noget andet.

Mens Qualcomm er bedst kendt for sine mobile Arm-baserede Snapdragon-chips, der driver mange Android-telefoner, håber chiphuset at vokse ind på andre markeder, såsom personlige computere, tingenes internet og bilindustrien. Denne udvidelse betyder, at Qualcomm konkurrerer med f.eks Apple, Intel, Nvidia, AMD, og andre, på en meget større slagmark.

I betragtning af at alle disse spillere er enige om, at AI er en vigtig fremtidig arbejdsbyrde for alt fra biler og IoT-enheder til pc'er og smartphones, håber Qualcomm at skille sig ud med en samlet softwarestak, som samler alle virksomhedens eksisterende værktøjer, rammer, runtimes og andre slags software til udvikling af AI-applikationer på dets familier af processorer.

I en briefing med journalister sagde Qualcomm-direktør Ziad Asghar, at konsolideringen af ​​virksomhedens AI-softwareindsats falder i tråd med, hvordan den har taget sin kernechipteknologi og tilpasset den til forskellige markeder med tilpasning.

"Så en investering bliver en reel positiv fordel for os, fordi nu er den investering, vi foretager i ét område, faktisk i stand til at forplante sig meget stærkt til alle de forskellige områder," sagde Asghar, der er vicepræsident for produktledelse hos Qualcomm Technologies.

Åbning af værktøjskassen

Med Qualcomm AI Stack håber virksomheden nu at bringe denne fordel ved at bruge ét sæt teknologier til flere markedsområder til udviklere og enhedsproducenter på softwaresiden.

Ved at skære ned på den mængde arbejde, der kræves for at tilpasse AI-applikationer fra en type Qualcomm-chip til en anden, lover biz'en at spare virksomheder penge på dyre tekniske ressourcer.

"Vi giver vores OEM-base muligheden for at kunne gøre det i høj grad uden faktisk at skulle bruge meget mere i form af [ikke-tilbagevendende teknik]," sagde Asghar.

Det, der adskiller Qualcomm AI Stack fra konkurrerende softwarestakke, ifølge Asghar, er Qualcomm AI Model Efficiency Toolkit. En af dens vigtigste egenskaber er evnen til at komprimere en strømkrævende AI-model trænet i skyen fra 32-bit floating point-præcision til 8-bit heltalsformatet, så den kan køre godt på enheder med lavt strømforbrug.

"Når du gør det, er du i stand til at bringe enorme fordele med hensyn til strømforbrug, op til fire gange forbedring af strømforbruget i mange tilfælde i scenarier som dette," sagde han.

Qualcomm satser også på sit Neural Architecture Search-værktøj, som lader udviklere optimere AI-modeller ved hjælp af forskellige begrænsninger, såsom større nøjagtighed, lavere latency eller lavere effekt. Dette vil give udviklere mulighed for, sagde Asghar, "få meget mere nøjagtighed eller en model, der er i stand til at give dig lavere latenstid eller en model, der er i stand til at udføre den samme opgave ved lavere effekt."

Selvom meget af den underliggende software i Qualcomm AI Stack ikke er ny, kaldte Asghar foreningen af ​​elementerne et "spring fremad" for udviklere og enhedsproducenter og sagde, at det vil fungere som grundlaget for domænespecifikke softwareudviklingssæt, når fremtiden markeder tager form.

"Det, vi forestiller os, er, at vi nu med dette meget solide fodfæste, som er samlet på tværs af alle de forskellige forretningsområder, kan begynde at skrive flere af disse domænespecifikke SDK'er, efterhånden som en ny vertikal dukker op, hvor vi ser en agglomeration af vores kunder," han sagde. ®