Treenige üks kord, jookske kõikjal, peaaegu: Qualcommi tahe tuua AI oma telefoni ja arvutikiibid

Qualcomm teab, et kui ta soovib, et arendajad ehitaksid ja optimeeriksid AI-rakendusi kogu oma räniportfelli ulatuses, peab Snapdragon hiiglane muutma kasutuskogemuse lihtsamaks ja ideaalis paremaks kui see, mida tema konkurendid on tarkvaravirna osakonnas valmistanud.

Sellepärast tutvustas Fablessi kiibidisainer kolmapäeval seda, mida see nimetab Qualcomm AI Stack, mille eesmärk on muuhulgas võimaldada arendajatel kasutada tehisintellekti mudeleid, mille nad on välja töötanud ühe seadmetüübi, näiteks nutitelefonide jaoks, ja kohandada neid hõlpsalt teise jaoks, nagu arvutid. See virn on mõeldud ainult Qualcommi süsteemikiipide toiteallikatele, olgu need siis sülearvutid, mobiiltelefonid, auto meelelahutus või midagi muud.

Kuigi Qualcomm on enim tuntud oma mobiilsete Arm-põhiste Snapdragon-kiipide poolest, mis toidavad paljusid Android-telefone, loodab kiibimaja kasvada teistele turgudele, nagu personaalarvutid, asjade internet ja autotööstus. See laiendus tähendab, et Qualcomm konkureerib teistega õun, Intel, Nvidia, AMDja teised palju suuremal lahinguväljal.

Arvestades, et kõik need mängijad nõustuvad, et tehisintellekt on tuleviku võtmetähtsusega töökoormus autodest ja asjade interneti seadmetest arvutite ja nutitelefonideni, loodab Qualcomm silma paista ühtse tarkvarapaketiga, mis koondab kõik ettevõtte olemasolevad tööriistad, raamistikud, käitusajad ja muu. tarkvara AI rakenduste arendamiseks oma protsessoriperekondades.

Ajakirjanikega peetud briifingul ütles Qualcommi tegevjuht Ziad Asghar, et ettevõtte tehisintellekti tarkvaraga seotud jõupingutuste konsolideerimine on kooskõlas sellega, kuidas ettevõte on võtnud oma põhilise kiibitehnoloogia ja kohandanud seda erinevatele turgudele kohandamisega.

"Seega muutub investeering meie jaoks tõeliseks positiivseks eeliseks, sest nüüd on investeeringud, mida me ühte valdkonda teeme, tegelikult väga tugevalt levida kõikidesse erinevatesse valdkondadesse," ütles Asghar, kes on Qualcomm Technologiesi tootehalduse asepresident.

Tööriistakomplekti avamine

Qualcomm AI Stackiga loodab ettevõte nüüd tarkvaraarendajatele ja seadmetootjatele tuua selle eelise, mida pakub mitme turupiirkonna jaoks ühe tehnoloogiakomplekti kasutamine.

Vähendades tehisintellekti rakenduste kohandamiseks ühelt tüüpi Qualcommi kiibilt teisele vajalikku tööd, lubab äri säästa ettevõtete raha kallite inseneriressursside arvelt.

"Anname oma originaalseadmete tootjate baasile võimaluse seda suurel määral teha, ilma et peaksime [ühekordseks inseneritööks] palju rohkem kulutama," ütles Asghar.

Asghari sõnul eristab Qualcomm AI Stacki konkureerivatest tarkvarapakkidest Qualcomm AI Model Efficiency Toolkit. Selle üks olulisemaid omadusi on võime tihendada pilves treenitud energianäljas AI mudelit 32-bitise ujukoma täpsusega 8-bitise täisarvu vorminguni, et see töötaks hästi ka vähese energiatarbega seadmetes.

"Seda tehes saate energiatarbimise osas tohutut kasu, paljudel juhtudel kuni neli korda energiatarbimise paranemist selliste stsenaariumide korral," ütles ta.

Qualcomm kasutab ka oma närviarhitektuuri otsingu tööriista, mis võimaldab arendajatel optimeerida AI mudeleid, kasutades erinevaid piiranguid, nagu suurem täpsus, väiksem latentsusaeg või väiksem võimsus. See võimaldab arendajatel, ütles Asghar, "saada palju rohkem täpsust või mudelit, mis suudab anda teile väiksema latentsusaega või mudeli, mis suudab sama ülesannet teha väiksema võimsusega."

Kuigi suur osa Qualcomm AI Stacki aluseks olevast tarkvarast ei ole uus, nimetas Asghar elementide ühendamist arendajate ja seadmetootjate jaoks "hüppeks edasi" ning ütles, et see on tulevikus domeenispetsiifiliste tarkvaraarenduskomplektide aluseks. turud võtavad kuju.

"Me näeme ette, et nüüd, millel on see väga kindel alus, mis on ühtne kõigis eri ärivaldkondades, saame hakata rohkem neid domeenispetsiifilisi SDK-sid kirjutama, kuna tekib uus vertikaal, kus näeme oma klientide koondumist." ta ütles. ®