Harjoittele kerran, juokse missä tahansa, melkein: Qualcommin pyrkimys tuoda tekoäly puhelimeensa ja PC-siruihin

Qualcomm tietää, että jos se haluaa kehittäjien rakentavan ja optimoivan tekoälysovelluksia koko piivalikoimassaan, Snapdragon-jättiläisen on tehtävä kokemuksesta yksinkertaisempi ja mieluiten parempi kuin mitä sen kilpailijat ovat valmistaneet ohjelmistopinoosastolla.

Siksi Fabless-sirun suunnittelija esitteli keskiviikkona sen, mitä se kutsuu Qualcomm AI Stack, jonka tarkoituksena on muun muassa antaa kehittäjille mahdollisuus ottaa yhdelle laitetyypille kehittämiään tekoälymalleja, esimerkiksi älypuhelimia varten, ja muokata niitä helposti toiseen, kuten PC:t. Tämä pino on tarkoitettu vain laitteille, jotka käyttävät Qualcommin system-on-siruja, olivatpa ne sitten kannettavissa tietokoneissa, matkapuhelimissa, autoviihde- tai muussa.

Vaikka Qualcomm tunnetaan parhaiten mobiili Arm-pohjaisista Snapdragon-siruistaan, jotka käyttävät monia Android-puhelimia, sirutalo toivoo kasvavan muille markkinoille, kuten henkilökohtaisiin tietokoneisiin, esineiden internetiin ja autoteollisuuteen. Tämä laajennus tarkoittaa, että Qualcomm kilpailee muiden kanssa omena, Intel, Nvidia, AMD, ja muut, paljon suuremmalla taistelukentällä.

Koska kaikki nämä pelaajat ovat yhtä mieltä siitä, että tekoäly on keskeinen tulevaisuuden työtaakka kaikessa autoista ja IoT-laitteista tietokoneisiin ja älypuhelimiin, Qualcomm toivoo erottuvansa yhtenäisellä ohjelmistopinolla, joka yhdistää kaikki yrityksen nykyiset työkalut, puitteet, suoritusajat ja muut. erilaisia ​​ohjelmistoja tekoälysovellusten kehittämiseen prosessoriperheillään.

Toimittajien kanssa pidetyssä tiedotustilaisuudessa Qualcommin johtaja Ziad Asghar sanoi, että yrityksen tekoälyohjelmistojen yhdistäminen on linjassa sen kanssa, kuinka se on ottanut ydinsiruteknologiansa käyttöön ja mukauttanut sitä eri markkinoille räätälöinnillä.

"Joten sijoituksesta tulee meille todellinen myönteinen etu, koska nyt yhdelle alueelle tekemämme investointi pystyy todella leviämään erittäin voimakkaasti kaikille eri alueille", sanoi Asghar, joka on Qualcomm Technologiesin tuotehallinnan varatoimitusjohtaja.

Työkalusarjan avaaminen

Qualcomm AI Stackin avulla yritys toivoo nyt tuovansa tämän hyödyn käyttämällä yhtä teknologiaa useille markkina-alueille kehittäjille ja laitevalmistajille ohjelmistopuolella.

Vähentämällä työmäärää, joka tarvitaan tekoälysovellusten mukauttamiseen yhdestä Qualcomm-sirutyypistä toiseen, yritys lupaa säästää yritysten rahaa kalliissa suunnitteluresursseissa.

"Annamme OEM-pohjallemme mahdollisuuden tehdä se suuressa määrin ilman, että meidän tarvitsee kuluttaa paljon enemmän [kertaluonteiseen suunnitteluun]", Asghar sanoi.

Se, mikä erottaa Qualcomm AI Stackin kilpailevista ohjelmistopinoista, on Asgharin mukaan Qualcomm AI Model Efficiency Toolkit. Yksi sen merkittävimmistä ominaisuuksista on kyky pakata pilvessä harjoitettu tehonhimoinen tekoälymalli 32-bittisestä liukulukutarkkuudesta 8-bittiseen kokonaislukumuotoon, jotta se toimii hyvin vähän virtaa kuluttavilla laitteilla.

"Kun teet niin, voit tuoda valtavia etuja virrankulutuksen suhteen, jopa neljä kertaa virrankulutuksen paranemisen monissa tapauksissa tällaisissa skenaarioissa", hän sanoi.

Qualcomm käyttää myös Neural Architecture Search -työkaluaan, jonka avulla kehittäjät voivat optimoida tekoälymalleja erilaisilla rajoituksilla, kuten suuremmalla tarkkuudella, pienemmällä latenssilla tai pienemmällä teholla. Tämän ansiosta kehittäjät voivat, Asghar sanoi, "saamaan paljon enemmän tarkkuutta tai mallin, joka pystyy antamaan sinulle pienemmän viiveen tai mallin, joka pystyy suorittamaan saman tehtävän pienemmällä teholla."

Vaikka suuri osa Qualcomm AI Stackin taustalla olevista ohjelmistoista ei ole uusi, Asghar kutsui elementtien yhdistämistä "harppaukseksi" kehittäjille ja laitevalmistajille ja sanoi, että se toimii perustana verkkotunnuskohtaisille ohjelmistokehityssarjoille tulevaisuudessa. markkinat muotoutuvat.

"Uskomme, että nyt tällä erittäin vakaalla pohjalla, joka on yhtenäinen kaikilla eri liiketoimintalinjoilla, voimme alkaa kirjoittaa enemmän näitä verkkotunnuskohtaisia ​​SDK:ita, kun syntyy uusi toimiala, jossa näemme asiakkaidemme ryhmittymän." hän sanoi. ®