Allenati una volta, corri ovunque, quasi: la spinta di Qualcomm per portare l'IA sul suo telefono, sui chip per PC

Qualcomm sa che se vuole che gli sviluppatori creino e ottimizzino applicazioni AI attraverso il suo portafoglio di silicio, il gigante Snapdragon deve rendere l'esperienza più semplice e, idealmente, migliore di quella che i suoi rivali hanno inventato nel reparto di stack software.

Ecco perché mercoledì il progettista di chip fabless ha introdotto quello che chiama Stack di intelligenza artificiale di Qualcomm, che mira, tra le altre cose, a consentire agli sviluppatori di prendere i modelli di intelligenza artificiale che hanno sviluppato per un tipo di dispositivo, diciamo gli smartphone, e adattarli facilmente per un altro, come i PC. Questo stack è solo per dispositivi alimentati da system-on-chip di Qualcomm, siano essi laptop, cellulari, intrattenimento per auto o qualcos'altro.

Mentre Qualcomm è meglio conosciuto per i suoi chip Snapdragon mobili basati su Arm che alimentano molti telefoni Android, la casa dei chip spera di crescere in altri mercati, come i personal computer, l'Internet delle cose e l'automotive. Questa espansione significa che Qualcomm è in competizione con artisti del calibro di Apple, Intel, Nvidia, AMD, e altri, su un campo di battaglia molto più ampio.

Dato che tutti questi attori concordano che l'IA è un carico di lavoro futuro chiave per qualsiasi cosa, dalle auto e dispositivi IoT a PC e smartphone, Qualcomm spera di distinguersi con uno stack software unificato, che riunisce tutti gli strumenti, i framework, i runtime e altri strumenti esistenti dell'azienda. tipi di software per lo sviluppo di applicazioni AI sulle sue famiglie di processori.

In un briefing con i giornalisti, il dirigente di Qualcomm Ziad Asghar ha affermato che il consolidamento degli sforzi del software di intelligenza artificiale dell'azienda è in linea con il modo in cui ha preso la sua tecnologia di chip principale e l'ha adattata a diversi mercati con la personalizzazione.

"Quindi un investimento diventa un vero vantaggio positivo per noi perché ora l'investimento che facciamo in un'area è effettivamente in grado di propagarsi molto fortemente in tutte le diverse aree", ha affermato Asghar, vicepresidente della gestione dei prodotti presso Qualcomm Technologies.

Apertura della cassetta degli attrezzi

Con Qualcomm AI Stack, l'azienda spera ora di portare questo vantaggio dell'utilizzo di un insieme di tecnologie per più aree di mercato a sviluppatori e produttori di dispositivi lato software.

Riducendo la quantità di lavoro necessaria per adattare le applicazioni di intelligenza artificiale da un tipo di chip Qualcomm a un altro, il business promette di risparmiare denaro alle aziende su costose risorse di ingegneria.

"Stiamo dando la possibilità alla nostra base OEM di essere in grado di farlo in larga misura senza dover effettivamente spendere molto di più in termini di [ingegneria non ricorrente]", ha affermato Asghar.

Ciò che distingue Qualcomm AI Stack dagli stack software concorrenti, secondo Asghar, è il Qualcomm AI Model Efficiency Toolkit. Una delle sue caratteristiche più significative è la capacità di comprimere un modello di intelligenza artificiale assetato di energia addestrato nel cloud dalla precisione in virgola mobile a 32 bit al formato intero a 8 bit in modo che possa funzionare bene su dispositivi a bassa potenza.

"In questo modo, puoi apportare enormi vantaggi in termini di consumo energetico, fino a quattro volte il miglioramento del consumo energetico in molti casi in scenari come questo", ha affermato.

Qualcomm punta anche sul suo strumento di ricerca dell'architettura neurale, che consente agli sviluppatori di ottimizzare i modelli di intelligenza artificiale utilizzando vari vincoli, come maggiore precisione, minore latenza o minore potenza. Ciò consentirà agli sviluppatori, ha affermato Asghar, di "ottenere molta più precisione o un modello in grado di darti una latenza inferiore o un modello in grado di svolgere lo stesso compito a una potenza inferiore".

Sebbene gran parte del software sottostante in Qualcomm AI Stack non sia nuovo, Asghar ha definito l'unificazione degli elementi un "balzo in avanti" per sviluppatori e produttori di dispositivi e ha affermato che servirà come base per i kit di sviluppo software specifici del dominio in futuro i mercati prendono forma.

"Quello che prevediamo è che ora con questa base molto solida, che è unificata in tutte le diverse linee di business, possiamo iniziare a scrivere più di questi SDK specifici per dominio quando emerge un nuovo verticale in cui vediamo un agglomerato di nostri clienti", Egli ha detto. ®