Treine uma vez, corra em qualquer lugar, quase: a motivação da Qualcomm para trazer IA para seu telefone, chips de PC

A Qualcomm sabe que, se quiser que os desenvolvedores criem e otimizem aplicativos de IA em todo o seu portfólio de silício, a gigante do Snapdragon precisa tornar a experiência mais simples e, idealmente, melhor do que seus rivais estão preparando no departamento de pilha de software.

É por isso que na quarta-feira o designer de chips sem fábula apresentou o que está chamando de Pilha de IA da Qualcomm, que visa, entre outras coisas, permitir que os desenvolvedores peguem modelos de IA que desenvolveram para um tipo de dispositivo, digamos smartphones, e os adaptem facilmente para outro, como PCs. Essa pilha é apenas para dispositivos alimentados por system-on-chips da Qualcomm, sejam eles laptops, celulares, entretenimento automotivo ou qualquer outra coisa.

Embora a Qualcomm seja mais conhecida por seus chips móveis Snapdragon baseados em Arm que alimentam muitos telefones Android, a casa de chips espera crescer em outros mercados, como computadores pessoais, Internet das Coisas e automotivo. Essa expansão significa que a Qualcomm está competindo com empresas como Apple, Intel, Nvidia, AMD, e outros, em um campo de batalha muito maior.

Dado que todos esses players concordam que a IA é uma carga de trabalho futura fundamental para tudo, desde carros e dispositivos IoT até PCs e smartphones, a Qualcomm espera se destacar com uma pilha de software unificada, que reúne todas as ferramentas, estruturas, tempos de execução e outros recursos existentes da empresa. tipos de software para desenvolver aplicativos de IA em suas famílias de processadores.

Em um briefing com jornalistas, o executivo da Qualcomm, Ziad Asghar, disse que a consolidação dos esforços de software de IA da empresa está alinhada com a forma como ela vem pegando sua tecnologia de chip principal e adaptando-a a diferentes mercados com personalização.

“Portanto, um investimento se torna uma vantagem realmente positiva para nós, porque agora o investimento que fazemos em uma área é realmente capaz de se propagar muito fortemente em todas as diferentes áreas”, disse Asghar, vice-presidente de gerenciamento de produtos da Qualcomm Technologies.

Abrindo o kit de ferramentas

Com o Qualcomm AI Stack, a empresa agora espera trazer esse benefício de usar um conjunto de tecnologias para várias áreas de mercado para desenvolvedores e fabricantes de dispositivos no lado do software.

Ao reduzir a quantidade de trabalho necessária para adaptar os aplicativos de IA de um tipo de chip da Qualcomm para outro, a empresa promete economizar dinheiro das empresas em recursos de engenharia caros.

“Estamos dando à nossa base de OEM a capacidade de fazer isso em grande medida sem realmente ter que gastar muito mais em termos de [engenharia não recorrente]”, disse Asghar.

O que diferencia o Qualcomm AI Stack das pilhas de software concorrentes, de acordo com Asghar, é o Qualcomm AI Model Efficiency Toolkit. Um de seus recursos mais significativos é a capacidade de compactar um modelo de IA que consome muita energia treinado na nuvem da precisão de ponto flutuante de 32 bits para o formato inteiro de 8 bits para que possa funcionar bem em dispositivos de baixa potência.

“Ao fazer isso, você pode trazer enormes benefícios em termos de consumo de energia, até quatro vezes a melhoria do consumo de energia em muitos casos em cenários como este”, disse ele.

A Qualcomm também está apostando em sua ferramenta Neural Architecture Search, que permite aos desenvolvedores otimizar modelos de IA usando várias restrições, como maior precisão, menor latência ou menor consumo de energia. Isso permitirá que os desenvolvedores, disse Asghar, “obtenham muito mais precisão ou um modelo capaz de oferecer menor latência ou um modelo capaz de realizar a mesma tarefa com menor potência”.

Embora grande parte do software subjacente no Qualcomm AI Stack não seja novo, Asghar chamou a unificação dos elementos de um “salto à frente” para desenvolvedores e fabricantes de dispositivos e disse que servirá como base para kits de desenvolvimento de software específicos de domínio quando futuros mercados tomam forma.

“O que vislumbramos é que agora, com essa base muito sólida, unificada em todas as diferentes linhas de negócios, possamos começar a escrever mais desses SDKs específicos de domínio à medida que surge uma nova vertical onde vemos uma aglomeração de nossos clientes.” ele disse. ®