Entrene una vez, corra en cualquier lugar, casi: el impulso de Qualcomm para llevar AI a su teléfono, chips de PC

Qualcomm sabe que si quiere que los desarrolladores construyan y optimicen aplicaciones de inteligencia artificial en su cartera de silicio, el gigante Snapdragon necesita hacer que la experiencia sea más simple e, idealmente, mejor que lo que sus rivales han estado preparando en el departamento de software.

Es por eso que el miércoles, el diseñador de chips sin fábrica presentó lo que llama el Pila de IA de Qualcomm, que tiene como objetivo, entre otras cosas, permitir que los desarrolladores tomen modelos de IA que han desarrollado para un tipo de dispositivo, digamos teléfonos inteligentes, y adaptarlos fácilmente para otro, como PC. Esta pila es solo para dispositivos alimentados por el sistema en chips de Qualcomm, ya sea en computadoras portátiles, teléfonos celulares, entretenimiento para automóviles o cualquier otra cosa.

Si bien Qualcomm es mejor conocido por sus chips Snapdragon basados ​​en Arm móviles que alimentan muchos teléfonos Android, la casa de chips espera crecer en otros mercados, como computadoras personales, Internet de las cosas y automotriz. Esta expansión significa que Qualcomm está compitiendo con empresas como Apple, Intel, Nvidia, AMD, y otros, en un campo de batalla mucho más grande.

Dado que todos estos jugadores están de acuerdo en que la IA es una carga de trabajo futura clave para todo, desde automóviles y dispositivos IoT hasta PC y teléfonos inteligentes, Qualcomm espera destacarse con una pila de software unificada, que reúne todas las herramientas, marcos, tiempos de ejecución y otros existentes de la empresa. tipos de software para desarrollar aplicaciones de IA en sus familias de procesadores.

En una sesión informativa con los periodistas, el ejecutivo de Qualcomm, Ziad Asghar, dijo que la consolidación de los esfuerzos de software de IA de la compañía coincide con la forma en que ha estado tomando su tecnología de chips central y adaptándola a diferentes mercados con personalización.

“Entonces, una inversión se convierte en una ventaja positiva real para nosotros porque ahora la inversión que hacemos en un área en realidad puede propagarse con mucha fuerza en todas las áreas diferentes”, dijo Asghar, quien es vicepresidente de administración de productos en Qualcomm Technologies.

Abriendo el kit de herramientas

Con Qualcomm AI Stack, la compañía ahora espera llevar este beneficio de usar un conjunto de tecnologías para múltiples áreas de mercado a desarrolladores y fabricantes de dispositivos en el lado del software.

Al reducir la cantidad de trabajo necesario para adaptar las aplicaciones de IA de un tipo de chip Qualcomm a otro, el negocio promete ahorrar dinero a las empresas en costosos recursos de ingeniería.

“Le estamos dando a nuestra base de OEM la capacidad de hacer eso en gran medida sin tener que gastar mucho más en términos de [ingeniería no recurrente]”, dijo Asghar.

Lo que diferencia a Qualcomm AI Stack de las pilas de software de la competencia, según Asghar, es el Qualcomm AI Model Efficiency Toolkit. Una de sus características más significativas es la capacidad de comprimir un modelo de IA que consume mucha energía entrenado en la nube desde una precisión de coma flotante de 32 bits hasta un formato entero de 8 bits para que pueda funcionar bien en dispositivos de bajo consumo.

“Al hacer eso, puede generar enormes beneficios en términos de consumo de energía, hasta cuatro veces la mejora del consumo de energía en muchos casos en escenarios como este”, dijo.

Qualcomm también confía en su herramienta de búsqueda de arquitectura neuronal, que permite a los desarrolladores optimizar los modelos de IA utilizando varias restricciones, como una mayor precisión, una latencia más baja o una potencia más baja. Esto permitirá a los desarrolladores, dijo Asghar, "obtener mucha más precisión o un modelo que pueda brindarle una latencia más baja o un modelo que pueda hacer la misma tarea con menor potencia".

Si bien gran parte del software subyacente en Qualcomm AI Stack no es nuevo, Asghar calificó la unificación de los elementos como un "salto adelante" para los desarrolladores y fabricantes de dispositivos y dijo que servirá como base para los kits de desarrollo de software de dominio específico cuando se presenten en el futuro. los mercados toman forma.

“Lo que imaginamos es que ahora con esta base muy sólida, que está unificada en todas las diferentes líneas comerciales, podemos comenzar a escribir más de estos SDK específicos de dominio a medida que surge una nueva vertical donde vemos una aglomeración de nuestros clientes”. él dijo. ®