Entraînez-vous une fois, courez n'importe où, presque : la volonté de Qualcomm d'apporter l'IA à son téléphone, les puces PC

Qualcomm sait que s'il veut que les développeurs créent et optimisent les applications d'IA dans son portefeuille de silicium, le géant Snapdragon doit rendre l'expérience plus simple et, idéalement, meilleure que ce que ses rivaux ont préparé dans le département de la pile logicielle.

C'est pourquoi mercredi, le concepteur de puces sans usine a présenté ce qu'il appelle le Pile d'IA Qualcomm, qui vise, entre autres, à permettre aux développeurs de prendre des modèles d'IA qu'ils ont développés pour un type d'appareil, disons des smartphones, et de les adapter facilement pour un autre, comme les PC. Cette pile est uniquement destinée aux appareils alimentés par le système sur puces de Qualcomm, qu'il s'agisse d'ordinateurs portables, de téléphones portables, de divertissements automobiles ou d'autre chose.

Alors que Qualcomm est surtout connu pour ses puces mobiles Snapdragon basées sur Arm qui alimentent de nombreux téléphones Android, la société de puces espère se développer sur d'autres marchés, tels que les ordinateurs personnels, l'Internet des objets et l'automobile. Cette expansion signifie que Qualcomm est en concurrence avec des entreprises comme Apple, Intel, Nvidia, AMD, et d'autres, sur un champ de bataille beaucoup plus vaste.

Étant donné que tous ces acteurs conviennent que l'IA est une future charge de travail clé pour tout, des voitures et des appareils IoT aux PC et aux smartphones, Qualcomm espère se démarquer avec une pile logicielle unifiée, qui rassemble tous les outils, cadres, runtimes et autres outils existants de l'entreprise. types de logiciels pour développer des applications d'IA sur ses familles de processeurs.

Lors d'un briefing avec des journalistes, le dirigeant de Qualcomm, Ziad Asghar, a déclaré que la consolidation des efforts de l'entreprise en matière de logiciels d'IA correspond à la façon dont elle a pris sa technologie de puce de base et l'a adaptée à différents marchés avec la personnalisation.

"Ainsi, un investissement devient un véritable avantage positif pour nous, car désormais l'investissement que nous réalisons dans un domaine est en fait capable de se propager très fortement dans tous les différents domaines", a déclaré Asghar, vice-président de la gestion des produits chez Qualcomm Technologies.

Ouvrir la boîte à outils

Avec Qualcomm AI Stack, la société espère maintenant apporter cet avantage d'utiliser un ensemble de technologies pour plusieurs domaines de marché aux développeurs et aux fabricants d'appareils du côté logiciel.

En réduisant la quantité de travail nécessaire pour adapter les applications d'IA d'un type de puce Qualcomm à un autre, le secteur promet d'économiser de l'argent aux entreprises sur des ressources d'ingénierie coûteuses.

"Nous donnons la possibilité à notre base OEM de pouvoir le faire dans une large mesure sans avoir à dépenser beaucoup plus en termes d'[ingénierie non récurrente]", a déclaré Asghar.

Selon Asghar, ce qui distingue Qualcomm AI Stack des piles logicielles concurrentes, c'est le Qualcomm AI Model Efficiency Toolkit. L'une de ses caractéristiques les plus importantes est la possibilité de compresser un modèle d'IA gourmand en énergie formé dans le cloud d'une précision en virgule flottante 32 bits au format entier 8 bits afin qu'il puisse bien fonctionner sur des appareils à faible consommation d'énergie.

"Ce faisant, vous êtes en mesure d'apporter d'énormes avantages en termes de consommation d'énergie, jusqu'à quatre fois l'amélioration de la consommation d'énergie dans de nombreux cas dans des scénarios comme celui-ci", a-t-il déclaré.

Qualcomm mise également sur son outil Neural Architecture Search, qui permet aux développeurs d'optimiser les modèles d'IA en utilisant diverses contraintes, telles qu'une plus grande précision, une latence plus faible ou une puissance plus faible. Cela permettra aux développeurs, a déclaré Asghar, "d'obtenir beaucoup plus de précision ou un modèle capable de vous donner une latence plus faible ou un modèle capable d'effectuer la même tâche à une puissance inférieure".

Alors qu'une grande partie du logiciel sous-jacent de la pile Qualcomm AI n'est pas nouvelle, Asghar a qualifié l'unification des éléments de "bond en avant" pour les développeurs et les fabricants d'appareils et a déclaré qu'elle servira de base aux kits de développement logiciel spécifiques à un domaine à l'avenir. les marchés prennent forme.

"Ce que nous envisageons, c'est que maintenant, avec cette base très solide, qui est unifiée dans tous les différents secteurs d'activité, nous pouvons commencer à écrire davantage de ces SDK spécifiques à un domaine alors qu'une nouvelle verticale émerge où nous voyons une agglomération de nos clients", il a dit. ®