Trenuj raz, biegnij wszędzie, prawie: dążenie Qualcomm do wprowadzenia sztucznej inteligencji do swojego telefonu, chipy PC

Qualcomm wie, że jeśli chce, aby programiści tworzyli i optymalizowali aplikacje AI w swoim portfolio krzemowym, gigant Snapdragon musi uprościć to doświadczenie i, najlepiej, lepiej niż to, co wymyślali jego rywale w dziale oprogramowania.

Właśnie dlatego w środę bezbłędny projektant chipów przedstawił to, co nazywa Stos AI Qualcomm, który ma na celu m.in. umożliwienie programistom korzystania z opracowanych przez nich modeli AI dla jednego typu urządzenia, powiedzmy smartfonów, i łatwego dostosowania ich do innego, jak komputery PC. Ten stos jest przeznaczony tylko dla urządzeń zasilanych przez układy systemowe Qualcomm, czy to w laptopach, telefonach komórkowych, rozrywce samochodowej, czy w czymś innym.

Podczas gdy Qualcomm jest najbardziej znany ze swoich mobilnych chipów Snapdragon opartych na ARM, które zasilają wiele telefonów z Androidem, chip house ma nadzieję na wejście na inne rynki, takie jak komputery osobiste, Internet rzeczy i motoryzacja. Ta ekspansja oznacza, że ​​Qualcomm konkuruje z takimi jak Apple, Intel, Nvidia, AMDi inne na znacznie większym polu bitwy.

Biorąc pod uwagę, że wszyscy ci gracze zgadzają się, że sztuczna inteligencja jest kluczowym przyszłym obciążeniem roboczym dla wszystkiego, od samochodów i urządzeń IoT po komputery i smartfony, Qualcomm ma nadzieję wyróżnić się ujednoliconym stosem oprogramowania, który łączy wszystkie istniejące narzędzia, frameworki, środowiska wykonawcze i inne rodzaje oprogramowania do tworzenia aplikacji AI na rodzinach procesorów.

W rozmowie z dziennikarzami dyrektor Qualcomm, Ziad Asghar, powiedział, że konsolidacja działań firmy w zakresie oprogramowania AI jest zgodna z tym, w jaki sposób firma wykorzystuje swoją podstawową technologię chipową i dostosowuje ją do różnych rynków z dostosowaniem.

„Tak więc inwestycja staje się dla nas naprawdę pozytywną korzyścią, ponieważ teraz inwestycja, którą dokonujemy w jednym obszarze, jest w stanie bardzo mocno rozprzestrzenić się na wszystkie różne obszary” — powiedział Asghar, wiceprezes ds. zarządzania produktami w Qualcomm Technologies.

Otwieranie zestawu narzędzi

Dzięki Qualcomm AI Stack firma ma teraz nadzieję, że po stronie oprogramowania przyniesie korzyści płynące z używania jednego zestawu technologii dla wielu obszarów rynku dla programistów i producentów urządzeń.

Ograniczając ilość pracy wymaganej do dostosowania aplikacji AI z jednego typu układu Qualcomm do innego, firma obiecuje zaoszczędzić pieniądze na kosztownych zasobach inżynieryjnych.

„Dajemy naszej bazie OEM możliwość robienia tego w dużym stopniu bez konieczności wydawania dużo więcej w zakresie [jednorazowej inżynierii]” – powiedział Asghar.

Tym, co odróżnia Qualcomm AI Stack od konkurencyjnych stosów oprogramowania, według Asghara, jest Qualcomm AI Model Efficiency Toolkit. Jedną z jego najważniejszych funkcji jest możliwość skompresowania energochłonnego modelu sztucznej inteligencji wyszkolonego w chmurze z 32-bitowej precyzji zmiennoprzecinkowej do 8-bitowego formatu liczb całkowitych, aby mógł działać dobrze na urządzeniach o niskim poborze mocy.

„Kiedy to robisz, możesz przynieść ogromne korzyści pod względem zużycia energii, nawet czterokrotną poprawę zużycia energii w wielu przypadkach w takich scenariuszach”, powiedział.

Qualcomm stawia również na swoje narzędzie wyszukiwania architektury neuronowej, które pozwala programistom optymalizować modele sztucznej inteligencji przy użyciu różnych ograniczeń, takich jak większa dokładność, mniejsze opóźnienia lub mniejsza moc. Pozwoli to programistom, powiedział Asghar, „uzyskać znacznie większą dokładność lub model, który jest w stanie zapewnić mniejsze opóźnienia lub model, który jest w stanie wykonać to samo zadanie przy mniejszej mocy”.

Podczas gdy większość oprogramowania bazowego w Qualcomm AI Stack nie jest nowa, Asghar nazwał unifikację elementów „skokiem naprzód” dla programistów i producentów urządzeń i powiedział, że w przyszłości posłuży jako podstawa dla zestawów programistycznych dla specyficznych domen. rynki nabierają kształtu.

„Wyobrażamy sobie, że teraz, mając tak solidną podstawę, która jest ujednolicona we wszystkich różnych liniach biznesowych, możemy zacząć pisać więcej takich zestawów SDK specyficznych dla domeny, gdy pojawi się nowy wertykalny poziom, w którym widzimy aglomerację naszych klientów”. powiedział. ®