Volgende Snapdragon-chip lekt: de aankomende mobiele CPU zit boordevol AI-kracht - Decrypt

Volgende Snapdragon-chip lekt: de aankomende mobiele CPU zit boordevol AI-kracht – ontsleutelen

Tijdstempel: 23 oktober 2023 9:20 uur

Qualcomm, een titan op het gebied van high-end smartph0ne-processors, maakt zich op om de derde generatie van zijn Snapdragon 8-chip te onthullen. Deze aankondiging is vooral opmerkelijk gezien het feit dat zijn huidige topvoorganger, de Snapdragon 8 Gen 2, momenteel de titel heeft van de op een na krachtigste smartphonechip ooit, volgens Antutu-benchmarks, alleen overtroffen door de Dimensity 9200+, ontwikkeld door de Taiwanese fabrikant MediaTek.

Naar verwachting zullen de details van de nieuwe chip dinsdag officieel worden onthuld online gelekt op maandag. De nieuwe chip belooft niet alleen verbeterde prestaties, maar ook een aanzienlijke sprong voorwaarts in de AI-mogelijkheden op het apparaat MS Power-gebruiker.

Naast de verwachte stapsgewijze prestatieverbeteringen – zoals een 25% snellere GPU en een 30% snellere CPU – heeft het nieuwe systeem-op-een-chip (SoC) een krachtige AI-engine die hoge precisie in lokale AI-modellen kan ondersteunen, en kan lokale groottalige modellen (LLM's) met meer dan 10 miljard parameters uitvoeren. De chip kan zelfs het tekst-naar-beeldmodel Stable Diffusion uitvoeren met het ControlNet neurale netwerk.

Afbeelding: MSPoweruser

Fabrikanten van mobiele hardware richten zich krachtig op AI. Google heeft bijvoorbeeld zijn Tensor-chips vernieuwd en uitgerust om de talloze AI-functies te beheren die de nieuwste Pixel-telefoons lokaal uitvoeren, waardoor de noodzaak van cloudverwerking wordt omzeild. Op dezelfde manier heeft Apple zijn spel verbeterd met de A17 Pro SoC, waardoor zijn AI-vaardigheid is verbeterd.

De komst van AI-compatibele chips in consumentenapparaten luidt een transformatief tijdperk in de technologie in. Deze geavanceerde processors, ontworpen om ingewikkelde AI-modellen lokaal uit te voeren, duiden op een toekomst boordevol mogelijkheden, van gepersonaliseerde chatbotassistenten en hyperrealistische game-ervaringen tot realtime gezondheidsmonitoring en adaptieve gebruikersinterfaces.

De belofte van snellere verwerking, gekoppeld aan betere personalisatie en meer privacy, positioneert deze chips als de hoeksteen van een toekomst waarin onze apparaten niet alleen slim zijn, maar intuïtief afgestemd op onze behoeften en voorkeuren.

Kent Kersei is de CEO van Roep AI aan, een bedrijf dat voorop loopt op het gebied van AI-beeldgeneratie en het benutten van de kracht van stabiele diffusie. Hij vertelde decoderen dat het uitvoeren van AI op een apparaat in plaats van in de cloud veel voordelen met zich meebrengt.

“Cloudgebaseerd computergebruik is een geweldige optie voor grotere ondernemingen, maar voor individuen die inhoud willen creëren, biedt AI op het apparaat een betaalbaarder, gepersonaliseerd en privé alternatief”, zegt hij. Hij benadrukte ook het potentieel van Apple's aanpak bij het inzetten van een grotere set verenigd geheugen, en suggereerde een toekomst met bijvoorbeeld een krachtige lokale LLM-assistent in plaats van een cloudgebaseerde Siri.

Hoe krachtig deze nieuwe chip ook is, Invoke heeft echter geen plannen om zijn app over te zetten naar Android- of iOS-apparaten, zei Kersei.

“Onze commerciële oplossing wordt doorgaans gebruikt voor ingewikkeldere workflowprocessen”, zegt hij. "Hoewel we geen onmiddellijke plannen hebben voor een lokale OSS Android-app, houden we het traject van gebruikspatronen voor creatieven en de opkomst van geavanceerde technologie die mobiele implementatie ondersteunt scherp in de gaten."

Op dit moment is de Draw Things-app op iOS de beste optie voor het lokaal genereren van afbeeldingen. Er is geen vergelijkbare optie voor Android-gebruikers.

Kersei was optimistisch over de rimpeleffecten van de nieuwe chip van Qualcomm in het bredere technologie-ecosysteem.

“Het aanbieden van deze chip voor AI op het apparaat verbetert de mogelijkheden die op mobiele apparaten kunnen worden ingezet”, legt hij uit, eraan toevoegend dat hij verwacht dat app-ontwikkelaars on-demand AI-mogelijkheden in hun diensten zullen opnemen naarmate hardware daartoe beter in staat wordt.

Toch heeft elke innovatie zijn uitdagingen. Kersei wees op mogelijke problemen bij het distribueren van modelgewichten naar eindapparaten, vooral voor propriëtaire modellen zoals GPT-3 of GPT-4, die enorm groot zijn en niet open source.

“Dit kan niet haalbaar zijn voor een propriëtair model waarin het beheer van intellectueel eigendom van het grootste belang is”, zei hij. Kersei bracht echter snel het potentieel van open-sourcemodellen als Stable Diffusion of Mistral7B onder de aandacht als potentiële game-changers.

As gemeld decoderenMistral7B is een lichtgewicht model, getraind op 7 miljard parameters, dat voor veel ophef zorgt in de AI-gemeenschap. decoderen testte zijn antwoorden tegen andere, krachtigere concurrenten zoals LlaMA en Stable Beluga 2, en overtrof hun resultaten. Ter context: terwijl Mistral 7B op 7 miljard parameters werkt, beschikt GPT-4 over maar liefst 1.7 biljoen parameters.

Qualcomms Snapdragon 8 Gen 3 is meer dan een microchip; het is een voorbode van een op AI gerichte mobiele toekomst. Met marktleiders als Qualcomm, Google en Apple voorop, is het slechts een kwestie van tijd voordat uw assistent al uw geheimen kan bewaren en toch daadwerkelijk nuttig kan zijn bij het beantwoorden van vragen en het uitvoeren van taken.

Blijf op de hoogte van cryptonieuws, ontvang dagelijkse updates in je inbox.

Tijdstempel:

Meer van decoderen