Neste Snapdragon-brikkelekkasjer: Den kommende mobile CPU-en er fullpakket med AI-kraft - Dekrypter

Neste Snapdragon-brikkelekkasjer: Den kommende mobile CPU-en er fullpakket med AI-kraft – Dekrypter

Tidsstempel: 23. oktober 2023 9

Qualcomm, en titan i riket av avanserte smartph0ne-prosessorer, forbereder seg på å avduke tredje generasjon av sin Snapdragon 8-brikke. Denne kunngjøringen er spesielt bemerkelsesverdig gitt at dens nåværende topp-forgjenger, Snapdragon 8 Gen 2, for tiden innehar tittelen som den nest kraftigste smarttelefonbrikken noensinne, ifølge Antutu benchmarks, kun best av Dimensity 9200+ utviklet av den taiwanske produsenten MediaTek.

Forventet å bli avduket offisielt på tirsdag, detaljer om den nye brikken lekket ut online på mandag. Den nye brikken lover ikke bare forbedret ytelse, men et betydelig sprang i AI-funksjoner på enheten, ifølge MS Poweruser.

I tillegg til de forventede inkrementelle ytelsesforbedringene – som en 25 % raskere GPU og en 30 % raskere CPU – har det nye system-on-a-chip (SoC) en kraftig AI-motor som kan støtte høy presisjon i lokale AI-modeller, og kan kjøre lokale storspråklige modeller (LLM) med over 10 milliarder parametere. Brikken kan til og med kjøre tekst-til-bilde-modellen Stable Diffusion med det nevrale nettverket ControlNet.

Bilde: MSPoweruser

Mobilmaskinvareprodusenter svinger kraftig mot AI. Google, for eksempel, har fornyet Tensor-brikkene sine, og utrustet dem til å administrere mylderet av AI-funksjoner som de nyeste Pixel-telefonene utfører lokalt, og omgå behovet for skybehandling. På samme måte har Apple forbedret spillet sitt med A17 Pro SoC, og forbedret AI-evnen.

Fremkomsten av AI-kompatible brikker i forbrukerenheter varsler en transformativ æra innen teknologi. Disse avanserte prosessorene, designet for å kjøre intrikate AI-modeller lokalt, antyder en fremtid full av muligheter, fra personlige chatbot-assistenter og hyperrealistiske spillopplevelser til sanntids helseovervåking og adaptive brukergrensesnitt.

Løftet om raskere behandling, kombinert med bedre personalisering og mer personvern, posisjonerer disse brikkene som hjørnesteinen i en fremtid hvor enhetene våre ikke bare er smarte, men intuitivt tilpasset våre behov og preferanser.

Kent Kersei er administrerende direktør i Påkall AI, et selskap i forkant av AI-bildegenerering og utnytte kraften til stabil diffusjon. Han fortalte dekryptere at det å kjøre AI på en enhet i stedet for i skyen har mange fordeler.

"Skybasert databehandling er et flott alternativ for større bedrifter, men for enkeltpersoner som ønsker å lage innhold, tilbyr AI på enheten et rimeligere, personlig og privat alternativ," sa han. Han la også vekt på potensialet til Apples tilnærming til å distribuere et større sett med enhetlig minne, og antydet en fremtid med en potent lokal LLM-assistent i stedet for en skybasert Siri, for eksempel.

Men så kraftig som denne nye brikken er, har Invoke ingen planer om å portere appen sin til Android- eller iOS-enheter, sa Kersei.

"Vår kommersielle løsning brukes vanligvis til mer intrikate arbeidsflytprosesser," sa han. "Selv om vi ikke har umiddelbare planer for en lokal OSS Android-app, observerer vi nøye banen til bruksmønstre for reklamer og fremveksten av banebrytende teknologi som støtter mobil distribusjon."

Akkurat nå er gå-til-alternativet for lokal bildegenerering Draw Things-appen på iOS. Det er ikke noe sammenlignbart alternativ for Android-brukere.

Kersei var optimistisk angående ringvirkningene av Qualcomms nye brikke i det bredere teknologiske økosystemet.

"Å tilby denne brikken for on-device AI forbedrer mulighetene som kan distribueres på mobile enheter," forklarte han, og la til at han forventer å se apputviklere inkludere on-demand AI-funksjoner i tjenestene sine etter hvert som maskinvaren blir mer kapabel.

Likevel har hver innovasjon sine utfordringer. Kersei pekte på potensielle problemer med å distribuere modellvekter til sluttenheter, spesielt for proprietære modeller som GPT-3 eller GPT-4, som er enorme og ikke åpen kildekode.

"Dette kan ikke være levedyktig for en proprietær modell der forvaltning av åndsverk er avgjørende," sa han. Kersei var imidlertid raskt ute med å sette søkelyset på potensialet til åpen kildekode-modeller som Stable Diffusion eller Mistral7B som potensielle spillvekslere.

As rapportert av dekryptere, Mistral7B er en lett modell, trent på 7 milliarder parametere, som har laget bølger i AI-fellesskapet. dekryptere testet svarene sine mot andre kraftigere konkurrenter som LlaMA og Stable Beluga 2, og det slo utgangene deres. For kontekst, mens Mistral 7B opererer på 7 milliarder parametere, kan GPT-4 skryte av svimlende 1.7 billioner parametere.

Qualcomms Snapdragon 8 Gen 3 er mer enn en mikrobrikke; det er en forvarsel om en AI-sentrisk mobil fremtid. Med bransjeledere som Qualcomm, Google og Apple som leder an, er det bare et tidsspørsmål før assistenten din kan holde på alle hemmelighetene dine og likevel være nyttig for å svare på spørsmål og utføre oppgaver.

Hold deg oppdatert på kryptonyheter, få daglige oppdateringer i innboksen din.

Tidstempel:

Mer fra dekryptere