Google Gemini Nano kommer ikke til Pixel 8-smarttelefoner

Nano, Googles minste AI-modell i sin generative Gemini-serie, vil ikke være tilgjengelig på Pixel 8-telefoner på grunn av «noen maskinvarebegrensninger».

Annonsert i Desember, Nano kjører på avanserte Android-smarttelefoner som Googles nyeste Pixel 8 Pro og Samsungs Galaxy S24-linje. Modellen gir ulike typiske AI-funksjoner for dagen på disse enhetene, for eksempel oppsummering av lydopptak som tekst og Magic Compose, som automatisk kan generere raske svar på tekstmeldinger for deg.

Disse egenskapene kommer imidlertid ikke til Pixel 8, som liker Pro gikk på salg i oktober. I en paneldiskusjon under den siste episoden av The Android Show sa Terence Zhang, en ingeniør som jobber med generativ AI på Google Android, at dette skyldes «noen maskinvarebegrensninger». (Hopp til ca. 42:57 i videoen nedenfor.)

Youtube Video

Det er ikke klart hva disse begrensningene er, med tanke på at både Pixel 8 og Pixel 8 Pro-enhetene er utstyrt med samme Google Tensor G3-prosessor og CPU- og GPU-kjerner. Pixel 8 Pro, avgjørende, har mer minne. 8 har 8 GB RAM og 8 Pro har 12 GB, og etter lyden av den vil de 8 GB redusere ytelsen til modellen. Så ingen Nano for Pixel 8.

Google nektet å kommentere posten.

Rimelig kompetente store språkmodeller er vanligvis minne- og dataintensive, noe som gjør dem vanskelige å kjøre på smarttelefoner, selv de med 8 GB DRAM.

Google utviklet AICore, en Android-systemtjenesteapplikasjoner kan bruke for å få Google Nano til å utføre ML-inferensoppgaver, for eksempel tekstgenerering, på enheten ved å bruke hvilken som helst maskinvareakselerasjon.

Zhang sa at AICore i utgangspunktet er en API-overflate for Gemini Nano, og at denne modellen er begrenset av enhetens datakraft. På telefoner der det ikke er Nano, for eksempel Pixel 8, er det ingen AICore å bruke.

AICore er nyttig ved at den lar apper benytte seg av Gemini Nano på den lokale enheten uten å trenge en internettforbindelse til en ekstern skytjeneste. All tekst som genereres av modellen er privat siden dataene ikke forlater smarttelefonen, noe som også reduserer ventetiden, noe som gjør den raskere å kjøre. "Til slutt, og viktigst av alt, det er gratis," sa Zhang. Siden alle arbeidsbelastningene kjøres ved hjelp av maskinvaren på enheter, koster det ikke en krone å samhandle med modellen, i motsetning til å få tilgang til en LLM fra skyen.

"AICore er foreløpig bare tilgjengelig på enheter i Google Pixel 8 Pro og Samsung S24 Series," gjør Google klart i utvikler dokumentasjon.

Nettgiganten er sies å være planlegger å rulle ut flere AI-funksjoner for sin stemmestyrte assistent, drevet av de større Gemini Pro- og Ultra-modellene, neste år på Pixel-enhetene. ®

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://go.theregister.com/feed/www.theregister.com/2024/03/08/google_gemini_nano_pixel_8/