Google Gemini Nano kommer inte att komma till Pixel 8-smarttelefoner

Google Gemini Nano kommer inte att komma till Pixel 8-smarttelefoner

Tidsstämpel: 8 mars 2024 6:05
Google Gemini Nano kommer inte att komma till Pixel 8-smarttelefoner PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Nano, Googles minsta AI-modell i sin generativa Gemini-serie, kommer inte att vara tillgänglig på Pixel 8-telefoner på grund av "vissa hårdvarubegränsningar."

Tillkännagavs i December, Nano går på avancerade Android-smarttelefoner som Googles senaste Pixel 8 Pro och Samsungs Galaxy S24-linje. Modellen tillhandahåller olika typiska AI-funktioner för dagen på dessa enheter, som att sammanfatta ljudinspelningar som text och Magic Compose, som automatiskt kan generera snabba svar på textmeddelanden åt dig.

Dessa funktioner kommer dock inte till Pixel 8, som gillar Pro gick till salu i oktober. I en paneldiskussion under det senaste avsnittet av The Android Show sa Terence Zhang, en ingenjör som arbetar med generativ AI på Google Android, att detta berodde på "vissa hårdvarubegränsningar." (Hoppa till cirka 42:57 i videon nedan.)

Youtube Video

Det är inte klart vad dessa begränsningar är exakt, med tanke på att både Pixel 8 och Pixel 8 Pro-enheterna är utrustade med samma Google Tensor G3-processor och CPU- och GPU-kärnor. Pixel 8 Pro, avgörande, har mer minne. 8:an har 8 GB RAM och 8 Pro har 12 GB, och genom ljudet kommer de 8 GB att försämra modellens prestanda. Så, ingen Nano för Pixel 8.

Google avböjde att kommentera rekordet.

Rimligt kompetenta stora språkmodeller är vanligtvis minnes- och beräkningsintensiva, vilket gör dem svåra att köra på smartphones, även sådana med 8 GB DRAM.

Google utvecklade AICore, en Android-systemtjänst som applikationer kan använda för att få Google Nano att utföra ML-inferensuppgifter, såsom textgenerering, på enheten med hjälp av vilken hårdvaruacceleration som helst.

Zhang sa att AICore i grunden är en API-yta för Gemini Nano, och att denna modell är begränsad av enhetens datorkraft. På telefoner där det inte finns någon Nano, som Pixel 8, finns det ingen AICore att använda.

AICore är användbart eftersom det tillåter appar att utnyttja Gemini Nano på den lokala enheten utan att behöva en internetanslutning till någon fjärrmolntjänst. All text som genereras av modellen är privat eftersom data inte lämnar smarttelefonen, vilket också minskar latensen, vilket gör den snabbare att köra. "Sistligen, och viktigast av allt, det är gratis," sa Zhang. Eftersom alla arbetsbelastningar körs med hjälp av hårdvaran på enheter, kostar det inte ett öre att interagera med modellen, till skillnad från att komma åt en LLM från molnet.

"AICore är för närvarande endast tillgängligt på enheter i Google Pixel 8 Pro och Samsung S24 Series," gör Google tydligt i utvecklarens dokumentation.

Webbjätten är sagt att vara planerar att lansera fler AI-funktioner för sin röststyrda Assistant, som drivs av sina större Gemini Pro- och Ultra-modeller, nästa år på sina Pixel-enheter. ®

Tidsstämpel:

Mer från Registret