Google Gemini Nano komt niet naar Pixel 8-smartphones

Nano, het kleinste AI-model van Google in zijn generatieve Gemini-serie, zal niet beschikbaar zijn op Pixel 8-handsets vanwege “enkele hardwarebeperkingen.”

Aangekondigd in December, Nan draait op high-end Android-smartphones zoals Google's nieuwste Pixel 8 Pro en Samsung's Galaxy S24-lijn. Het model biedt verschillende typische AI-functies van de dag op die apparaten, zoals het samenvatten van audio-opnames als tekst en Magic Compose, dat automatisch snelle antwoorden op sms-berichten voor je kan genereren.

Deze mogelijkheden komen echter niet naar de Pixel 8, die net als de Pro ging in de uitverkoop in oktober. In een paneldiscussie tijdens de laatste aflevering van The Android Show zei Terence Zhang, een ingenieur die werkt aan generatieve AI op Google Android, dat dit te wijten was aan ‘enkele hardwarebeperkingen’. (Ga naar ongeveer 42:57 in de onderstaande video.)

Youtube Video

Het is niet duidelijk wat die beperkingen precies zijn, aangezien zowel de Pixel 8- als Pixel 8 Pro-apparaten zijn uitgerust met dezelfde Google Tensor G3-processor en CPU- en GPU-kernen. De Pixel 8 Pro heeft, cruciaal, meer geheugen. De 8 heeft 8 GB RAM en de 8 Pro heeft 12 GB, en zo te horen zal die 8 GB de prestaties van het model belemmeren. Dus geen Nano voor de Pixel 8.

Google weigerde commentaar te geven op het record.

Redelijk competente grote taalmodellen zijn doorgaans geheugen- en rekenintensief, waardoor ze lastig te gebruiken zijn op smartphones, zelfs op smartphones met 8 GB DRAM.

Google heeft AICore ontwikkeld, een Android-systeemservicetoepassing waarmee Google Nano ML-inferentietaken, zoals het genereren van tekst, op het apparaat kan uitvoeren met behulp van de hardwareversnelling die voorhanden is.

Zhang zei dat AICore in feite een API-oppervlak is voor Gemini Nano, en dat dit model wordt beperkt door de rekenkracht van het apparaat. Op telefoons waar geen Nano aanwezig is, zoals de Pixel 8, is er geen AICore te gebruiken.

AICore is handig omdat apps hiermee Gemini Nano op het lokale apparaat kunnen gebruiken zonder dat een internetverbinding met een externe cloudservice nodig is. Alle tekst die door het model wordt gegenereerd, is privé omdat de gegevens de smartphone niet verlaten, wat ook de latentie vermindert, waardoor deze sneller kan worden uitgevoerd. “Ten slotte, en het allerbelangrijkste, is het gratis,” zei Zhang. Omdat alle workloads worden uitgevoerd met behulp van de hardware op apparaten, kost het geen cent om met het model te communiceren, in tegenstelling tot toegang tot een LLM vanuit de cloud.

“AICore is momenteel alleen beschikbaar op Google Pixel 8 Pro- en Samsung S24 Series-apparaten”, maakt Google duidelijk in de documentatie voor ontwikkelaars.

De webgigant is dat wel Gezegd te zijn is van plan om volgend jaar meer AI-functies uit te rollen voor zijn stemgestuurde assistent, mogelijk gemaakt door zijn grotere Gemini Pro- en Ultra-modellen, op zijn Pixel-apparaten. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/03/08/google_gemini_nano_pixel_8/