Google Gemini Nano nu va veni pe smartphone-urile Pixel 8

Nano, cel mai mic model AI al Google din seria sa generativă Gemini, nu va fi disponibil pe telefoanele Pixel 8 din cauza „unelor limitări hardware”.

Anunțat în decembrie, Nano rulează pe smartphone-uri Android de ultimă generație, cum ar fi cel mai recent Pixel 8 Pro de la Google și linia Galaxy S24 de la Samsung. Modelul oferă diverse funcții AI tipice ale zilei pe acele dispozitive, cum ar fi rezumarea înregistrărilor audio ca text și Magic Compose, care pot genera automat răspunsuri rapide la mesajele text pentru dvs.

Cu toate acestea, aceste capacități nu vor veni la Pixel 8, care ca și Pro a intrat în vânzare in octombrie. Într-o discuție în cadrul celui mai recent episod din The Android Show, Terence Zhang, un inginer care lucrează la AI generativă pe Google Android, a spus că acest lucru se datorează „unelor limitări hardware”. (Săriți la aproximativ 42:57 în videoclipul de mai jos.)

Youtube Video

Nu este clar care sunt exact aceste limitări, având în vedere că atât dispozitivele Pixel 8, cât și Pixel 8 Pro sunt echipate cu același procesor Google Tensor G3 și nuclee CPU și GPU. Pixel 8 Pro, în mod esențial, are mai multă memorie. 8 are 8 GB de RAM, iar 8 Pro are 12 GB, iar după sunete, acei 8 GB vor îngrădi performanța modelului. Deci, fără Nano pentru Pixel 8.

Google a refuzat să comenteze înregistrarea.

Modelele de limbaje mari suficient de competente sunt de obicei consumatoare de memorie și de calcul, ceea ce le face dificil de rulat pe smartphone-uri, chiar și pe cele cu 8 GB de DRAM.

Google a dezvoltat AICore, un sistem de aplicații de serviciu Android pe care îl pot folosi pentru a face Google Nano să efectueze sarcini de inferență ML, cum ar fi generarea de text, pe dispozitiv, folosind orice accelerație hardware la îndemână.

Zhang a spus că AICore este practic o suprafață API pentru Gemini Nano și că acest model este limitat de puterea de calcul a dispozitivului. Pe telefoanele unde nu există Nano, cum ar fi Pixel 8, nu există AICore de utilizat.

AICore este util prin faptul că permite aplicațiilor să acceseze Gemini Nano pe dispozitivul local fără a avea nevoie de o conexiune la internet la un serviciu cloud de la distanță. Tot textul generat de model este privat, deoarece datele nu părăsesc smartphone-ul, ceea ce reduce și latența, făcându-l mai rapid de rulat. „În sfârșit, și cel mai important, este gratuit”, a spus Zhang. Deoarece toate sarcinile de lucru sunt rulate folosind hardware-ul de pe dispozitive, nu costă nici un ban să interacționezi cu modelul, spre deosebire de accesarea unui LLM din cloud.

„AICore este disponibil momentan numai pe dispozitivele Google Pixel 8 Pro și Samsung S24 Series”, explică Google în documentația dezvoltatorului.

Gigantul web este spus să fie plănuiește să lanseze mai multe funcții AI pentru Asistentul său controlat prin voce, alimentat de modelele sale mai mari Gemini Pro și Ultra, anul viitor pe dispozitivele sale Pixel. ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2024/03/08/google_gemini_nano_pixel_8/