Google Gemini Nano не появится на смартфонах Pixel 8

Google Gemini Nano не появится на смартфонах Pixel 8

Google Gemini Nano не появится на смартфонах Pixel 8 PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Nano, самая маленькая модель искусственного интеллекта от Google в генеративной серии Gemini, не будет доступна на телефонах Pixel 8 из-за «некоторых аппаратных ограничений».

Объявлено в Декабрь, Нано работает на высококлассные Android-смартфоны, такие как новейший Pixel 8 Pro от Google и линейка Galaxy S24 от Samsung. Модель предоставляет различные типичные функции искусственного интеллекта на этих устройствах, такие как обобщение аудиозаписей в виде текста и Magic Compose, который может автоматически генерировать для вас быстрые ответы на текстовые сообщения.

Однако эти возможности не появятся в Pixel 8, как и в Pro. пошел на распродажу в октябре. В ходе панельной дискуссии в последнем эпизоде ​​The Android Show Теренс Чжан, инженер, работающий над генеративным искусственным интеллектом в Google Android, сказал, что это связано с «некоторыми аппаратными ограничениями». (Перейдите примерно к 42:57 в видео ниже.)

Youtube Video

Неясно, в чем именно заключаются эти ограничения, учитывая, что устройства Pixel 8 и Pixel 8 Pro оснащены одним и тем же процессором Google Tensor G3, а также ядрами ЦП и графического процессора. Что особенно важно, у Pixel 8 Pro больше памяти. У 8 8 ГБ ОЗУ, а у 8 Pro — 12 ГБ, и, судя по всему, эти 8 ГБ снизят производительность модели. Итак, никакого Nano для Pixel 8.

Google отказался комментировать эту запись.

Достаточно компетентные модели на больших языках обычно требуют большого объема памяти и вычислительных ресурсов, что затрудняет их запуск на смартфонах, даже с 8 ГБ DRAM.

Google разработала AICore, системные сервисные приложения Android, которые можно использовать, чтобы заставить Google Nano выполнять задачи вывода ML, такие как генерация текста, на устройстве, используя любое доступное аппаратное ускорение.

Чжан сказал, что AICore — это, по сути, API-интерфейс для Gemini Nano, и что эта модель ограничена вычислительной мощностью устройства. На телефонах, где нет Nano, таких как Pixel 8, нет возможности использовать AICore.

AICore полезен тем, что позволяет приложениям подключаться к Gemini Nano на локальном устройстве без необходимости подключения к Интернету к какой-либо удаленной облачной службе. Весь текст, генерируемый моделью, является конфиденциальным, поскольку данные не покидают смартфон, что также снижает задержку и ускоряет работу. «Наконец, и самое главное, это бесплатно», — сказал Чжан. Поскольку все рабочие нагрузки выполняются с использованием оборудования на устройствах, взаимодействие с моделью не требует ни копейки, в отличие от доступа к LLM из облака.

«AICore в настоящее время доступен только на устройствах серий Google Pixel 8 Pro и Samsung S24», — поясняет Google в своем отчете. документация для разработчиков.

Веб-гигант – это сказал, что планирует в следующем году внедрить дополнительные функции искусственного интеллекта для своего помощника с голосовым управлением, работающего на базе более крупных моделей Gemini Pro и Ultra, на своих устройствах Pixel. ®

Отметка времени:

Больше от Регистр