Nano, самая маленькая модель искусственного интеллекта от Google в генеративной серии Gemini, не будет доступна на телефонах Pixel 8 из-за «некоторых аппаратных ограничений».
Объявлено в Декабрь, Нано работает на высококлассные Android-смартфоны, такие как новейший Pixel 8 Pro от Google и линейка Galaxy S24 от Samsung. Модель предоставляет различные типичные функции искусственного интеллекта на этих устройствах, такие как обобщение аудиозаписей в виде текста и Magic Compose, который может автоматически генерировать для вас быстрые ответы на текстовые сообщения.
Однако эти возможности не появятся в Pixel 8, как и в Pro. пошел на распродажу в октябре. В ходе панельной дискуссии в последнем эпизоде The Android Show Теренс Чжан, инженер, работающий над генеративным искусственным интеллектом в Google Android, сказал, что это связано с «некоторыми аппаратными ограничениями». (Перейдите примерно к 42:57 в видео ниже.)
Неясно, в чем именно заключаются эти ограничения, учитывая, что устройства Pixel 8 и Pixel 8 Pro оснащены одним и тем же процессором Google Tensor G3, а также ядрами ЦП и графического процессора. Что особенно важно, у Pixel 8 Pro больше памяти. У 8 8 ГБ ОЗУ, а у 8 Pro — 12 ГБ, и, судя по всему, эти 8 ГБ снизят производительность модели. Итак, никакого Nano для Pixel 8.
Google отказался комментировать эту запись.
Достаточно компетентные модели на больших языках обычно требуют большого объема памяти и вычислительных ресурсов, что затрудняет их запуск на смартфонах, даже с 8 ГБ DRAM.
Google разработала AICore, системные сервисные приложения Android, которые можно использовать, чтобы заставить Google Nano выполнять задачи вывода ML, такие как генерация текста, на устройстве, используя любое доступное аппаратное ускорение.
Чжан сказал, что AICore — это, по сути, API-интерфейс для Gemini Nano, и что эта модель ограничена вычислительной мощностью устройства. На телефонах, где нет Nano, таких как Pixel 8, нет возможности использовать AICore.
AICore полезен тем, что позволяет приложениям подключаться к Gemini Nano на локальном устройстве без необходимости подключения к Интернету к какой-либо удаленной облачной службе. Весь текст, генерируемый моделью, является конфиденциальным, поскольку данные не покидают смартфон, что также снижает задержку и ускоряет работу. «Наконец, и самое главное, это бесплатно», — сказал Чжан. Поскольку все рабочие нагрузки выполняются с использованием оборудования на устройствах, взаимодействие с моделью не требует ни копейки, в отличие от доступа к LLM из облака.
«AICore в настоящее время доступен только на устройствах серий Google Pixel 8 Pro и Samsung S24», — поясняет Google в своем отчете. документация для разработчиков.
Веб-гигант – это сказал, что планирует в следующем году внедрить дополнительные функции искусственного интеллекта для своего помощника с голосовым управлением, работающего на базе более крупных моделей Gemini Pro и Ultra, на своих устройствах Pixel. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/03/08/google_gemini_nano_pixel_8/
- :имеет
- :является
- :нет
- :куда
- 7
- 8
- a
- О нас
- ускорение
- доступа
- AI
- Все
- позволяет
- причислены
- an
- и
- android
- API
- Приложения
- Программы
- МЫ
- AS
- помощник
- аудио
- автоматически
- доступен
- в основном
- BE
- ниже
- изоферменты печени
- by
- CAN
- возможности
- Очистить
- облако
- CO
- приход
- комментарий
- компетентный
- Вычисление
- вычисление
- вычислительная мощность
- связи
- принимая во внимание
- Цена
- в решающей степени
- В настоящее время
- данным
- день
- развитый
- устройство
- Устройства
- обсуждение
- Безразлично
- вниз
- два
- в течение
- инженер
- эпизод
- оборудованный
- Даже
- точно,
- быстрее
- Особенности
- Что касается
- Бесплатно
- от
- Galaxy
- Gemini
- порождать
- генерируется
- поколение
- генеративный
- Генеративный ИИ
- гигант
- GPU / ГРАФИЧЕСКИЙ ПРОЦЕССОР
- рука
- Аппаратные средства
- Лидирующий
- HTTPS
- важно
- in
- взаимодействовать
- Интернет
- интернет-соединение
- в
- IT
- ЕГО
- JPG
- язык
- большой
- больше
- наконец
- Задержка
- последний
- Оставлять
- такое как
- недостатки
- линия
- LLM
- локальным
- магия
- сделать
- ДЕЛАЕТ
- Создание
- Память
- Сообщения
- ML
- модель
- Модели
- БОЛЕЕ
- самых
- карликовый
- нуждающихся
- следующий
- нет
- октябрь
- of
- on
- те,
- только
- внешний
- панель
- Дискуссия
- Выполнять
- производительность
- телефоны
- Pixel
- планирование
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- мощностью
- Питание
- частная
- Pro
- процессор
- приводит
- САЙТ
- Оперативная память
- запись
- снижает
- удаленные
- Катить
- Run
- s
- Сказал
- то же
- Samsung
- Серии
- обслуживание
- показывать
- с
- смартфон
- смартфоны
- So
- некоторые
- звуки
- такие
- Поверхность
- система
- Нажмите
- задачи
- текст
- который
- Ассоциация
- Их
- Там.
- этой
- те
- хоть?
- в
- типичный
- типично
- Ультра
- В отличие от
- использование
- полезный
- через
- различный
- Видео
- законопроект
- Web
- Что
- любой
- , которые
- будете
- без
- работает
- год
- Ты
- YouTube
- зефирнет