Что делает компьютер АИПК? Помимо некоторых неопределенное махание рукой При наличии «нейронных процессоров» и других функций, доступных только в новейших и лучших микросхемах, никто не придумал определения, кроме попытки продать какое-то FOMO.
Хотя Intel предполагает, что разработчики приложений вскоре снабдят все программное обеспечение искусственным интеллектом, и ПК должны быть готовы к этому, в настоящее время наиболее важной рабочей нагрузкой является создание логических выводов для создания больших языковых моделей.
Поэтому любой компьютер с искусственным интеллектом, достойный этого имени, должен выполнять логические выводы быстро и хорошо.
Вывод — это процесс, который преобразует отправленное приглашение в ответ. Для этого нужна машина, способная обрабатывать несколько гигабайт данных – и даже больше матричных умножений.
Хотя кажется, что такая ресурсоемкая задача вполне может расширить возможности настольного ПК (ChatGPT и ему подобные работают в колоссальных центрах обработки данных), я обнаружил, что большая часть оборудования, которое у нас уже есть, может адекватно выполнять работу по формированию логических выводов. . Любой может запустить «достаточно хороший» чат-бот на ПК — при условии, что у ПК достаточно оперативной памяти и графический процессор среднего уровня.
Это означает, что графический процессор имеет как минимум 8 ГБ видеопамяти (и не от Intel — по крайней мере, на данный момент, из-за отсутствия поддержки драйверов). Это не слишком дорого – и это хорошо, потому что это настольные ставки. Что касается оперативной памяти, вам будет удобнее иметь 32 ГБ, чем 16 ГБ, а 8 ГБ просто не хватит. И это все. Это все, что вам понадобится.
Apple исключительно хорошо справилась с этим (возможно, совершенно случайно) в своих SoC-серии M. Рассматривая память как «унифицированную» (если необходимо, это вся VRAM), все современные компьютеры Mac серии M с объемом оперативной памяти не менее 16 ГБ могут служить в качестве ПК с искусственным интеллектом.
Так получилось, что четыре из компьютеров, которые я приобрел за последнее десятилетие, соответствуют этим характеристикам, включая восьмилетнего монстра высшего класса, купленного как «VR-ПК» с процессором Intel 6700K и топовым на тот момент компьютером. Самый современный графический процессор Nvidia GTX 980 Ti. Более или менее соответствует закону Мура, он несколько медленнее, чем новые машины из моей коллекции, но на нем прекрасно работает чат-бот — локально.
Хотя мои недавние приобретения не были приобретены как компьютеры с искусственным интеллектом, каждое из моих последних приобретений делает выводы со скоростью, сравнимой со скоростью выполнения операций OpenAI GPT-3.5-Turbo - практически неотличимой от своего старшего брата как по скорости, так и по качеству результатов, которые они генерируют.
Чтобы протестировать эти системы, я передаю им довольно сложная подсказка, поручая им действовать в качестве «агента» — решать проблему путем создания файлов JSON, которые передаются в другую программу. («Небольшие свободно соединенные части» по-прежнему применимы в эпоху искусственного интеллекта.) И все это… просто работает.
Оказывается, у меня уже повсюду есть компьютеры с искусственным интеллектом. Кто знал? Более того, есть много компьютеров с искусственным интеллектом. Десятки миллионов. И это хорошо – потому что они нам понадобятся.
В то время как Microsoft требует, чтобы мы вставляли каждый конфиденциальный документ в Copilot для анализа – тем самым давая центрам обработки данных Редмонда возможность оценить наши самые конфиденциальные рабочие процессы – многие документы просто слишком конфиденциальны, чтобы ими вообще можно было поделиться.
А как насчет документов, которые настолько горячи, что их даже нельзя хранить на сетевой машине? А как насчет медицинской информации? Или секретные документы? Большая часть того, с чем мы работаем, связана с определенными условиями, что не позволяет свободно распространять эту информацию.
Юридические документы часто попадают в эту категорию – те виды задач, для решения которых недавно выпущенные Модель юридического языка SaulML может оказаться чрезвычайно полезным. Если бы у юриста или помощника юриста была запущена эта модель на локальном компьютере, они могли бы свободно закачивать в нее документы, просить ее внимательно прочитать и даже новые условия контракта – и все это, не беспокоясь об утечке конфиденциальной информации. Многие юридические фирмы обратились бы к такому инструменту, крича: «Заткнись и возьми деньги моего клиента!
На прошлых выходных я создал прототип этого инструмента, сократив полноценную модель SaulLM с открытым исходным кодом до размеров, чтобы она могла работать на моем парке компьютеров с искусственным интеллектом. Я не юрист, поэтому не могу в полной мере судить о его качестве. Однако я вставил в него обширные разделы контракта с потенциальным деловым партнером, а затем задал ему несколько трудных вопросов – не опасаясь утечек.
Даже если юристам это не нравится, остальные из нас сталкиваются с бесконечными, непонятными условиями, которые мы игнорировать на свой страх и риск – будет очень полезно.
Аналогичным образом, поставщики оборудования, которые полагаются на то, что вы выбросите компьютер, который вы купили для работы из дома три года назад, ради своего цикла дохода, не захотят это признавать, но у вас, вероятно, уже есть идеально исправный компьютер с искусственным интеллектом. Только не компьютер с искусственным интеллектом, который продавец хочет, чтобы вы бросились и купили. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :имеет
- :является
- :нет
- :куда
- $UP
- a
- О нас
- об этом
- приобретения
- Действие (Act):
- адекватный
- признавать
- возраст
- Агент
- тому назад
- AI
- Все
- уже
- an
- анализ
- и
- Другой
- любой
- кто угодно
- Применение
- применяется
- МЫ
- AS
- спросить
- At
- попытка
- доступен
- BE
- , так как:
- не являетесь
- Beyond
- больший
- изоферменты печени
- купил
- бизнес
- но
- купить
- by
- CAN
- мощности
- Категории
- Chatbot
- ChatGPT
- классифицированный
- клиент
- Закрыть
- CO
- лыжных шлемов
- как
- выходит
- сравнимый
- Условия
- конфиденциальный
- контракт
- может
- В настоящее время
- Порез
- резки
- цикл
- данным
- десятилетие
- определение
- компьютера
- застройщиков
- DID
- открытый
- do
- документ
- Документация
- дело
- Дон
- вниз
- водитель
- каждый
- 8
- Бесконечный
- чрезвычайно
- достаточно
- полностью
- Даже
- Каждая
- исключительно
- Осень
- страх
- Особенности
- ФРС
- Файлы
- Найдите
- конец
- Компаний
- ФЛОТ
- СЧ
- Что касается
- 4
- свободно
- часто
- от
- полностью
- порождать
- генерируется
- порождающий
- получить
- Отдаете
- будет
- хорошо
- GPU / ГРАФИЧЕСКИЙ ПРОЦЕССОР
- было
- происходит
- счастливее
- Жесткий
- Аппаратные средства
- Есть
- полезный
- Главная
- ГОРЯЧИЙ
- Однако
- HTTPS
- i
- if
- in
- В том числе
- информация
- Intel
- в
- IT
- ЕГО
- работа
- присоединился
- JPG
- JSON
- судья
- всего
- виды
- Отсутствие
- язык
- большой
- Фамилия
- закон
- юридические фирмы
- адвокат
- Адвокаты
- Утечки
- наименее
- Юр. Информация
- Меньше
- такое как
- линия
- жить
- локальным
- в местном масштабе
- серия
- любят
- машина
- Продукция
- ДЕЛАЕТ
- многих
- рынок
- матрица
- Вопросы
- означает
- основным медицинским
- Встречайте
- Память
- Microsoft
- миллионы
- модель
- Модели
- Модерн
- момент
- БОЛЕЕ
- самых
- много
- с разными
- умножения
- должен
- my
- имя
- Необходимость
- потребности
- нервный
- Новые
- более новый
- Nvidia
- of
- on
- ONE
- только
- открытый
- с открытым исходным кодом
- OpenAI
- or
- Другое
- наши
- внешний
- за
- партнер
- PC
- ПК
- в совершенстве
- Выполнять
- штук
- Часть
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Много
- возможно
- мощностью
- присутствие
- предупреждение
- вероятно
- Проблема
- процесс
- обработка
- FitPartner™
- предполагаемый
- при условии
- насос
- купленный
- Вопросы
- быстро
- Оперативная память
- RE
- Reading
- готовый
- последний
- недавно
- выпустил
- полагаться
- ответ
- ОТДЫХ
- доходы
- Run
- Бег
- работает
- торопить
- s
- кричащий
- разделах
- чувствительный
- служить
- общие
- кремний
- просто
- Размер
- небольшой
- So
- Software
- Решение
- некоторые
- в некотором роде
- скоро
- сложный
- звуки
- Источник
- функции
- скорость
- Ставки
- По-прежнему
- представленный
- такие
- Предлагает
- поддержка
- системы
- ТАБЛИЦЫ
- взять
- Сложность задачи
- задачи
- десятки
- terms
- условиями
- тестXNUMX
- чем
- который
- Ассоциация
- их
- Их
- тогда
- Там.
- тем самым
- следовательно
- Эти
- они
- этой
- три
- Через
- в
- слишком
- инструментом
- к
- прообразы
- лечения
- Получается
- унифицированный
- единиц
- us
- полезный
- Огромная
- Ve
- поставщики
- очень
- фактически
- vr
- хочет
- we
- уик-энд
- ЧТО Ж
- Что
- который
- в то время как
- КТО
- будете
- без
- Выиграл
- Работа
- работать из дома
- Рабочие процессы
- работает
- беспокоиться
- достойный
- бы
- лет
- Ты
- ВАШЕ
- зефирнет