Що робить ПК AIPC? Крім деяких невиразне помахування рукою за наявності «блоків нейронної обробки» та інших функцій, доступних лише на найновішому та найкращому кремнії, ніхто не придумав визначення, окрім спроби продати якусь FOMO.
Хоча Intel припускає, що незабаром розробники додатків наповнять усе програмне забезпечення штучним інтелектом, і ПК повинні бути готові до цього, робоче навантаження, яке наразі має найбільше значення, — це логічний висновок для роботи великих мовних моделей.
Таким чином, будь-який комп’ютер зі штучним інтелектом, який гідний цього імені, повинен виконувати логічні висновки швидко та якісно.
Висновок — це процес, який перетворює подану підказку у відповідь. Для цього потрібна машина, яка може обробляти кілька гігабайтів даних – і навіть більше матриць множення.
Хоча таке інтенсивне обчислювальне завдання звучить так, ніби воно може збільшити потужність настільного ПК (ChatGPT і його подібні працюють у колосальних центрах обробки даних), я виявив, що багато апаратного забезпечення, яке ми вже маємо, може виконувати належну роботу з висновків . Будь-хто може запустити «достатньо хороший» чат-бот на ПК – за умови, що ПК має достатньо оперативної пам’яті та графічний процесор середнього класу.
Це означає графічний процесор із принаймні 8 ГБ відеопам’яті (і не від Intel – принаймні на даний момент через відсутність підтримки драйверів). Це не надто дорого – і це добре, адже це настільні ставки. Що стосується оперативної пам’яті, ви будете щасливіші з 32 ГБ, ніж з 16 ГБ, тоді як 8 ГБ просто не вистачить. І це приблизно все. Це все, що вам знадобиться.
Apple надзвичайно добре впоралася з цим – можливо, абсолютно випадково – у своїй M-серії SoC. Розглядаючи пам’ять як «уніфіковану» – це вся VRAM, якщо це необхідно – усі сучасні комп’ютери Mac серії M із принаймні 16 ГБ оперативної пам’яті можуть служити ПК зі штучним інтелектом.
Так сталося, що чотири комп’ютери, які я придбав за останнє десятиліття, відповідають цим специфікаціям – у тому числі восьмирічний найкращий монстр, придбаний як «ПК ПК» із процесором Intel 6700K, а потім і найвищий сучасний графічний процесор Nvidia GTX 980 Ti. Більш-менш відповідно до закону Мура, він дещо повільніший, ніж нові машини в моїй колекції, але він чудово запускає чат-бота – локально.
Незважаючи на те, що мої нещодавні придбання не були придбані як комп’ютери зі штучним інтелектом, мої останні придбання роблять кожне висновок зі швидкістю, порівнянною з завершеннями, створеними OpenAI GPT-3.5-Turbo – практично не відрізняючись від їх більшого двоюрідного брата як за швидкістю, так і за якістю завершень, які вони генерують.
Щоб перевірити ці системи, я годую їх a досить складна підказка, наказуючи їм діяти як «агент» — вирішувати проблему шляхом генерації файлів JSON, які надсилаються в іншу програму. («В епоху штучного інтелекту все ще застосовуються «невеликі шматочки, нещільно з’єднані».) І все це… просто працює.
Тож виявляється, що я вже повсюди маю ПК зі штучним інтелектом. Хто знав? Більше того, є багато ПК зі штучним інтелектом. Десятки мільйонів. І це добре, адже вони нам знадобляться.
Хоча Microsoft хотіла б, щоб ми вставляли кожен конфіденційний документ у Copilot для аналізу – таким чином даючи центрам обробки даних у Редмонді понюхати наші найбільш конфіденційні робочі процеси – багато документів просто надто конфіденційні, щоб ними взагалі ділитися.
А як щодо документів, настільки гарячих, що вони навіть не повинні зберігатися на мережевій машині? А як щодо медичної інформації? Чи секретні документи? Багато з того, з чим ми працюємо, постачається з прикріпленими рядками, що перешкоджає вільному обміну.
Юридичні документи часто належать до цієї категорії – типи завдань, які були нещодавно випущені Юридична модель мови SaulML може бути надзвичайно корисним. Якби юрист або помічник юриста запустив цю модель на своєму локальному комп’ютері, вони могли вільно завантажувати туди документи, попросити його уважно прочитати, навіть нові умови контракту – і все це не турбуючись про витік конфіденційної інформації. Багато юридичних фірм кинулися б до такого інструменту, кричачи:Замовкніть і візьміть гроші мого клієнта!"
Минулого тижня я створив прототип цього інструменту, скоротивши модель SaulLM із відкритим вихідним кодом до потрібного розміру, щоб вона могла працювати на моєму парку ПК зі штучним інтелектом. Я не юрист, тому не можу повною мірою судити про його якість. Однак я вставив у нього величезні розділи контракту від потенційного ділового партнера, а потім поставив кілька складних запитань – без будь-яких побоювань витоку інформації.
Навіть якщо юристам це не подобається, решта з нас – стикаються з нескінченними, незрозумілими умовами, які ми ігноруємо на наш страх і ризик – буде дуже корисним.
Подібним чином постачальники апаратного забезпечення, які покладаються на те, що ваші комп’ютери, які ви купили, щоб працювати вдома три роки тому, не хочуть визнавати цього, але у вас, мабуть, уже є комп’ютер зі штучним інтелектом, який повністю справний. Тільки не ПК зі штучним інтелектом, який vendorland хоче, щоб ви поспішили купити. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- : має
- :є
- : ні
- :де
- $UP
- a
- МЕНЮ
- про це
- поглинань
- Діяти
- адекватний
- визнати
- вік
- Агент
- назад
- AI
- ВСІ
- вже
- an
- аналіз
- та
- Інший
- будь-який
- будь
- додаток
- застосовується
- ЕСТЬ
- AS
- запитати
- At
- спроба
- доступний
- BE
- оскільки
- буття
- За
- більший
- обидва
- куплений
- бізнес
- але
- купити
- by
- CAN
- потужності
- Категорія
- Chatbot
- ChatGPT
- класифікований
- клієнт
- близько
- CO
- збір
- Приходити
- приходить
- порівнянний
- Умови
- конфіденційний
- контракт
- може
- В даний час
- Вирізати
- різання
- цикл
- дані
- десятиліття
- визначення
- робочий стіл
- розробників
- DID
- відкритий
- do
- документ
- документація
- справи
- Дон
- вниз
- водій
- кожен
- вісім
- Нескінченний
- надзвичайно
- досить
- повністю
- Навіть
- Кожен
- винятково
- Падати
- страх
- риси
- Fed
- Файли
- знайти
- кінець
- фірми
- ФЛЕТ
- Фомо
- для
- чотири
- вільно
- часто
- від
- повністю
- породжувати
- генерується
- породжує
- отримати
- дає
- буде
- добре
- GPU
- було
- відбувається
- щасливіше
- Жорсткий
- апаратні засоби
- Мати
- корисний
- Головна
- ГАРЯЧА
- Однак
- HTTPS
- i
- if
- in
- У тому числі
- інформація
- Intel
- в
- IT
- ЙОГО
- робота
- приєднався
- JPG
- json
- суддя
- просто
- види
- відсутність
- мова
- великий
- останній
- закон
- юридичні фірми
- юрист
- адвокати
- Витоку
- найменш
- легальний
- менше
- як
- Лінія
- жити
- місцевий
- локально
- серія
- любов
- машина
- Машинки для перманенту
- РОБОТИ
- багато
- ринок
- Матриця
- Питання
- засоби
- медичний
- Зустрічатися
- пам'ять
- Microsoft
- мільйони
- модель
- Моделі
- сучасний
- момент
- більше
- найбільш
- багато
- множинний
- множення
- повинен
- my
- ім'я
- Необхідність
- потреби
- нервовий
- Нові
- новіший
- Nvidia
- of
- on
- ONE
- тільки
- відкрити
- з відкритим вихідним кодом
- OpenAI
- or
- Інше
- наші
- з
- над
- партнер
- PC
- ПК
- відмінно
- Виконувати
- частин
- місце
- plato
- Інформація про дані Платона
- PlatoData
- Plenty
- можливо
- влада
- наявність
- попередження
- ймовірно
- Проблема
- процес
- обробка
- програма
- передбачуваний
- за умови
- насос
- придбано
- якість
- питань
- швидко
- Оперативна пам'ять
- RE
- читання
- готовий
- останній
- нещодавно
- випущений
- покладатися
- відповідь
- REST
- revenue
- прогін
- біг
- пробіжки
- порив
- s
- кричущий
- розділам
- чутливий
- служити
- загальні
- Кремній
- просто
- Розмір
- невеликий
- So
- Софтвер
- Розв’язування
- деякі
- кілька
- скоро
- складний
- звуки
- Source
- дані
- швидкість
- ставки
- Як і раніше
- представлений
- такі
- Запропонує
- підтримка
- Systems
- таблиця
- Приймати
- Завдання
- завдання
- тензор
- terms
- правила та умови
- тест
- ніж
- Що
- Команда
- їх
- Їх
- потім
- Там.
- тим самим
- отже
- Ці
- вони
- це
- три
- через
- до
- занадто
- інструмент
- до
- перетворення
- лікування
- повороти
- єдиний
- одиниць
- us
- корисний
- величезний
- Ve
- постачальники
- дуже
- фактично
- vr
- хоче
- we
- уїк-енд
- ДОБРЕ
- Що
- який
- в той час як
- ВООЗ
- волі
- з
- без
- Виграв
- Work
- працювати вдома
- Робочі процеси
- працює
- турбуватися
- гідний
- б
- років
- Ти
- вашу
- зефірнет