Mi az, amitől a PC egy AIPC? Néhányon túl homályos kézlengetés A „neurális feldolgozó egységek” és más, csak a legfrissebb és legnagyszerűbb szilíciumban elérhető funkciók jelenlétében senki sem talált olyan definíciót, mint valami FOMO piacra dobásának kísérlete.
Míg az Intel azt javasolja, hogy az alkalmazásfejlesztők hamarosan minden szoftvert mesterséges intelligenciával töltenek be, és a PC-knek készen kell állniuk rá, jelenleg a legfontosabb munkaterhelés a nagy nyelvi modellek meghajtására való következtetés.
Ezért minden AI PC-nek, amely méltó a névre, gyorsan és jól kell végrehajtania a következtetést.
A következtetés az a folyamat, amely a beküldött promptot válaszává alakítja. Ehhez olyan gépre van szükség, amely több gigabájt adatot képes felőrölni – és még több mátrixszorzást.
Noha egy ilyen számításigényes feladat úgy hangzik, mintha egy asztali számítógép kapacitását megnövelné (a ChatGPT és a hozzá hasonló kolosszális adatközpontokban fut), rájöttem, hogy a már meglévő hardverek nagy része képes megfelelő következtetéseket levonni. . Bárki futtathat egy „elég jó” chatbotot PC-n – feltéve, hogy a PC rendelkezik elegendő RAM-mal és középkategóriás GPU-val.
Ez legalább 8 GB VRAM-mal rendelkező GPU-t jelent (és nem az Inteltől – legalábbis jelenleg, illesztőprogram-támogatás hiányában). Ez nem túl drága – ami jó, mert asztali tétről van szó. A RAM esetében jobban örülne a 32 GB-nak, mint a 16 GB-nak, míg a 8 GB egyszerűen nem csökkenti. És nagyjából ennyi. Ez minden, amire szüksége lesz.
Az Apple ezt kivételesen jól – valószínűleg teljesen véletlenül – finomította M-sorozatú SoC-jaival. A memóriát „egységesként” kezelve – ha kell, ez mind VRAM – minden modern M-sorozatú, legalább 16 GB RAM-mal rendelkező Mac képes mesterséges intelligencia PC-ként működni.
Az elmúlt évtizedben vásárolt PC-k közül négy megfelel ezeknek a specifikációknak – köztük egy nyolc éves csúcskategóriás szörny, amelyet „VR PC-ként” vásároltak, Intel 6700K CPU-val, majd csúcsminőséggel. csúcskategóriás Nvidia GTX 980 Ti GPU. Többé-kevésbé összhangban van Moore törvényével, valamivel lassabb, mint a gyűjteményemben található újabb gépek, de a chatbotot remekül futtatja – helyben.
Bár nem mesterséges intelligencia PC-ként vásároltam, újabb beszerzéseim mindegyike olyan sebességgel következtet, mint az OpenAI GPT-3.5-Turbo által generált befejezések – gyakorlatilag nem különböztethetők meg nagyobb rokonuktól, mind sebességben, mind az általuk generált befejezések minőségében.
Ezen rendszerek teszteléséhez táplálom őket a meglehetősen kifinomult prompt, utasítja őket, hogy „ügynökként” működjenek – a probléma megoldása olyan JSON-fájlok generálásával, amelyek egy másik programba kerülnek. (A „kis darabok lazán összeillesztve” még mindig érvényes az AI korában.) És mindez… egyszerűen működik.
Szóval kiderült, hogy már mindenhol vannak mesterséges intelligencia számítógépeim. Aki tudta? Mi több, vannak a sok az AI PC-k közül. Tízmilliókat. Ami jó – mert szükségünk lesz rájuk.
Míg a Microsoft azt szeretné, ha minden érzékeny dokumentumot beillesztenünk a Copilotba elemzés céljából – ezáltal a redmondi adatközpontok bepillantást nyerhetnek a legbizalmasabb munkafolyamatainkba –, sok dokumentum egyszerűen túl érzékeny ahhoz, hogy egyáltalán meg lehessen osztani.
Mi a helyzet az olyan forró dokumentumokkal, hogy nem is kellene egy hálózatba kötött gépen élniük? Mi a helyzet az orvosi információkkal? Vagy minősített dokumentumok? Annyira, amivel dolgozunk, hozzá van kötve, ami megakadályozza a szabad megosztást.
A jogi dokumentumok gyakran ebbe a kategóriába tartoznak – azok a feladatok, amelyeknél a közelmúltban megjelentek SaulML jogi nyelvi modell rendkívül hasznos lehet. Ha egy ügyvédnek vagy jogi képviselőnek ez a modell futott volna a helyi számítógépén, akkor szabadon pumpálhatna bele dokumentumokat, kérhetett, hogy készítsen egy alapos áttekintést, akár új szerződési feltételeket is – mindezt anélkül, hogy aggódnának a bizalmas információk kiszivárgása miatt. Sok ügyvédi iroda sikoltozva rohanna egy ilyen eszköz felé.Fogd be, és vedd el az ügyfelem pénzét!"
Az eszköz prototípusát a múlt hétvégén készítettem el – méretre vágtam a teljes vastagságú nyílt forráskódú SaulLM modellt, hogy működjön az AI PC-m flottáján. Nem vagyok jogász, így nem tudom teljes mértékben megítélni a minőségét. Mindazonáltal beillesztettem bele egy leendő üzleti partnertől származó szerződés hatalmas részeit, majd feltettem neki néhány nehéz kérdést – a kiszivárgástól való félelem nélkül.
Még ha az ügyvédek nem is szeretik, mi, többiek – olyan végtelen, elgondolatlan feltételekkel szembesülve, figyelmen kívül hagyjuk a veszélyünkre – nagyon hasznosnak találja.
Ugyanígy a hardvergyártók – akik arra hagyatkoznak, hogy bevételi ciklusuk miatt a három éve vásárolt számítógépet otthonról történő munkavégzésre ócsárolja – nem szívesen vallják be, de valószínűleg már van egy tökéletesen használható AI PC-je. Csak nem az a mesterséges intelligencia PC, amelyet a vendorland szeretne, hogy rohanjon és vásároljon. ®
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :van
- :is
- :nem
- :ahol
- $ UP
- a
- Rólunk
- erről
- felvásárlások
- törvény
- megfelelő
- beismerni
- kor
- Ügynök
- Augusztus
- AI
- Minden termék
- már
- an
- elemzés
- és a
- Másik
- bármilyen
- bárki
- Alkalmazás
- alkalmazandó
- VANNAK
- AS
- kérdez
- At
- kísérlet
- elérhető
- BE
- mert
- hogy
- Túl
- nagyobb
- mindkét
- megvett
- üzleti
- de
- megvesz
- by
- TUD
- kapacitások
- Kategória
- chatbot
- ChatGPT
- osztályozott
- vásárló
- közel
- CO
- gyűjtemény
- hogyan
- jön
- hasonló
- Körülmények
- bizalmas
- szerződés
- tudott
- Jelenleg
- vágás
- vágás
- ciklus
- dátum
- évtized
- definíció
- asztali
- fejlesztők
- DID
- felfedezett
- do
- dokumentum
- dokumentumok
- Ennek
- Don
- le-
- gépkocsivezető
- minden
- nyolc
- Végtelen
- óriási
- elég
- teljesen
- Még
- Minden
- kivételesen
- Esik
- félelmek
- Jellemzők
- Fed
- Fájlok
- Találjon
- végén
- cégek
- FLOTTA
- FOMO
- A
- négy
- önként
- gyakran
- ból ből
- teljesen
- generál
- generált
- generáló
- kap
- Giving
- megy
- jó
- GPU
- kellett
- megtörténik
- boldogabb
- Kemény
- hardver
- Legyen
- hasznos
- Kezdőlap
- FORRÓ
- azonban
- HTTPS
- i
- if
- in
- Beleértve
- információ
- Intel
- bele
- IT
- ITS
- Munka
- csatlakozott
- jpg
- json
- bíró
- éppen
- fajta
- hiány
- nyelv
- nagy
- keresztnév
- Törvény
- ügyvédi irodák
- ügyvéd
- ügyvédek
- Szivárgás
- legkevésbé
- Jogi
- kevesebb
- mint
- vonal
- él
- helyi
- helyileg
- Sok
- szerelem
- gép
- gép
- KÉSZÍT
- sok
- piacára
- Mátrix
- számít
- eszközök
- orvosi
- Találkozik
- Memory design
- microsoft
- Több millió
- modell
- modellek
- modern
- pillanat
- több
- a legtöbb
- sok
- többszörös
- szorzások
- kell
- my
- név
- Szükség
- igények
- ideg-
- Új
- újabb
- Nvidia
- of
- on
- ONE
- csak
- nyitva
- nyílt forráskódú
- OpenAI
- or
- Más
- mi
- ki
- felett
- partner
- PC
- PC
- tökéletesen
- Teljesít
- darabok
- Hely
- Plató
- Platón adatintelligencia
- PlatoData
- bőséges
- esetleg
- hatalom
- jelenlét
- megakadályozása
- valószínűleg
- Probléma
- folyamat
- feldolgozás
- Program
- leendő
- feltéve,
- szivattyú
- vásárolt
- világítás
- Kérdések
- gyorsan
- RAM
- RE
- Olvasás
- kész
- új
- nemrég
- felszabaduló
- támaszkodnak
- válasz
- REST
- jövedelem
- futás
- futás
- fut
- rohanás
- s
- visító
- szakaszok
- érzékeny
- szolgál
- megosztott
- Szilícium
- egyszerűen
- Méret
- kicsi
- So
- szoftver
- Megoldása
- néhány
- némileg
- nemsokára
- kifinomult
- hangok
- forrás
- szemüveg
- sebesség
- tét
- Még mindig
- benyújtott
- ilyen
- javasolja,
- támogatás
- Systems
- táblázat
- Vesz
- Feladat
- feladatok
- tíz
- feltételek
- Felhasználási feltételeket
- teszt
- mint
- hogy
- A
- azok
- Őket
- akkor
- Ott.
- ezáltal
- ebből adódóan
- Ezek
- ők
- ezt
- három
- Keresztül
- nak nek
- is
- szerszám
- felé
- transzformáció
- kezelésére
- fordul
- egységes
- egységek
- us
- hasznos
- Hatalmas
- Ve
- gyártók
- nagyon
- gyakorlatilag
- vr
- akar
- we
- hétvége
- JÓL
- Mit
- ami
- míg
- WHO
- lesz
- val vel
- nélkül
- Nyerte
- Munka
- otthonról dolgozni
- munkafolyamatok
- művek
- aggasztó
- méltó
- lenne
- év
- te
- A te
- zephyrnet