Mis teeb arvutist AIPC? Peale mõne ebamäärane käega vehkimine "Närvitöötlusüksuste" ja muude funktsioonide olemasolul, mis on saadaval ainult uusimal ja parimal ränil, ei ole keegi välja pakkunud määratlust peale katse turustada mõnda FOMO-d.
Kuigi Intel soovitab, et rakenduste arendajad lisavad peagi kogu tarkvara tehisintellektiga ja personaalarvutid peavad olema nende jaoks valmis, on praegu kõige olulisem töökoormus suurte keelemudelite toiteks.
Seetõttu peab iga nime vääriv tehisintellekti arvuti tegema järeldusi kiiresti ja hästi.
Järeldus on protsess, mis muudab esitatud viipa vastuseks. Selleks on vaja masinat, mis suudab läbi lihvida mitu gigabaiti andmeid – ja veelgi rohkem maatrikskorrutusi.
Kuigi selline arvutusmahukas ülesanne tundub, et see võib lauaarvuti võimsust kõvasti venitada (ChatGPT ja selle sarnased töötavad kolossaalsetes andmekeskustes), olen avastanud, et suur osa meil juba olemasolevast riistvarast suudab teha piisavaid järeldusi. . Igaüks saab arvutis käivitada "piisavalt head" vestlusrobotit – eeldusel, et arvutil on piisavalt muutmälu ja keskklassi GPU.
See tähendab, et graafikaprotsessor on vähemalt 8 GB VRAM-iga (ja mitte Inteli – vähemalt praegu draiveri toe puudumise tõttu). See pole liiga kallis – see on hea, sest see on lauapanused. RAM-i puhul oleksite rohkem rahul 32 GB kui 16 GB-ga, samas kui 8 GB seda lihtsalt ei vähenda. Ja sellega asi piirdubki. See on kõik, mida te vajate.
Apple on oma M-seeria SoC-dega selle erakordselt hästi viimistlenud – võib-olla täiesti kogemata. Mälu käsitlemine ühtsena – see on kõik VRAM, kui see on vajalik – kõik kaasaegsed M-seeria Macid, millel on vähemalt 16 GB muutmälu, võivad toimida AI-arvutina.
Juhtub, et neli arvutit, mille olen viimase kümnendi jooksul ostnud, vastavad nendele spetsifikatsioonidele – sealhulgas kaheksa aastat vana tippkoletis, mis osteti VR-arvutina Intel 6700K protsessoriga ja seejärel tipptasemel. tipptasemel Nvidia GTX 980 Ti GPU. Enam-vähem kooskõlas Moore'i seadusega on see mõnevõrra aeglasem kui minu kollektsiooni uuemad masinad, kuid see töötab vestlusrobotiga suurepäraselt – kohapeal.
Ehkki neid ei osteta tehisintellekti arvutitena, järeldavad minu viimased soetused kiirusega, mis on võrreldav OpenAI GPT-3.5-Turbo genereeritud valmimistega – praktiliselt eristamatu nende suuremast sugulasest nii kiiruse kui ka genereeritavate lõpetamiste kvaliteedi poolest.
Nende süsteemide testimiseks toidan neid a üsna keerukas viipe, juhendades neid tegutsema "agendina" – probleemi lahendamine, genereerides JSON-faile, mis suunatakse teise programmi. ("Väikesed tükid on lõdvalt ühendatud" kehtib endiselt AI ajastul.) Ja see kõik … lihtsalt töötab.
Selgub, et mul on AI-arvutid juba kõikjal. Kes teadis? Veelgi enam, on olemas a osa AI arvutitest. Kümned miljonid. Mis on hea – sest meil läheb neid vaja.
Kuigi Microsoft soovib, et me kleepiksime analüüsimiseks kõik tundlikud dokumendid Copilotisse – andes sellega Redmondi andmekeskustele ülevaate meie kõige konfidentsiaalsematest töövoogudest –, on paljud dokumendid lihtsalt liiga tundlikud, et neid üldse jagada.
Aga dokumendid, mis on nii kuumad, et nad ei peaks isegi võrguga ühendatud masinas elama? Aga meditsiiniline teave? Või salastatud dokumente? Nii palju sellest, millega me töötame, on seotud nööridega, mis takistab selle vabalt jagamist.
Sellesse kategooriasse kuuluvad sageli juriidilised dokumendid – ülesanded, mille puhul hiljuti avaldati SaulML õiguskeele mudel võib olla tohutult abiks. Kui advokaadil või advokaadil oleks see mudel kohalikus arvutis töötav, võiks ta vabalt sellesse dokumente pumbata, paluda sellel luua põhjalikku lugemist, isegi uusi lepingutingimusi – seda kõike ilma konfidentsiaalse teabe lekkimise pärast muretsemata. Paljud advokaadibürood jooksid sellise tööriista poole, karjudes "Ole vait ja võta mu kliendi raha!"
Tegin selle tööriista prototüüpi eelmisel nädalavahetusel – vähendasin täispaksusega avatud lähtekoodiga SaulLM-i mudelit väiksemaks, et see saaks töötada minu tehisintellektiga arvutite pargis. Ma ei ole jurist, seega ei saa ma selle kvaliteeti täielikult hinnata. Siiski kleepisin sellesse potentsiaalse äripartneri lepingu suuri osasid ja esitasin seejärel mõned rasked küsimused – ilma lekkeid kartmata.
Isegi kui advokaatidele see ei meeldi, oleme me ülejäänud silmitsi lõputute, ebamääraste tingimuste ja tingimustega, mida me ignoreerida meie ohus – on see väga kasulik.
Samuti ei meeldi riistvaramüüjad – kes loodavad, et rämpsutate kolm aastat tagasi ostetud arvuti oma tulutsükli jaoks kodust tööle –, kuid tõenäoliselt on teil juba täiesti hooldatav tehisintellekti arvuti. Lihtsalt mitte tehisintellektiga arvuti, mida vendorland soovib, et te kiirustaksite ja ostaksite. ®
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :on
- :on
- :mitte
- : kus
- $ UP
- a
- MEIST
- sellest
- ülevõtmised
- tegu
- piisav
- tunnistama
- vanus
- Agent
- tagasi
- AI
- Materjal: BPA ja flataatide vaba plastik
- juba
- an
- analüüs
- ja
- Teine
- mistahes
- keegi
- taotlus
- kehtib
- OLEME
- AS
- küsima
- At
- katse
- saadaval
- BE
- sest
- on
- Peale
- suurem
- mõlemad
- ostnud
- äri
- kuid
- ostma
- by
- CAN
- võimsused
- Kategooria
- chatbot
- ChatGPT
- salastatud
- klient
- lähedal
- CO
- kogumine
- Tulema
- tuleb
- võrreldav
- Tingimused
- konfidentsiaalne
- leping
- võiks
- Praegu
- lõigatud
- lõikamine
- tsükkel
- andmed
- kümme aastat
- määratlus
- lauaarvuti
- Arendajad
- DID
- avastasin
- do
- dokument
- dokumendid
- teeme
- don
- alla
- juht
- iga
- kaheksa
- Lõputu
- tohutult
- piisavalt
- täielikult
- Isegi
- Iga
- erandkorras
- Langema
- hirmud
- FUNKTSIOONID
- Toidetud
- Faile
- leidma
- lõpp
- ettevõtetele
- FLEET
- FOMO
- eest
- neli
- vabalt
- sageli
- Alates
- täielikult
- tekitama
- loodud
- teeniva
- saama
- andmine
- läheb
- hea
- GPU
- olnud
- juhtub
- õnnelikum
- Raske
- riistvara
- Olema
- kasulik
- Avaleht
- KUUM
- aga
- HTTPS
- i
- if
- in
- Kaasa arvatud
- info
- Intel
- sisse
- IT
- ITS
- töö
- liitunud
- jpg
- Json
- kohtunik
- lihtsalt
- liiki
- puudus
- keel
- suur
- viimane
- Seadus
- advokaadibürood
- advokaat
- advokaadid
- Lekked
- kõige vähem
- Õigus
- vähem
- nagu
- joon
- elama
- kohalik
- kohapeal
- Partii
- armastus
- masin
- masinad
- TEEB
- palju
- Turg
- maatriks
- Oluline
- vahendid
- meditsiini-
- Vastama
- Mälu
- Microsoft
- miljonid
- mudel
- mudelid
- Kaasaegne
- hetk
- rohkem
- kõige
- palju
- mitmekordne
- korrutised
- peab
- my
- nimi
- Vajadus
- vajadustele
- närvi-
- Uus
- uuem
- Nvidia
- of
- on
- ONE
- ainult
- avatud
- avatud lähtekoodiga
- OpenAI
- or
- Muu
- meie
- välja
- üle
- partner
- PC
- arvutid
- suurepäraselt
- täitma
- tükki
- Koht
- Platon
- Platoni andmete intelligentsus
- PlatoData
- rohke
- võimalik
- võim
- olemasolu
- ennetada
- tõenäoliselt
- Probleem
- protsess
- töötlemine
- Programm
- prospektiivne
- tingimusel
- pump
- ostetud
- kvaliteet
- Küsimused
- kiiresti
- RAM
- RE
- Lugemine
- valmis
- hiljuti
- hiljuti
- vabastatud
- lootma
- vastus
- REST
- tulu
- jooks
- jooksmine
- jookseb
- kiirustama
- s
- karjuvad
- lõigud
- tundlik
- teenima
- jagatud
- Räni
- lihtsalt
- SUURUS
- väike
- So
- tarkvara
- Lahendamine
- mõned
- mõnevõrra
- varsti
- keeruline
- helid
- allikas
- specs
- kiirus
- panused
- Veel
- esitatud
- selline
- Soovitab
- toetama
- süsteemid
- tabel
- Võtma
- Ülesanne
- ülesanded
- kümneid
- tingimused
- tingimused
- test
- kui
- et
- .
- oma
- Neile
- SIIS
- Seal.
- sellega
- seetõttu
- Need
- nad
- see
- kolm
- Läbi
- et
- liiga
- tööriist
- suunas
- muudab
- ravimisel
- lülitub
- ühtne
- üksused
- us
- kasulik
- suur
- Ve
- müüjad
- väga
- praktiliselt
- vr
- tahab
- we
- nädalavahetus
- Hästi
- M
- mis
- kuigi
- WHO
- will
- koos
- ilma
- Võitis
- Töö
- kodus töötama
- Töövoogud
- töötab
- murettekitav
- väärt
- oleks
- aastat
- sa
- Sinu
- sephyrnet