Mikä tekee PC:stä AIPC? Joidenkin yli epämääräinen käsien heilutus "hermoprosessointiyksiköt" ja muut ominaisuudet, jotka ovat saatavilla vain uusimmassa ja parhaimmassa piissä, kukaan ei ole keksinyt määritelmää muuta kuin yrittää markkinoida jotain FOMO:ta.
Vaikka Intel ehdottaa, että sovelluskehittäjät lisäävät pian kaikki ohjelmistot tekoälyllä ja tietokoneiden on oltava valmiita niitä varten, tällä hetkellä tärkein työtaakka on päättely suurten kielimallien tehostamiseksi.
Jokaisen nimen arvoisen tekoälytietokoneen on siksi suoritettava johtopäätökset nopeasti ja hyvin.
Päätelmä on prosessi, joka muuttaa lähetetyn kehotteen vastaukseksi. Tätä varten tarvitaan kone, joka pystyy jauhamaan läpi useita gigatavuja dataa – ja vielä enemmän matriisikertoiluja.
Vaikka tällainen laskentaintensiivinen tehtävä kuulostaa siltä, että se voisi venyttää pöytätietokoneen kapasiteettia (ChatGPT ja sen kaltaiset toimivat valtavassa datakeskuksessa), olen huomannut, että monet jo olemassa olevista laitteistoistamme voivat tehdä riittävän johtopäätöksen. . Kuka tahansa voi käyttää "riittävän hyvää" chatbotia tietokoneella - edellyttäen, että tietokoneessa on tarpeeksi RAM-muistia ja keskitason GPU.
Tämä tarkoittaa GPU:ta, jossa on vähintään 8 Gt VRAM-muistia (eikä yhtä Inteliltä – ainakaan tällä hetkellä ajurin tuen puutteen vuoksi). Se ei ole liian kallista – mikä on hyvä, koska se on pöytäpanokset. RAM-muistissa olisit tyytyväisempi 32 Gt kuin 16 Gt, kun taas 8 Gt ei yksinkertaisesti vähennä sitä. Ja siinä se. Siinä kaikki mitä tulet tarvitsemaan.
Apple on hienostunut tämän poikkeuksellisen hyvin – mahdollisesti täysin vahingossa – M-sarjan SoC:illaan. Käsittelemällä muistia "yhtenäisenä" – kaikki on VRAM-muistia, jos se on tarpeen – kaikki modernit M-sarjan Macit, joissa on vähintään 16 Gt RAM-muistia, voivat toimia AI PC:nä.
Neljä viime vuosikymmenen aikana ostamistani tietokoneista täyttää nämä vaatimukset – mukaan lukien kahdeksan vuotta vanha huippuhirviö, joka on ostettu "VR PC:nä" Intel 6700K -suorittimella ja sen jälkeen. Huippuluokan Nvidia GTX 980 Ti GPU. Enemmän tai vähemmän Mooren lain mukainen, se on jonkin verran hitaampi kuin kokoelmani uudemmat koneet, mutta se pyörittää chatbotia hienosti – paikallisesti.
Vaikka en ostettu tekoälytietokoneiksi, uudemmat hankinnani tekevät niistä päätelmiä nopeudella, joka on verrattavissa OpenAI:n GPT-3.5-Turbon tuottamiin valmistumisihin – käytännöllisesti katsoen erottumatta isommasta serkkustaan sekä nopeudeltaan että niiden tuottamien valmistumisten laadulta.
Näiden järjestelmien testaamiseksi syötän niitä a melko hienostunut kehotus, ohjeistaa heitä toimimaan "agenttina" – ongelman ratkaiseminen luomalla JSON-tiedostoja, jotka syötetään toiseen ohjelmaan. ("Pienet palat löyhästi liitettyinä" pätee edelleen tekoälyn aikakaudella.) Ja kaikki… vain toimii.
Joten käy ilmi, että minulla on jo tekoälytietokoneita kaikkialla. Joka tiesi? Lisäksi on olemassa a erä AI-tietokoneista. Kymmeniä miljoonia. Mikä on hyvä – koska me tulemme tarvitsemaan niitä.
Vaikka Microsoft haluaa meidän liittävän jokaisen arkaluontoisen asiakirjan Copilotiin analysointia varten – jolloin Redmondin palvelinkeskukset saavat haistella luottamuksellisimmista työnkulkuistamme – monet asiakirjat ovat yksinkertaisesti liian arkaluonteisia jaettavaksi.
Entä ne asiakirjat, jotka ovat niin kuumia, että niiden ei pitäisi edes elää verkkokoneessa? Entä lääketieteelliset tiedot? Tai turvaluokiteltuja asiakirjoja? Suuri osa työskentelystämme on sidottu, mikä estää sen jakamisen vapaasti.
Lakiasiakirjat kuuluvat usein tähän luokkaan - sellaisiin tehtäviin, joita äskettäin julkaistiin SaulML lakikielimalli voisi olla valtavasti apua. Jos lakimiehellä tai avustajalla oli kyseinen malli käynnissä paikallisella tietokoneella, he voisivat vapaasti pumpata siihen asiakirjoja, pyytää sitä luomaan tarkan käsittelyn, jopa uusia sopimusehtoja – kaikki ilman huolta luottamuksellisten tietojen vuotamisesta. Monet asianajotoimistot juoksevat sellaisen työkalun puoleen huutaen "Ole hiljaa ja ota asiakkaani rahat!"
Tein työkalun prototyypin viime viikonloppuna – leikkasin avoimen lähdekoodin SaulLM-mallin kokoon, jotta se voisi toimia tekoälytietokoneissani. En ole lakimies, joten en voi täysin arvioida sen laatua. Liitin siihen kuitenkin laajoja osia mahdollisen liikekumppanin tekemästä sopimuksesta ja esitin sille sitten vaikeita kysymyksiä – ilman vuotojen pelkoa.
Vaikka asianajajat eivät rakastaisikaan sitä, me muut – kohtaamme loputtomat, epämääräiset ehdot ja ehdot, joita me jättää huomiotta meidän vaarassamme – se on erittäin hyödyllinen.
Samoin laitteistotoimittajat – jotka luottavat siihen, että jätät kolme vuotta sitten ostamasi tietokoneen kotoa töihin tulojaksonsa vuoksi – eivät halua myöntää sitä, mutta sinulla on luultavasti jo täysin huollettavissa oleva tekoälytietokone. Ei vain AI PC, jonka vendorland haluaa sinun kiirehtivän ostamaan. ®
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :on
- :On
- :ei
- :missä
- $ YLÖS
- a
- Meistä
- siitä
- yritysostot
- Toimia
- riittävä
- myöntää
- ikä
- Agentti
- sitten
- AI
- Kaikki
- jo
- an
- analyysi
- ja
- Toinen
- Kaikki
- joku
- Hakemus
- sovelletaan
- OVAT
- AS
- kysyä
- At
- yritys
- saatavissa
- BE
- koska
- ovat
- Jälkeen
- suurempi
- sekä
- osti
- liiketoiminta
- mutta
- Ostetaan
- by
- CAN
- valmiuksia
- Kategoria
- chatbot
- ChatGPT
- luokiteltu
- asiakas
- lähellä
- CO
- kokoelma
- Tulla
- tulee
- vertailukelpoinen
- olosuhteet
- luottamuksellinen
- sopimus
- voisi
- Tällä hetkellä
- Leikkaus
- leikkaus
- sykli
- tiedot
- vuosikymmen
- määritelmä
- pöytä-
- kehittäjille
- DID
- löysi
- do
- asiakirja
- asiakirjat
- tekee
- Don
- alas
- kuljettaja
- kukin
- kahdeksan
- Loputon
- valtavasti
- tarpeeksi
- täysin
- Jopa
- Joka
- poikkeuksellisen
- Pudota
- pelot
- Ominaisuudet
- Fed
- Asiakirjat
- Löytää
- loppu
- yritykset
- LAIVASTON
- FOMO
- varten
- neljä
- vapaasti
- usein
- alkaen
- täysin
- tuottaa
- syntyy
- tuottaa
- saada
- Antaminen
- menee
- hyvä
- GPU
- HAD
- tapahtuu
- onnellisempi
- Kova
- Tarvikkeet
- Olla
- hyödyllinen
- Koti
- KUUMA
- Kuitenkin
- HTTPS
- i
- if
- in
- Mukaan lukien
- tiedot
- Intel
- tulee
- IT
- SEN
- Job
- liittyi
- jpg
- json
- tuomari
- vain
- erilaisia
- Lack
- Kieli
- suuri
- Sukunimi
- Laki
- lakitoimistot
- lakimies
- asianajajat
- Vuodot
- vähiten
- juridinen
- vähemmän
- pitää
- linja
- elää
- paikallinen
- paikallisesti
- Erä
- rakkaus
- kone
- Koneet
- TEE
- monet
- markkinat
- Matriisi
- Matters
- välineet
- lääketieteellinen
- Tavata
- Muisti
- Microsoft
- miljoonia
- malli
- mallit
- Moderni
- hetki
- lisää
- eniten
- paljon
- moninkertainen
- kertolaskuja
- täytyy
- my
- nimi
- Tarve
- tarpeet
- hermo-
- Uusi
- uudempi
- Nvidia
- of
- on
- ONE
- vain
- avata
- avoimen lähdekoodin
- OpenAI
- or
- Muut
- meidän
- ulos
- yli
- kumppani
- PC
- PC
- täydellisesti
- Suorittaa
- kappaletta
- Paikka
- Platon
- Platonin tietotieto
- PlatonData
- paljon
- mahdollisesti
- teho
- läsnäolo
- estää
- todennäköisesti
- Ongelma
- prosessi
- käsittely
- Ohjelma
- mahdollinen
- mikäli
- pumppu
- osti
- laatu
- kysymykset
- nopeasti
- RAM
- RE
- Lukeminen
- valmis
- äskettäinen
- äskettäin
- julkaistu
- luottaa
- vastaus
- REST
- tulot
- ajaa
- juoksu
- toimii
- kiirehtiä
- s
- kirkuva
- osiot
- sensible
- palvella
- yhteinen
- Pii
- yksinkertaisesti
- Koko
- pieni
- So
- Tuotteemme
- Solving
- jonkin verran
- jokseenkin
- pian
- hienostunut
- äänet
- lähde
- silmälasit
- nopeus
- panokset
- Yhä
- toimitettu
- niin
- Ehdottaa
- tuki
- järjestelmät
- taulukko
- ottaa
- Tehtävä
- tehtävät
- kymmeniä
- ehdot
- käyttöehdot
- testi
- kuin
- että
- -
- heidän
- Niitä
- sitten
- Siellä.
- siten
- siksi
- Nämä
- ne
- tätä
- kolmella
- Kautta
- että
- liian
- työkalu
- kohti
- muunnoksia
- käsittelemällä
- kääntyy
- yhdistynyt
- yksiköt
- us
- hyödyllinen
- valtava
- Ve
- myyjät
- hyvin
- käytännössä
- vr
- haluaa
- we
- viikonloppu
- HYVIN
- Mitä
- joka
- vaikka
- KUKA
- tulee
- with
- ilman
- Voitetut
- Referenssit
- työtä kotoa
- työnkulkuja
- toimii
- huolestuttava
- arvokas
- olisi
- vuotta
- Voit
- Sinun
- zephyrnet