Nvidia vestlus RTX-iga: kas seada aluse seadmesisesele tehisintellektile või jäämine lühikeseks?

• Nvidia Chat with RTX on seadmesisene suur keelemudel, mis kasutab teie taotluste täitmiseks teie arvutis olevat teavet. 

• Seda saab kasutada ka Internetis olevate andmete, näiteks veebilehtede jaoks.

•  Kuigi mudel on võimekas, viitavad inimesed, et selle võimed on tugevalt liialdatud.

Nvidia suurendab oma osalust tehisintellekti revolutsioonis, liikudes kaugemale oma traditsioonilisest rollist ja kehtestades end võtmeisikuna. Pärast oluliste teadetega täidetud arendajakonverentsi tutvustas Nvidia testimiseks uut toodet: Nvidia Chat with RTX.

See seadmesisene suur keelemudel töötab täielikult teie arvutis, kasutades päringutele vastamiseks kohalikku teavet. Sarnaselt Samsungi Galaxy AI-ga, mis käivitati koos Galaxy S24 seeria, mis tegeles enamiku AI-ülesannetega seadmes, toob Nvidia Chat RTX-ga selle võimaluse personaalarvutitesse, muutes potentsiaalselt ümber meie lähenemise AI-le, transformeritele ja suurtele keelemudelitele (LLM).

Vestelge RTX-iga

RTX-iga vestlus on teie arvutis olev AI-vestlusbot. Pärandtarkvarana installituna pakub see vestlusrobot, mis teab kõiki teie arvutis olevaid andmeid. Nii et olenemata sellest, kas proovite meenutada midagi 2022. aasta oktoobri kuulõpuaruandest või kohta, kus te 17. veebruari 2019 õhtul õhtusööki broneerisite, saab vestlus RTX-iga selle tuua, kui teave on teie arvutis. üles.

Seadmesisese AI eelised

Kiirus: RTX-iga vestluse üks suurimaid eeliseid on töötlemise kiirus. Kogu seadmes töötlemine tähendab, et Interneti-ühenduse kiirus muutub ebaoluliseks. Teil pole isegi seda vaja! Võrreldes olemasolevate digitaalsete või AI-assistentidega on see suur samm edasi.

Privaatsus: Kogu seadme teabe töötlemisel on ka suur eelis privaatsuse seisukohalt. Kogu teavet töödeldakse ja hoitakse seadmes, mis annab omanikule täieliku kontrolli ja hooldusõiguse. Ükski kolmas osapool ei saaks teie andmeid tahtlikult või muul viisil läbi vaadata, võrrelda, kaevandada, müüa või kellelegi teisele lekitada.

Turvalisus: Andmete säilitamine toob kaasa ka turvalisuse eelised. Ilma, et peaksite kuhugi sisse logima või teavet saatma, suurendate lõpuks turvalisust. Teave ei pea kunagi reisima ega mujale talletama, isegi ajutiselt.

Kohandamine: Teine selge eelis on kohandamine. RTX-iga vestlus töötab teie arvutisse salvestatud teabe põhjal, toimides sisuliselt teie andmete ja teabe põhjal koolitatud LLM-ina. Olenemata sellest, kas suurema osa teie teabest moodustavad dokumendid, pildid või video, on IT vestlusbot, mis on teie ja teie andmete jaoks spetsiifiline.

Paindlikkus: RTX-iga vestlemine ei piirdu teie seadmes olevate andmetega; seda saab kasutada ka Internetis olevate andmete (nt veebilehtede) jaoks. Seega võite paluda Chatil RTX-iga veebilehelt teavet otsida ja see annab tulemusi ilma turvalisuse või privaatsusaspektide osas järeleandmisi tegemata. Samuti väärib märkimist, et see on alles algus.

Devil in the Details

Süsteeminõuded vestluse RTX-iga käitamiseks on nõudluse poolel. Praegu on see saadaval ainult Windowsi personaalarvutitele, jättes MacOS-i ja Linuxi esialgu külmaks. See on saadaval ainult arvutitele, kus töötab Windows 11.

Minimaalne 16 GB muutmälu ja 35 GB failisuurus tähendab, et selle kasutamiseks on vaja üsna võimsat süsteemi. Lisaks kõigele sellele vajab süsteem masinas hästi töötamiseks ka Nvidia GeForce RTX 30 või 40-seeria GPU-d. Süsteeminõuded on pisut raskemad, kuid siiski paljudele keskklassi arvutitele ja sülearvutitele kättesaadavad.

Segatud ülevaated

Vestlus RTX-iga tehti esmakordselt kättesaadavaks testimiseks 19. veebruaril 2024. Selle ülevaated erinevad mõnevõrra Nvidia demodest ja suhtlusest. Kuigi mudel on võimekas, viitavad inimesed, et selle võimed on tugevalt liialdatud. Suur failisuurus ja kopsakad nõuded ei vasta väljundile.

See võib teha palju ülesandeid, kuid see ei tee neid hästi. See on arusaadav esimese hooga uuele ideele. Kuna need asjad lähevad, peaksime tulevikus ootama paranemist. Suur suurus ja rasked süsteeminõuded on kaks valdkonda, millega nad peaksid töötama, püüdes samal ajal jõudlust parandada.

Kuigi pooldajad on hakanud rääkima vestlusest RTX-iga kui Chat GPT ja Google'i Gemini lõpu alguseks, viitavad seda kasutanute kogemused, et meil on sellest üsna palju aega möödas. LLM-id ja trafod nõuavad palju töötlemisvõimsust ja koolitust.

Kui eeldate, et arvutisse installitud kohalik installimine toimib sama hästi kui teie lemmik generatiivse AI taga olevad andmekeskused, küsite liiga vara. Ettevõtete jaoks annab see siiski mõningaid lubadusi, mida saab peagi täita.

Mõistliku suurusega ettevõte võiks oma tööjõu jaoks toita oma LLM-süsteemi. Sellel oleks laialdased rakendused, kuid on selge, et teaberohketes tööstusharudes on töövoo jaoks palju eeliseid.

 Kohandamise, privaatsuse ja turvalisuse eelised oleksid ettevõtete kasutajatele väga väärtuslikud. Ehkki teie arvutis töötava LLM-i idee pole veel päris valmis konkureerima oma klassi parimatega lähitulevikus, võime näha ettevõttekasutajatele mõeldud isikupärastatud LLM-e lühikeses ja keskmises perspektiivis.

Seadmesisese AI vanus

Nvidia RTX-ga vestluse saadavus annab märku, et oleme liikumas seadmesisese AI ajastu poole. Samsung S24 koos Galaxy AI-ga töötles enamiku seadmes olevatest ülesannetest.

Nüüd annab Nvidia meile täielikult seadmesisese töötlemise. Toode pole mõne arvustuse järgi veel piisavalt hea. See ütles, et väga vähesed esmakordsed tooted on. Nvidia on Chat with RTX abil kassi kindlasti tuvide sekka visanud.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://web3africa.news/2024/04/12/news/nvidia-chat-with-rtx-on-device-ai/