Apa yang membuat PC menjadi AIPC? Di luar beberapa lambaian tangan yang samar-samar dengan adanya โunit pemrosesan sarafโ dan fitur-fitur lain yang hanya tersedia pada silikon terbaru dan terhebat, tidak ada yang memberikan definisi selain upaya untuk memasarkan beberapa FOMO.
Meskipun Intel menyarankan agar pengembang aplikasi akan segera memasukkan AI ke semua perangkat lunak, dan PC harus siap menghadapinya, beban kerja yang paling penting saat ini adalah melakukan inferensi untuk mendukung model bahasa besar.
Oleh karena itu, PC AI apa pun yang sesuai dengan namanya harus melakukan inferensi dengan cepat dan baik.
Inferensi adalah proses yang mengubah perintah yang dikirimkan menjadi tanggapannya. Untuk melakukan hal ini, diperlukan mesin yang dapat memproses beberapa gigabyte data โ dan bahkan lebih banyak lagi perkalian matriks.
Meskipun tugas komputasi yang intensif sepertinya dapat memperluas kapasitas PC desktop (ChatGPT dan sejenisnya berjalan di pusat data yang sangat besar), saya menemukan bahwa banyak perangkat keras yang sudah kita miliki dapat melakukan pekerjaan inferensi yang memadai. . Siapa pun dapat menjalankan chatbot yang โcukup baikโ di PC โ asalkan PC tersebut memiliki cukup RAM dan GPU kelas menengah.
Itu berarti GPU dengan VRAM minimal 8 GB (dan bukan GPU dari Intel โ setidaknya saat ini, karena kurangnya dukungan driver). Itu tidak terlalu mahal โ dan itu bagus, karena ini adalah taruhannya. Untuk RAM, Anda akan lebih senang dengan 32GB daripada 16GB, sementara 8GB tidak akan cukup. Dan itu saja. Hanya itu yang Anda perlukan.
Apple telah menyempurnakan hal ini dengan sangat baik โ mungkin secara tidak sengaja โ dengan SoC seri M-nya. Memperlakukan memori sebagai โterpaduโ โ jika diperlukan, semuanya adalah VRAM โ semua Mac seri M modern dengan setidaknya 16 GB RAM dapat berfungsi sebagai PC AI.
Kebetulan, empat PC yang saya beli selama dekade terakhir memenuhi spesifikasi ini โ termasuk monster terbaik berusia delapan tahun yang dibeli sebagai โPC VRโ dengan CPU Intel 6700K dan kemudian PC kelas atas. -GPU Nvidia GTX 980 Ti terbaik. Kurang lebih sejalan dengan Hukum Moore, ini agak lebih lambat dibandingkan mesin baru dalam koleksi saya, tetapi ia menjalankan chatbot dengan baik โ secara lokal.
Meskipun tidak dibeli sebagai PC AI, akuisisi saya yang terbaru menghasilkan setiap kesimpulan dengan kecepatan yang sebanding dengan penyelesaian yang dihasilkan oleh GPT-3.5-Turbo OpenAI โ hampir tidak dapat dibedakan dari sepupu mereka yang lebih besar, baik dalam hal kecepatan maupun kualitas penyelesaian yang mereka hasilkan.
Untuk menguji sistem ini, saya memberi mereka makan a prompt yang cukup canggih, menginstruksikan mereka untuk bertindak sebagai โagenโ โ memecahkan masalah dengan membuat file JSON yang dimasukkan ke program lain. (โPotongan-potongan kecil yang digabungkan secara longgarโ masih berlaku di Era AI.) Dan semuanyaโฆ berfungsi dengan baik.
Jadi ternyata saya sudah punya PC AI di mana-mana. Siapa yang tahu? Terlebih lagi, ada a banyak PC AI di luar sana. Puluhan juta. Itu bagus โ karena kita akan membutuhkannya.
Meskipun Microsoft meminta kami menempelkan setiap dokumen sensitif ke Copilot untuk dianalisis โ sehingga pusat data Redmond dapat mengetahui alur kerja kami yang paling rahasia โ banyak dokumen yang terlalu sensitif untuk dibagikan.
Bagaimana dengan dokumen-dokumen yang begitu panas sehingga mereka bahkan tidak dapat hidup di mesin yang berjaringan? Bagaimana dengan informasi medis? Atau dokumen rahasia? Banyak hal yang kami kerjakan bersifat terikat, sehingga tidak dapat dibagikan secara bebas.
Dokumen hukum sering kali termasuk dalam kategori ini โ jenis tugas yang baru saja dirilis Model bahasa hukum SaulML bisa sangat membantu. Jika seorang pengacara atau paralegal menjalankan model tersebut di PC lokal mereka, mereka dapat dengan bebas memasukkan dokumen ke dalamnya, memintanya untuk membuat pembacaan yang cermat, bahkan persyaratan kontrak baru โ semuanya tanpa khawatir akan kebocoran informasi rahasia. Banyak firma hukum yang menggunakan alat semacam itu sambil berteriak โDiam dan ambil uang klienku!"
Saya membuat prototipe alat tersebut akhir pekan lalu โ memperkecil ukuran model SaulLM open source yang lengkap, sehingga dapat berfungsi pada armada PC AI saya. Saya bukan seorang pengacara, jadi saya tidak bisa menilai kualitasnya sepenuhnya. Namun, saya menempelkan sebagian besar kontrak dari calon mitra bisnis ke dalamnya, lalu mengajukan beberapa pertanyaan sulit โ tanpa rasa takut akan kebocoran.
Sekalipun para pengacara tidak menyukainya, kita semua โ dihadapkan pada syarat dan ketentuan yang tidak ada habisnya dan tidak masuk akal yang kita miliki. mengabaikan risiko kita โ akan merasakan manfaatnya.
Demikian pula vendor perangkat keras โ yang mengandalkan Anda membuang PC yang Anda beli untuk bekerja dari rumah tiga tahun lalu untuk siklus pendapatan mereka โ tidak akan mau mengakuinya, tetapi Anda mungkin sudah memiliki PC AI yang dapat diservis dengan sempurna. Hanya saja, bukan PC AI yang vendorland ingin agar Anda buru-buru membelinya. ยฎ
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :memiliki
- :adalah
- :bukan
- :Di mana
- $NAIK
- a
- Tentang Kami
- tentang itu
- akuisisi
- Bertindak
- memadai
- mengakui
- usia
- Agen
- silam
- AI
- Semua
- sudah
- an
- analisis
- dan
- Lain
- Apa pun
- siapapun
- Aplikasi
- berlaku
- ADALAH
- AS
- meminta
- At
- usaha
- tersedia
- BE
- karena
- makhluk
- Luar
- lebih besar
- kedua
- membeli
- bisnis
- tapi
- membeli
- by
- CAN
- kapasitas
- Kategori
- ChatBot
- ChatGPT
- tergolong
- klien
- Penyelesaian
- CO
- koleksi
- bagaimana
- datang
- sebanding
- Kondisi
- rahasia
- kontrak
- bisa
- Sekarang
- Memotong
- pemotongan
- siklus
- data
- dasawarsa
- definisi
- Desktop
- pengembang
- MELAKUKAN
- ditemukan
- do
- dokumen
- dokumen
- melakukan
- don
- turun
- pengemudi
- setiap
- delapan
- Tak berujung
- luar biasa
- cukup
- sepenuhnya
- Bahkan
- Setiap
- sangat
- Jatuh
- ketakutan
- Fitur
- Fed
- File
- Menemukan
- akhir
- perusahaan
- ARMADA KAPAL
- FOMO
- Untuk
- empat
- bebas
- sering
- dari
- sepenuhnya
- menghasilkan
- dihasilkan
- menghasilkan
- mendapatkan
- Pemberian
- akan
- baik
- GPU
- memiliki
- Terjadi
- lebih bahagia
- Sulit
- Perangkat keras
- Memiliki
- bermanfaat
- Beranda
- PANAS
- Namun
- HTTPS
- i
- if
- in
- Termasuk
- informasi
- Intel
- ke
- IT
- NYA
- Pekerjaan
- bergabung
- jpg
- json
- hakim
- hanya
- jenis
- Kekurangan
- bahasa
- besar
- Terakhir
- Hukum
- firma hukum
- pengacara
- Pengacara
- kebocoran
- paling sedikit
- Informasi
- kurang
- 'like'
- baris
- hidup
- lokal
- lokal
- Lot
- cinta
- mesin
- Mesin
- MEMBUAT
- banyak
- Pasar
- Matriks
- Hal-hal
- cara
- medis
- Pelajari
- Memori
- Microsoft
- jutaan
- model
- model
- modern
- saat
- lebih
- paling
- banyak
- beberapa
- perkalian
- harus
- my
- nama
- Perlu
- kebutuhan
- saraf
- New
- baru
- Nvidia
- of
- on
- ONE
- hanya
- Buka
- open source
- OpenAI
- or
- Lainnya
- kami
- di luar
- lebih
- pasangan
- PC
- PC
- benar-benar
- Melakukan
- potongan-potongan
- Tempat
- plato
- Kecerdasan Data Plato
- Data Plato
- Cukup
- mungkin
- kekuasaan
- kehadiran
- mencegah
- mungkin
- Masalah
- proses
- pengolahan
- program
- bakal
- disediakan
- pompa
- dibeli
- kualitas
- Pertanyaan
- segera
- RAM
- RE
- Bacaan
- siap
- baru
- baru-baru ini
- dirilis
- mengandalkan
- tanggapan
- ISTIRAHAT
- pendapatan
- Run
- berjalan
- berjalan
- buru-buru
- s
- teriakan
- bagian
- peka
- melayani
- berbagi
- Silikon
- hanya
- Ukuran
- kecil
- So
- Perangkat lunak
- Memecahkan
- beberapa
- agak
- segera
- mutakhir
- suara
- sumber
- spesifikasi
- kecepatan
- taruhannya
- Masih
- disampaikan
- seperti itu
- Menyarankan
- mendukung
- sistem
- tabel
- Mengambil
- tugas
- tugas
- memiliki
- istilah
- syarat dan Ketentuan
- uji
- dari
- bahwa
- Grafik
- mereka
- Mereka
- kemudian
- Sana.
- dengan demikian
- karena itu
- Ini
- mereka
- ini
- tiga
- Melalui
- untuk
- terlalu
- alat
- terhadap
- transformasi
- mengobati
- ternyata
- terpadu
- unit
- us
- berguna
- Luas
- Ve
- vendor
- sangat
- sebenarnya
- vr
- ingin
- we
- akhir pekan
- BAIK
- Apa
- yang
- sementara
- SIAPA
- akan
- dengan
- tanpa
- Won
- Kerja
- bekerja dari rumah
- Alur kerja
- bekerja
- mengkhawatirkan
- layak
- akan
- tahun
- Kamu
- Anda
- zephyrnet.dll