Điều gì làm cho PC trở thành một AIPC? Ngoài một số vẫy tay mơ hồ trước sự hiện diện của “các đơn vị xử lý thần kinh” và các tính năng khác chỉ có trên silicon mới nhất và tốt nhất, chưa ai đưa ra được định nghĩa nào ngoài nỗ lực tiếp thị một số FOMO.
Mặc dù Intel gợi ý rằng các nhà phát triển ứng dụng sẽ sớm tích hợp AI vào tất cả phần mềm và PC phải sẵn sàng cho chúng, nhưng khối lượng công việc quan trọng nhất hiện nay là suy luận để cung cấp năng lượng cho các mô hình ngôn ngữ lớn.
Do đó, bất kỳ PC AI nào xứng đáng với tên gọi này đều phải thực hiện suy luận nhanh chóng và tốt.
Suy luận là quá trình chuyển đổi lời nhắc được gửi thành phản hồi của nó. Để làm được điều này cần một cỗ máy có thể xử lý nhiều gigabyte dữ liệu – và thậm chí nhiều phép nhân ma trận hơn.
Mặc dù một tác vụ đòi hỏi nhiều tính toán như vậy nghe có vẻ như có thể mở rộng dung lượng của một máy tính để bàn (ChatGPT và các loại tương tự của nó chạy trong các trung tâm dữ liệu khổng lồ), nhưng tôi đã phát hiện ra rằng rất nhiều phần cứng mà chúng tôi hiện có có thể thực hiện đủ công việc suy luận. . Bất cứ ai cũng có thể chạy một chatbot “đủ tốt” trên PC – miễn là PC có đủ RAM và GPU tầm trung.
Điều đó có nghĩa là GPU có ít nhất 8GB VRAM (chứ không phải của Intel - ít nhất là vào thời điểm hiện tại, vì thiếu hỗ trợ trình điều khiển). Cái giá đó không quá đắt – điều đó là tốt vì đó là tiền đặt cược trên bàn. Đối với RAM, bạn sẽ hài lòng hơn với 32GB thay vì 16GB, trong khi 8GB đơn giản là không đủ. Và đó là về nó. Đó là tất cả những gì bạn sẽ cần.
Apple đã giải quyết vấn đề này một cách đặc biệt xuất sắc – có thể hoàn toàn vô tình – với các SoC dòng M của mình. Coi bộ nhớ là “hợp nhất” – tất cả đều là VRAM nếu cần – tất cả các máy Mac dòng M hiện đại có RAM ít nhất 16GB đều có thể hoạt động như một PC AI.
Khi điều đó xảy ra, bốn trong số những chiếc PC mà tôi đã mua trong thập kỷ qua đều đáp ứng các thông số kỹ thuật này – bao gồm một con quái vật hàng đầu đã tám tuổi được mua dưới dạng “PC VR” với CPU Intel 6700K và sau đó là những chiếc PC hàng đầu. -GPU Nvidia GTX 980 Ti hiện đại. Ít nhiều phù hợp với Định luật Moore, nó hơi chậm hơn so với các máy mới hơn trong bộ sưu tập của tôi, nhưng nó chạy tốt một chatbot – cục bộ.
Mặc dù không được mua dưới dạng PC AI, nhưng các lần mua gần đây hơn của tôi đều suy luận với tốc độ tương đương với tốc độ hoàn thành do GPT-3.5-Turbo của OpenAI tạo ra – hầu như không thể phân biệt được với người anh em lớn hơn của chúng cả về tốc độ và chất lượng hoàn thành mà chúng tạo ra.
Để kiểm tra những hệ thống này, tôi cho chúng ăn một lời nhắc khá phức tạp, hướng dẫn họ hoạt động như một “đặc vụ” – giải quyết vấn đề bằng cách tạo các tệp JSON được đưa vào một chương trình khác. (“Những mảnh nhỏ được nối lỏng lẻo” vẫn được áp dụng trong Thời đại AI.) Và tất cả… vẫn hoạt động.
Hóa ra tôi đã có PC AI ở khắp mọi nơi. Ai biết? Hơn nữa, có một rất nhiều của các PC AI ngoài kia. Hàng chục triệu. Điều đó tốt – bởi vì chúng ta sẽ cần chúng.
Mặc dù Microsoft yêu cầu chúng tôi dán mọi tài liệu nhạy cảm vào Copilot để phân tích - từ đó giúp các trung tâm dữ liệu Redmond nắm bắt được quy trình làm việc bí mật nhất của chúng tôi - nhưng nhiều tài liệu đơn giản là quá nhạy cảm để có thể chia sẻ.
Thế còn những tài liệu nóng đến mức không nên tồn tại trên một máy nối mạng thì sao? Còn thông tin y tế thì sao? Hay tài liệu mật? Rất nhiều thứ chúng tôi làm đều đi kèm với những ràng buộc, ngăn cản việc chia sẻ nó một cách tự do.
Các văn bản pháp luật thường rơi vào loại này – những loại công việc mà văn bản pháp luật được ban hành gần đây. Mô hình ngôn ngữ pháp lý SaulML có thể rất hữu ích. Nếu một luật sư hoặc trợ lý pháp lý có mô hình đó chạy trên PC cục bộ của họ, họ có thể thoải mái đưa tài liệu vào đó, yêu cầu nó tạo ra một bản đọc chặt chẽ, thậm chí cả các điều khoản hợp đồng mới – tất cả mà không phải lo lắng về bất kỳ rò rỉ thông tin bí mật nào. Nhiều công ty luật sẽ chạy tới loại công cụ đó và hét lên “Im đi và lấy tiền của khách hàng của tôi!"
Tôi đã tạo mẫu công cụ đó vào cuối tuần trước – cắt giảm kích thước mô hình SaulLM mã nguồn mở hoàn chỉnh để nó có thể hoạt động trên nhóm PC AI của tôi. Tôi không phải là luật sư nên không thể đánh giá đầy đủ chất lượng của nó. Tuy nhiên, tôi đã dán vào đó những phần lớn hợp đồng từ một đối tác kinh doanh tiềm năng, sau đó hỏi nó một số câu hỏi khó – mà không sợ bị rò rỉ.
Ngay cả khi các luật sư không thích điều đó thì phần còn lại trong chúng ta – phải đối mặt với vô số điều khoản và điều kiện khó hiểu mà chúng ta phải đối mặt. bỏ qua sự nguy hiểm của chúng tôi – sẽ thấy nó rất hữu ích.
Tương tự như vậy, các nhà cung cấp phần cứng – những người trông cậy vào việc bạn bỏ chiếc PC mà bạn mua để làm việc ở nhà ba năm trước trong chu kỳ doanh thu của họ – sẽ không muốn thừa nhận điều đó, nhưng bạn có thể đã có một chiếc PC AI hoàn toàn có thể sử dụng được. Không phải chiếc PC AI mà nhà cung cấp muốn bạn vội vàng mua. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- a
- Giới thiệu
- về nó
- mua lại
- Hành động
- đầy đủ
- thừa nhận
- tuổi
- Đại lý
- cách đây
- AI
- Tất cả
- Đã
- an
- phân tích
- và
- Một
- bất kì
- bất kỳ ai
- Các Ứng Dụng
- áp dụng
- LÀ
- AS
- xin
- At
- nỗ lực
- có sẵn
- BE
- bởi vì
- được
- Ngoài
- lớn hơn
- cả hai
- mua
- kinh doanh
- nhưng
- mua
- by
- CAN
- năng lực
- Phân loại
- chatbot
- ChatGPT
- phân loại
- khách hàng
- Đóng
- CO
- bộ sưu tập
- Đến
- đến
- so sánh
- điều kiện
- bí mật
- hợp đồng
- có thể
- Hiện nay
- Cắt
- cắt
- chu kỳ
- dữ liệu
- thập kỷ
- định nghĩa
- máy tính để bàn
- phát triển
- ĐÃ LÀM
- phát hiện
- do
- tài liệu
- tài liệu
- làm
- don
- xuống
- trình điều khiển
- mỗi
- tám
- Endless
- to lớn
- đủ
- hoàn toàn
- Ngay cả
- Mỗi
- đặc biệt
- Rơi
- nỗi sợ hãi
- Tính năng
- Fed
- Các tập tin
- Tìm kiếm
- cuối
- hãng
- VÒI
- FOMO
- Trong
- 4
- tự do
- thường xuyên
- từ
- đầy đủ
- tạo ra
- tạo ra
- tạo ra
- được
- Cho
- đi
- tốt
- GPU
- có
- xảy ra
- hạnh phúc hơn
- Cứng
- phần cứng
- Có
- hữu ích
- Trang Chủ
- NÓNG BỨC
- Tuy nhiên
- HTTPS
- i
- if
- in
- Bao gồm
- thông tin
- Intel
- trong
- IT
- ITS
- Việc làm
- gia nhập
- jpg
- json
- thẩm phán
- chỉ
- các loại
- Thiếu sót
- Ngôn ngữ
- lớn
- Họ
- Luật
- công ty luật
- luật sư
- luật sư
- Rò rỉ
- ít nhất
- Hợp pháp
- ít
- Lượt thích
- Dòng
- sống
- địa phương
- tại địa phương
- Rất nhiều
- yêu
- máy
- Máy móc
- LÀM CHO
- nhiều
- thị trường
- Matrix
- Vấn đề
- có nghĩa
- y khoa
- Gặp gỡ
- Bộ nhớ
- microsoft
- hàng triệu
- kiểu mẫu
- mô hình
- hiện đại
- thời điểm
- chi tiết
- hầu hết
- nhiều
- nhiều
- phép nhân
- phải
- my
- tên
- Cần
- nhu cầu
- thần kinh
- Mới
- mới hơn
- Nvidia
- of
- on
- ONE
- có thể
- mở
- mã nguồn mở
- OpenAI
- or
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- kết thúc
- đối tác
- PC
- máy tính
- hoàn hảo
- Thực hiện
- miếng
- Nơi
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Rất nhiều
- có thể
- quyền lực
- sự hiện diện
- ngăn chặn
- có lẽ
- Vấn đề
- quá trình
- xử lý
- chương trình
- tương lai
- cung cấp
- máy bơm
- đã mua
- chất lượng
- Câu hỏi
- Mau
- RAM
- RE
- Reading
- sẵn sàng
- gần đây
- gần đây
- phát hành
- dựa
- phản ứng
- REST của
- doanh thu
- chạy
- chạy
- chạy
- vội vàng
- s
- la hét
- phần
- nhạy cảm
- phục vụ
- chia sẻ
- Silicon
- đơn giản
- Kích thước máy
- nhỏ
- So
- Phần mềm
- Giải quyết
- một số
- phần nào
- sớm
- tinh vi
- âm thanh
- nguồn
- thông số kỹ thuật
- tốc độ
- cổ phần
- Vẫn còn
- trình
- như vậy
- Gợi ý
- hỗ trợ
- hệ thống
- bàn
- Hãy
- Nhiệm vụ
- nhiệm vụ
- hàng chục
- về
- điều khoản và điều kiện
- thử nghiệm
- hơn
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- sau đó
- Đó
- bằng cách ấy
- vì thế
- Kia là
- họ
- điều này
- số ba
- Thông qua
- đến
- quá
- công cụ
- đối với
- biến đổi
- điều trị
- biến
- thống nhât
- các đơn vị
- us
- hữu ích
- Lớn
- Ve
- nhà cung cấp
- rất
- hầu như
- vr
- muốn
- we
- cuối tuần
- TỐT
- Điều gì
- cái nào
- trong khi
- CHÚNG TÔI LÀ
- sẽ
- với
- không có
- Won
- Công việc
- làm ở nhà
- Luồng công việc
- công trinh
- đáng lo ngại
- xứng đáng
- sẽ
- năm
- Bạn
- trên màn hình
- zephyrnet