Cuộc trò chuyện của Nvidia với RTX: Tạo tiền đề cho AI trên thiết bị hay thất bại?

• Nvidia Chat with RTX là mô hình ngôn ngữ lớn trên thiết bị sử dụng thông tin trên PC để đáp ứng yêu cầu của bạn. 

• Nó cũng có thể được sử dụng trên dữ liệu trên internet, chẳng hạn như các trang web.

•  Mặc dù mô hình có khả năng nhưng mọi người cho rằng khả năng của nó đã bị phóng đại quá mức.

Nvidia đang tăng cường tham gia vào cuộc cách mạng AI bằng cách vượt ra khỏi vai trò truyền thống của mình và khẳng định mình là người chơi chủ chốt. Sau hội nghị dành cho nhà phát triển với nhiều thông báo quan trọng, Nvidia đã giới thiệu một sản phẩm mới để thử nghiệm: Nvidia Chat with RTX.

Mô hình ngôn ngữ lớn trên thiết bị này hoạt động hoàn toàn trên PC của bạn, sử dụng thông tin cục bộ để phản hồi các yêu cầu. Tương tự như Galaxy AI của Samsung, được ra mắt cùng với Dòng Galaxy S24, xử lý hầu hết các tác vụ AI trên thiết bị, Nvidia Chat with RTX mang khả năng này đến PC, có khả năng định hình lại cách tiếp cận của chúng tôi với AI, Transformers và các mô hình ngôn ngữ lớn (LLM).

Trò chuyện với RTX

Trò chuyện với RTX là một chatbot AI trên PC của bạn. Được cài đặt như một phần mềm cũ, nó cung cấp một chatbot biết tất cả dữ liệu trên PC của bạn. Vì vậy, cho dù bạn đang cố nhớ lại điều gì đó từ báo cáo cuối tháng 2022 năm 17 hay nơi bạn đã đặt bữa tối vào đêm ngày 2019 tháng XNUMX năm XNUMX, nếu thông tin đó có trên PC của bạn, Chat with RTX sẽ có thể mang nó đến hướng lên.

Ưu điểm của AI trên thiết bị

Tốc độ: Một trong những ưu điểm lớn nhất của Chat with RTX là tốc độ xử lý. Thực hiện tất cả quá trình xử lý trên thiết bị có nghĩa là tốc độ kết nối internet của bạn trở nên không liên quan. Bạn thậm chí không cần một! Đây là một bước tiến lớn so với các trợ lý kỹ thuật số hoặc AI hiện có.

Bảo mật: Việc xử lý toàn bộ thông tin thiết bị cũng có lợi thế lớn về mặt riêng tư. Tất cả thông tin được xử lý và lưu giữ trên thiết bị, mang lại cho chủ sở hữu toàn quyền kiểm soát và giám sát. Không có bên thứ ba nào có thể xem qua, đối chiếu, khai thác, bán hoặc rò rỉ dữ liệu của bạn cho bất kỳ ai khác, dù cố ý hay cách khác.

An ninh: Việc lưu giữ dữ liệu cũng mang lại lợi thế về bảo mật. Không cần phải đăng nhập ở đâu đó hoặc phải gửi thông tin, cuối cùng bạn sẽ tăng cường tính bảo mật. Thông tin không bao giờ phải di chuyển hoặc lưu trữ ở nơi khác, thậm chí là tạm thời.

Customization: Một lợi thế rõ ràng khác là khả năng tùy biến. Trò chuyện với RTX hoạt động dựa trên thông tin được lưu trữ trên máy tính của bạn, về cơ bản hoạt động như một LLM được đào tạo về dữ liệu và thông tin của bạn. Cho dù phần lớn thông tin của bạn là tài liệu, hình ảnh tĩnh hay video thì CNTT vẫn là một chatbot dành riêng cho bạn và dữ liệu của bạn.

Thích ứng với văn hoá: Trò chuyện với RTX không chỉ giới hạn ở dữ liệu trên thiết bị của bạn; nó cũng có thể được sử dụng trên dữ liệu trên internet, chẳng hạn như các trang web. Vì vậy, bạn có thể yêu cầu Trò chuyện với RTX tìm hiểu một số thông tin trên một trang web và nó sẽ cung cấp kết quả mà không ảnh hưởng đến các khía cạnh bảo mật hoặc quyền riêng tư. Cũng cần lưu ý rằng đây mới chỉ là sự khởi đầu.

Quỷ dữ trong chi tiết

Yêu cầu hệ thống để chạy Trò chuyện với RTX là về phía nhu cầu. Hiện tại, nó chỉ có sẵn cho PC Windows, còn MacOS và Linux hiện chưa có sẵn. Nó chỉ có sẵn cho PC chạy Windows 11.

RAM tối thiểu 16 GB và kích thước tệp 35 GB có nghĩa là bạn cần một hệ thống khá mạnh để sử dụng nó. Ngoài tất cả những điều này, hệ thống còn yêu cầu GPU Nvidia GeForce RTX 30 hoặc 40-series để hoạt động tốt trên máy. Yêu cầu hệ thống hơi nặng nhưng vẫn nằm trong tầm tay của nhiều PC và máy tính xách tay tầm trung.

Đánh giá hỗn hợp

Trò chuyện với RTX lần đầu tiên được cung cấp để thử nghiệm vào ngày 19 tháng 2024 năm XNUMX. Các bài đánh giá của nó hơi khác so với các bản demo và thông tin liên lạc từ Nvidia. Mặc dù mô hình có khả năng nhưng mọi người cho rằng khả năng của nó đã bị phóng đại quá mức. Kích thước tệp lớn và yêu cầu nặng nề không phù hợp với đầu ra.

Nó có thể thực hiện nhiều nhiệm vụ nhưng không thực hiện tốt. Đây có thể hiểu là lần thử đầu tiên của một ý tưởng mới. Khi những điều này diễn ra, chúng ta nên mong đợi những cải tiến trong tương lai. Kích thước khổng lồ và yêu cầu hệ thống nặng là hai lĩnh vực họ nên giải quyết đồng thời nhắm mục tiêu cải thiện hiệu suất.

Mặc dù những người ủng hộ đã bắt đầu coi Trò chuyện với RTX là sự khởi đầu cho sự kết thúc của Chat GPT và Gemini của Google, nhưng trải nghiệm của những người đã sử dụng nó cho thấy rằng chúng ta còn khá lâu nữa mới đạt được trường hợp này. LLM và máy biến áp đòi hỏi một lượng lớn sức mạnh xử lý và đào tạo để sử dụng nó.

Việc mong đợi một bản cài đặt cục bộ trên PC sẽ cung cấp giống như các trung tâm dữ liệu đằng sau AI tổng hợp yêu thích của bạn đang yêu cầu quá nhiều và quá sớm. Tuy nhiên, đối với các doanh nghiệp, điều này hứa hẹn sẽ sớm được thực hiện.

Một công ty có quy mô hợp lý có thể cung cấp năng lượng cho hệ thống LLM của riêng mình cho lực lượng lao động của mình. Điều này sẽ có những ứng dụng rộng lớn nhưng rõ ràng, quy trình làm việc trong các ngành nặng về thông tin có rất nhiều lợi ích.

 Những lợi ích về khả năng tùy chỉnh, quyền riêng tư và bảo mật sẽ rất có giá trị đối với người dùng doanh nghiệp. Vì vậy, mặc dù ý tưởng về LLM trên PC của bạn chưa hoàn toàn sẵn sàng để cạnh tranh với LLM tốt nhất trong thời gian trước mắt, nhưng chúng tôi có thể thấy LLM được cá nhân hóa cho người dùng doanh nghiệp trong ngắn hạn và trung hạn.

Thời đại của AI trên thiết bị

Tính khả dụng của Trò chuyện với RTX của Nvidia báo hiệu rằng chúng ta đang hướng tới thời đại AI trên thiết bị. Samsung S24 kết hợp với Galaxy AI đã xử lý phần lớn các tác vụ trên thiết bị.

Bây giờ Nvidia cung cấp cho chúng tôi khả năng xử lý hoàn toàn trên thiết bị. Sản phẩm theo một số đánh giá chưa đủ tốt. Điều đó nói rằng rất ít sản phẩm lần đầu tiên được. Nvidia chắc chắn đã ném con mèo vào giữa bầy chim bồ câu với Trò chuyện với RTX.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://web3africa.news/2024/04/12/news/nvidia-chat-with-rtx-on-device-ai/