Czat Nvidii z RTX: przygotowanie sceny dla sztucznej inteligencji na urządzeniu czy jej brak?

• Nvidia Chat with RTX to wielkojęzykowy model na urządzeniu, który wykorzystuje informacje znajdujące się na Twoim komputerze w celu realizacji Twoich żądań. 

• Można go również używać w przypadku danych w Internecie, takich jak strony internetowe.

•  Choć model jest zdolny, ludzie sugerują, że jego możliwości są mocno przesadzone.

Nvidia zwiększa swoje zaangażowanie w rewolucję sztucznej inteligencji, wychodząc poza swoją tradycyjną rolę i zdobywając pozycję kluczowego gracza. Po konferencji deweloperskiej wypełnionej znaczącymi zapowiedziami, Nvidia wprowadziła do testów nowy produkt: Nvidia Chat z RTX.

Ten wielojęzyczny model na urządzeniu działa całkowicie na komputerze i wykorzystuje informacje lokalne do odpowiadania na żądania. Podobny do Galaxy AI firmy Samsung, wprowadzony na rynek z Seria Galaxy S24, która obsługiwała większość zadań AI na urządzeniu, Nvidia Chat z RTX przenosi tę funkcję na komputery PC, potencjalnie zmieniając nasze podejście do sztucznej inteligencji, transformatorów i dużych modeli językowych (LLM).

Porozmawiaj z RTX

Czat z RTX to chatbot AI na Twoim komputerze. Zainstalowany jako starsze oprogramowanie, zapewnia chatbota, który zna wszystkie dane na Twoim komputerze. Zatem niezależnie od tego, czy próbujesz przypomnieć sobie coś z raportu na koniec miesiąca z października 2022 r., czy też dokonałeś rezerwacji na kolację w nocy 17 lutego 2019 r., jeśli informacje znajdują się na Twoim komputerze, Chat with RTX będzie w stanie je dostarczyć w górę.

Zalety sztucznej inteligencji na urządzeniu

Prędkość: Jedną z największych zalet Chat with RTX jest szybkość przetwarzania. Wykonywanie wszystkich operacji na urządzeniu oznacza, że ​​szybkość połączenia internetowego staje się nieistotna. Nawet go nie potrzebujesz! Jest to duży krok naprzód w porównaniu z istniejącymi asystentami cyfrowymi lub sztuczną inteligencją.

Privacy: Przetwarzanie wszystkich informacji o urządzeniu ma również ogromną zaletę pod względem prywatności. Wszystkie informacje są przetwarzane i przechowywane na urządzeniu, dając właścicielowi pełną kontrolę i opiekę. Nie ma strony trzeciej, która mogłaby przeglądać, zestawiać, wydobywać, sprzedawać lub ujawniać Twoje dane komukolwiek innemu, celowo lub w inny sposób.

Bezpieczeństwo: Przechowywanie danych zapewnia również korzyści w zakresie bezpieczeństwa. Bez konieczności logowania się gdzieś lub wysyłania informacji, ostatecznie zwiększasz bezpieczeństwo. Informacje nigdy nie muszą podróżować ani być przechowywane gdzie indziej, nawet tymczasowo.

Dostosowywanie: Kolejną wyraźną zaletą jest personalizacja. Czat z RTX działa w oparciu o informacje przechowywane na Twoim komputerze, zasadniczo działając jako LLM przeszkolony w zakresie Twoich danych i informacji. Niezależnie od tego, czy większość Twoich informacji to dokumenty, zdjęcia czy filmy, IT to chatbot, który jest dostosowany do Ciebie i Twoich danych.

Elastyczność: Czat z RTX nie ogranicza się do danych na Twoim urządzeniu; można go również używać w przypadku danych w Internecie, takich jak strony internetowe. Możesz więc poprosić Chat with RTX o wyszukanie pewnych informacji na stronie internetowej, a to zapewni wyniki, a wszystko to bez uszczerbku dla aspektów bezpieczeństwa i prywatności. Warto też zaznaczyć, że to dopiero początek.

Diabeł w szczegółach

Wymagania systemowe do uruchomienia Chat with RTX są po stronie popytu. Obecnie jest dostępny tylko na komputery PC z systemem Windows, pozostawiając MacOS i Linux na razie na lodzie. Jest ona dostępna wyłącznie na komputery PC z systemem Windows 11.

Minimum 16 GB RAM-u i rozmiar pliku 35 GB sprawiają, że do korzystania z niego potrzebny jest całkiem wydajny system. Oprócz tego system wymaga również karty graficznej Nvidia GeForce RTX z serii 30 lub 40, aby dobrze działać na komputerze. Wymagania systemowe są nieco wygórowane, ale wciąż w zasięgu wielu komputerów stacjonarnych i laptopów średniej klasy.

Różnorodne opinie

Po raz pierwszy udostępniono czat z RTX do testu w dniu 19 lutego 2024 r. Jej recenzje różnią się nieco od dem i komunikatów wychodzących od Nvidii. Choć model jest zdolny, ludzie sugerują, że jego możliwości są mocno przesadzone. Duży rozmiar pliku i wysokie wymagania nie odpowiadają wynikom.

Potrafi wykonać wiele zadań, ale nie wykonuje ich dobrze. Jest to zrozumiałe jako pierwszy strzał w stronę nowego pomysłu. W miarę rozwoju sytuacji powinniśmy spodziewać się poprawy w przyszłości. Ogromny rozmiar i duże wymagania systemowe to dwa obszary, nad którymi powinni popracować, jednocześnie dążąc do poprawy wydajności.

Chociaż zwolennicy zaczęli mówić o czacie z RTX jako o początku końca Chat GPT i Google Gemini, doświadczenia tych, którzy z niego korzystali, sugerują, że minie sporo czasu, zanim tak się stanie. LLM i transformatory wymagają dużej mocy obliczeniowej i związanego z tym szkolenia.

Oczekiwanie, że lokalna instalacja na komputerze PC będzie działać tak samo dobrze, jak centra danych obsługujące Twoją ulubioną generatywną sztuczną inteligencję, to zbyt szybkie żądanie zbyt wiele. Jednak w przypadku przedsiębiorstw kryje się w tym pewna obietnica, która może wkrótce zostać zrealizowana.

Firma o rozsądnej wielkości mogłaby zasilać własny system LLM dla swoich pracowników. Miałoby to szerokie zastosowania, ale korzyści dla przepływu pracy w branżach intensywnie przetwarzających informacje są liczne.

 Korzyści z dostosowywania, prywatności i bezpieczeństwa byłyby bardzo cenne dla użytkowników korporacyjnych. Tak więc, chociaż pomysł LLM na komputerze PC nie jest jeszcze gotowy, aby w najbliższej perspektywie konkurować z najlepszymi w swojej klasie, w perspektywie krótko- i średnioterminowej możemy spodziewać się spersonalizowanych LLM dla użytkowników korporacyjnych.

Wiek sztucznej inteligencji na urządzeniu

Dostępność czatu Nvidii z RTX sygnalizuje, że zmierzamy w stronę ery sztucznej inteligencji na urządzeniach. Samsung S24 z Galaxy AI przetwarzał większość zadań na urządzeniu.

Teraz Nvidia zapewnia nam całkowicie przetwarzanie na urządzeniu. Według niektórych opinii produkt nie jest jeszcze wystarczająco dobry. To powiedziawszy, bardzo niewiele produktów jest dostępnych po raz pierwszy. Nvidia z pewnością rzuciła kota między gołębie dzięki Chatowi z RTX.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://web3africa.news/2024/04/12/news/nvidia-chat-with-rtx-on-device-ai/