Kod chatbota Grok-1 wypuszczony na wolność

Zgodnie z obietnicą Elon Musk wypuścił model chatbota xAI, Grok-1.

Zwolniony w ramach licencji Apache 2.0 dostępne są już podstawowe wagi modeli i architektura sieci. Model ma 314 miliardów parametrów i do jego uruchomienia potrzebuje sprzętu z wystarczającą ilością pamięci GPU. Jest dostosowany do aplikacji takich jak okna dialogowe w języku naturalnym i reprezentuje punkt kontrolny surowego modelu podstawowego z fazy przedszkoleniowej, która zakończyła się w październiku 2023 r.

Krytycy zwracali uwagę na stosunkowo słabe wyniki w testach porównawczych; chociaż Grok jest dużym modelem, z tego, co widzieli niektórzy inżynierowie, radzi sobie słabo. „Biorąc pod uwagę jego ubogość w porównaniu z innymi modelami, naprawdę podkreśla to, jak ważne jest dostrojenie. Modele ze DUŻO mniejszą liczbą parametrów przewyższają je pod wieloma względami” – stwierdził jeden z nich plakat wczoraj wieczorem na forach Hacker News.

Może się okazać, że jest mniejszy Mistral działa na przykład równie dobrze jak Grok-1.

Aby umieścić jego rozmiar perspektywa, nawet przy 314 miliardach parametrów, wciąż ma trochę do nadrobienia w stosunku do GPT-4 OpenAI, który ostatecznie miał 1.76 biliona parametrów.

Warto zauważyć, że w przeciwieństwie do istniejących LLM, które są szkolone na danych w określonym momencie, Grok ma dostęp do zbioru danych wszystkich użytkowników Xeets w czasie rzeczywistym za pośrednictwem X.com, co powinno umożliwić przeprowadzenie w nadchodzących dniach kilku interesujących eksperymentów, chociaż jako kolejny komentator zauważył: „Dane na Twitterze same w sobie są zarówno wysoce specyficzne, jak i krótkie z założenia, co samo w sobie nie sprzyja szkoleniu LLM”.

Grok będzie znany użytkownikom platformy mediów społecznościowych Musk, X, a subskrybenci będą mogli zadawać pytania chatbotowi i otrzymywać odpowiedzi. Według xAI, Grok był wzorowany na Autostopie przez Galaktykę. „Ma on odpowiadać na prawie wszystko, a co znacznie trudniejsze, nawet sugerować, jakie pytania zadać”.

Jeśli użytkownik przejrzy ostrą kopię Autostopem przez Galaktykę – scenariusze radiowew Fit the Tenth można znaleźć następującą definicję: „Autostopem przez Galaktykę” jest niezastąpionym towarzyszem wszystkich tych, którzy pragną nadać sens życiu w nieskończenie złożonym i zagmatwanym wszechświecie, choć nie może mieć on nadziei, że tak się stanie użyteczny lub pouczający we wszystkich kwestiach, zawiera pocieszające twierdzenie, że tam, gdzie jest niedokładny, przynajmniej ostatecznie niedokładny.

„W przypadku większych rozbieżności zawsze rzeczywistość się myli”.

Wydanie następuje w pierwszą rocznicę premiery modelu GPT-4 OpenAI, a spór prawny Muska z jego byłymi kumplami AI pozostaje w tle. Na początku tego miesiąca Musk pozwał OpenAI, twierdząc, że pomimo nazwy firmy niewiele było informacji na temat tej firmy. OpenAI odpowiedzi publikując mnóstwo e-maili, twierdząc, że Musk był w pełni świadomy swoich planów i chciał, aby został on złożony w Tesli.

Patrik Backman, komplementariusz w OpenOcean, powiedział o wypuszczeniu Grok-1: „Chociaż Elon Musk wprowadza swoje zasady w życie. Jeśli pozywasz OpenAI za przekształcenie się w organizację nastawiona na zysk, musisz być przygotowany na wyznawanie tych samych ideałów.”

Co nie wydany przez xAI jest również godny uwagi. Odważniki Grok-1 są już dostępne, ale dane wykorzystywane do treningu nie są dostępne w ramach tej samej licencji, co skłoniło eksperta ds. sztucznej inteligencji Gary’ego Marcusa do cięty: „Częściowo otwarte AI.”

Otwarte pozyskiwanie generatywnych narzędzi AI okazało się kontrowersyjne. Niektórzy programiści obawiają się, że udostępnienie technologii grozi nadużyciami, inni zaś wskazują na nieodłączne korzyści płynące z przejrzystości.

Meta shared - raczej – w zeszłym roku zaprezentowała modele Llama 2, a inne firmy poszły w ich ślady. Z drugiej strony OpenAI z całą pewnością tego nie robi.

Odsłaniając ciężary Grok-1, Musk próbuje zamieścić flagę w obozie przeciwnym do zastrzeżonego świata OpenAI.

Jeśli chodzi o jego najwyższą wydajność, jak wszystko, czego dotknie Musk, może to pójść w obie strony. ®

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://go.theregister.com/feed/www.theregister.com/2024/03/18/grok_chatbot_code_released/