Grok-1 vestlusroti kood avaldati looduses

Taasavaldanud Platon

järgijaid: 0

Grok-1 vestlusroti kood avaldati metsikusse PlatoBlockchain Data Intelligence'i. Vertikaalne otsing. Ai.

Nagu lubatud, on Elon Musk välja andnud xAI vestlusroti taga oleva mudeli Grok-1.

Antud Apache 2.0 litsentsi alusel on nüüd saadaval baasmudeli kaalud ja võrguarhitektuur. Mudelil on 314 miljardit parameetrit ja selle käitamiseks on vaja riistvara, millel on piisavalt GPU-mälu. See on peenhäälestatud selliste rakenduste jaoks nagu loomuliku keele dialoog ja esindab toores baasmudeli kontrollpunkti koolituseelsest etapist, mis lõppes 2023. aasta oktoobris.

Kriitikud on juhtinud tähelepanu suhteliselt nõrgale jõudlusele võrdlusaluste osas; Kuigi Grok on suur mudel, läheb tal mõne inseneride nähtu põhjal kehvasti. "Arvestades, kui kehv see teiste mudelitega võrreldes on, rõhutab see tõesti, kui oluline on peenhäälestus. PALJU väiksema parameetrite arvuga mudelid ületavad seda paljudes näitajates, ”ütles üks plakat eile õhtul Hacker Newsi foorumites.

Võib-olla leiate, et seda väiksem Mistral toimib sama hästi kui näiteks Grok-1.

Selle suuruse sisestamiseks perspektiiv, isegi 314 miljardi parameetri juures on see siiski pisut järele jõudnud OpenAI GPT-4-le, millel oli lõpuks 1.76 triljonit parameetrit.

Märkimisväärne on see, et erinevalt olemasolevatest LLM-idest, mida koolitatakse ajapiiranguga andmetega, on Grokil juurdepääs kõigi Xeetide reaalajas andmekorpusele X.com-i kaudu, mis peaks lähipäevil tegema huvitavaid katseid, ehkki teiseks. kommenteerija märkis: "Twitteri säutsuandmed on iseenesest nii väga omapärased kui ka lühikesed, mis üksi ei soodusta LLM-i koolitamist."

Grok on Muski sotsiaalmeediaplatvormi X kasutajatele tuttav ning tellijatel on olnud võimalik chatbotile küsimusi esitada ja vastuseid saada. xAI andmetel, Grok loodi The Hitchhiker's Guide to the Galaxy järgi. "Selle eesmärk on vastata peaaegu kõigele ja, palju raskem, isegi soovitada, milliseid küsimusi küsida."

Kui kasutaja sirvib läbi koera kõrvaga koopia The Hitchhiker's Guide to the Galaxy raadioskriptid, võib Fit the Tenth'is varitseda järgmise definitsiooni: "Galaktika autostopi teejuht on asendamatu kaaslane kõigile neile, kes soovivad mõtestada elu lõputult keerulises ja segadusse ajavas universumis, sest kuigi see ei saa loota, et see on kasulik või informatiivne kõigis küsimustes, annab see rahustava väite, et kui see on ebatäpne, on see vähemalt lõplikult ebatäpne.

"Suurte lahknevuste korral eksib alati reaalsus."

Väljalase ilmub OpenAI GPT-4 mudeli turuletoomise esimesel aastapäeval ja Muski õiguslik tüli oma endiste AI-sõpradega jääb tagaplaanile. Selle kuu alguses Musk kaebas OpenAI kohtusse, väites, et vaatamata selle nimele oli ettevõtte kohta vähe avatud. OpenAI vastas avaldades hulga e-kirju, väites, et Musk oli oma plaanidest täiesti teadlik ja soovis, et see Teslasse kokku paneks.

OpenOceani peapartner Patrik Backman ütles Grok-1 vabastamise kohta: "Ükskord paneb Elon Musk oma põhimõtted ellu. Kui kaebate OpenAI kohtusse kasumipõhiseks organisatsiooniks muutumise eest, peate olema valmis järgima samu ideaale.

M Ei ole Märkimisväärne on ka xAI poolt välja antud. Grok-1 raskused on väljas, kuid treenimiseks kasutatavad andmed pole sama litsentsi all saadaval, mistõttu tehisintellekti ekspert Gary Marcus puiklema: "PartlyOpenAI."

Avatud hankimise generatiivsed AI tööriistad on osutunud vastuoluliseks. Mõned arendajad muretsevad, et tehnoloogia kättesaadavaks tegemine võib kuritarvitada, teised aga viitavad läbipaistvuse eelistele.

Meta jagatud - mingis mõttes – selle eelmise aasta Llama 2 mudelid ja teised ettevõtted on eeskuju järginud. OpenAI-l seevastu kindlasti mitte.

Avades Grok-1 taga olevad raskused, üritab Musk asetada lipu OpenAI patenteeritud maailmale vastupidises leeris.

Mis puudutab selle ülimat jõudlust, siis nagu kõik, mida Musk puudutab, võib see minna mõlemal viisil. ®