約束どおり、イーロン・マスクは xAI チャットボットの背後にあるモデルである Grok-1 をリリースしました。
リリース Apache 2.0 ライセンスに基づいて、基本モデルの重みとネットワーク アーキテクチャが利用できるようになりました。このモデルには 314 億のパラメーターがあり、それを実行するには十分な GPU メモリを備えたハードウェアが必要です。これは、自然言語対話などのアプリケーション向けに微調整されており、2023 年 XNUMX 月に終了した事前トレーニング段階の生の基本モデル チェックポイントを表しています。
批評家は、ベンチマークのパフォーマンスが比較的精彩を欠いていると指摘しています。 Grok は大きなモデルではありますが、一部のエンジニアが見たところによると、パフォーマンスはあまりよくありません。 「他のモデルと比較してどれだけ貧弱であるかを考えると、微調整がいかに重要であるかが強調されます。パラメーター数がはるかに少ないモデルは、多くの指標でそれを上回っています」と、ある人は言いました。 ポスター 昨夜のハッカーニュースフォーラムで。
小さいほうがわかるかもしれません ミストラル たとえば、Grok-1 と同等のパフォーマンスを発揮します。
サイズを入れるには 視点、パラメータ数が 314 億であっても、最新のカウントで 4 兆 1.76 億パラメータを持っていた OpenAI の GPT-XNUMX にはまだ追いつきます。
特に、カットオフ時点でデータに基づいてトレーニングされる既存の LLM とは異なり、Grok は X.com 経由で全員の Xeet のリアルタイム データ コーパスにアクセスできるため、今後数日間でいくつかの興味深い実験が行われるはずです。コメント投稿者は、「Twitter のツイート データ自体は非常に特異であり、設計上短いため、それだけでは LLM のトレーニングに役立たない。」と述べました。
グロク マスク氏のソーシャルメディアプラットフォーム「X」のユーザーには馴染みのあるものとなり、購読者はチャットボットに質問して回答を受け取ることができる。 xAIによると, グロクは『銀河ヒッチハイク・ガイド』をモデルにしている。 「ほぼすべてのことに答えることを目的としており、さらに難しいことには、どのような質問をすればよいかを提案することさえできます。」
ユーザーが次のようなひどいコピーをフリックした場合、 銀河ヒッチハイク・ガイドのラジオ台本『フィット・ザ・テンス』には次の定義が潜んでいる。「『銀河ヒッチハイク・ガイド』は、無限に複雑で混乱を招く宇宙の中での人生を理解したいと願うすべての人にとって、欠かせない相棒である。とはいえ、そうなることは望めないからである」すべての問題に関して有用または有益であるが、それが不正確である場合でも、少なくともそれは正しいという心強い主張をしている。 確実に 不正確です。
「大きな矛盾がある場合、常に現実が間違っているのです。」
このリリースは OpenAI の GPT-4 モデルの発売 XNUMX 周年に行われ、マスク氏と元 AI 仲間との法的争いは依然として背景にある。今月初めに、 マスク氏がOpenAIを訴えた、その名前にもかかわらず、会社についてはほとんどオープンではなかったと主張しました。 OpenAI 回答 大量の電子メールを公開し、マスクがその計画を完全に認識しており、それをテスラに組み込むことを望んでいたと主張した。
OpenOceanのゼネラルパートナーであるパトリック・バックマン氏は、Grok-1のリリースについて次のように語った。利益主導型組織への変革を求めて OpenAI を訴える場合は、同じ理想を貫く覚悟が必要です。」
この試験は 持っていない xAIからリリースされたことも注目です。 Grok-1 の重みは存在しますが、トレーニングに使用されるデータは同じライセンスの下で利用できないため、AI 専門家のゲイリー・マーカス氏はこう言いました。 気の利いた言葉:「部分的にOpenAI」
オープンソースの生成 AI ツールは物議を醸していることが証明されています。一部の開発者は、このテクノロジーを利用可能にすることで悪用の危険があると懸念しており、また他の開発者は、透明性が本来持つ利点を指摘しています。
Meta shared – 一種の – 昨年同社の Llama 2 モデルが発表され、他の企業もこれに追随しました。一方、OpenAI は間違いなくそうではありません。
Grok-1 の背後にあるウェイトを開放することで、マスク氏は OpenAI の独自の世界とは反対側の陣営に旗を立てようとしています。
その究極のパフォーマンスに関しては、マスクが触れているすべてのものと同様、どちらの方向にも進む可能性があります。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2024/03/18/grok_chatbot_code_released/
- :持っている
- :は
- :not
- :どこ
- $UP
- 1
- 2023
- 7
- a
- できる
- 私たちについて
- 虐待
- アクセス
- Action
- 付着します
- 後
- AI
- すべて
- ほとんど
- 一人で
- また
- しかし
- 常に
- an
- および
- 記念日
- 別の
- 回答
- 回答
- 何でも
- アパッチ
- 建築
- です
- AS
- 頼む
- At
- 試みる
- 利用できます
- 知って
- 背景
- ベース
- BE
- き
- 開始
- 背後に
- さ
- ベンチマーク
- 利点
- ビッグ
- 10億
- 両言語で
- by
- キャンプ
- 缶
- 場合
- チャットボット
- クレーム
- 主張
- CO
- コード
- COM
- 来ます
- comes
- 企業
- コンパニオン
- 会社
- 比べ
- 複雑な
- 終了する
- 紛らわしい
- 考えると
- 物議を醸す
- copy
- 可能性
- カウント
- データ
- 日
- 絶対に
- 定義
- 設計
- にもかかわらず
- 開発者
- 対話
- 不一致
- do
- ありません
- どちら
- エロン
- イーロン·マスク
- メール
- エンジニア
- 十分な
- さらに
- 誰も
- すべてのもの
- 既存の
- 実験
- エキスパート
- おなじみの
- 遠く
- もう完成させ、ワークスペースに掲示しましたか?
- 終わり
- 名
- フィット
- 続いて
- フォロー中
- 前者
- フォーラム
- 発見
- から
- 完全に
- Galaxy
- ゲーリー
- 生々しい
- 生成AI
- Go
- だ
- GPU
- ガイド
- ハッカー
- ハッカーニュース
- 持っていました
- ハンド
- もっと強く
- Hardware
- 持ってる
- 非常に
- 彼の
- 希望
- 認定条件
- HTTPS
- 理想
- if
- 重要
- in
- 不正確
- 不可欠
- 有益な
- 固有の
- 意図された
- 興味深い
- に
- IT
- ITS
- 自体
- JPG
- ただ
- キーン
- 不満
- 言語
- 姓
- 昨年
- 起動する
- 最低
- リーガルポリシー
- ライセンス
- 生活
- ような
- 少し
- ラマ
- LLM
- 主要な
- make
- 作成
- 多くの
- マーカス
- 事態
- メディア
- メモリ
- メトリック
- かもしれない
- モデル
- 月
- 最も
- ずっと
- 麝香
- しなければなりません
- 名
- ナチュラル
- ニーズ
- ネットワーク
- ニュース
- 夜
- 注意
- 注意
- 今
- 10月
- of
- on
- かつて
- ONE
- 開いた
- OpenAI
- 開設
- オープンオーシャン
- 反対
- or
- 組織
- その他
- その他
- でる
- 優れたパフォーマンス
- パラメーター
- パラメータ
- パートナー
- パフォーマンス
- 実行する
- 相
- プラン
- プラットフォーム
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- ポイント
- 貧しいです
- 準備
- 原則
- 約束された
- 所有権
- 実績のある
- 置きます
- パッティング
- 質問
- ラジオ
- Raw
- リアル
- への
- 現実
- 本当に
- 安心する
- 受け取ります
- 相対的に
- リリース
- リリース
- 解放
- 残っている
- 表し
- リスク
- ラン
- s
- 前記
- 同じ
- 見て
- センス
- ショート
- すべき
- サイズ
- より小さい
- 社会
- ソーシャルメディア
- 一部
- 部品調達
- まだ
- 加入者
- そのような
- 訴える
- 訴え
- 示唆する
- スーツ
- テクノロジー
- テスラ
- それ
- そこ。
- この
- それらの
- しかし?
- 介して
- 時間
- 〜へ
- 豊富なツール群
- キー
- に向かって
- 訓練された
- トレーニング
- 変換
- 透明性
- 1兆
- チューニング
- ツイート
- さえずり
- 究極の
- 下
- 宇宙
- 異なり、
- 中古
- 便利
- ユーザー
- users
- 、
- wanted
- ました
- 仕方..
- WELL
- この試験は
- which
- while
- 誰
- ワイルド
- 意志
- 世界
- 不安
- 間違った
- X
- 年
- まだ
- You
- ゼファーネット