メタの次なるAI戦略? Llama 3 は 2024 年初頭に噂される – 復号化

メタの次の大きな動きに対する好奇心は、人工知能の世界を支配する競争で最高潮に達しています。 2 月にリリースされた Llama 3 の生成テキスト モデルは市場で十分に確立されており、AI ウォッチャーは Llama XNUMX の兆候を熱心に探しています。

業界のつぶやきを信じれば、オープンソースでの成功を収めたテクノロジー巨人の続編は 2024 年初頭に登場する可能性がある。

Meta はこの噂を正式に認めていないが、マーク・ザッカーバーグ氏は最近、Llama 3 が開発中であることを認め、Meta の LLM (大規模言語モデル) の将来がどうなるかについて光を当てた。 しかし、新しい基本的なAIモデルは依然として後回しにされており、消費者にとってより使いやすいものにするためにLlama 2を微調整することが優先事項であると同氏は述べた。

「つまり、私たちがトレーニングしている別のモデルが常に存在します」と彼はポッドキャストのインタビューで語った。 AI とメタバースの交差点, 「私たちは Llama 2 をトレーニングし、オープンソース モデルとしてリリースしました。現時点での優先事項は、それを多数の消費者向け製品に組み込むことです…

「しかし、そうですね、私たちは将来の基礎モデルにも取り組んでいます。それについては何も新しいことやニュースはありません。」と彼は続けました。 「いつ完成するか正確には分かりません。」

Meta はこの噂を正式に認めていないが、開発サイクルのパターンと多額のハードウェア投資は、発売が近いことを示唆している。 ラマ 1 とラマ 2 ではトレーニングに 3 か月の間隔があり、この調子が維持できれば、新しいラマ 4 (OpenAI の GPT-2024 と同等と推測されている) は XNUMX 年前半に打ち上げられる可能性があります。

Redditユーザー、憶測に深みを加える ラマシル は、Meta の歴史的なモデル開発サイクルの包括的な分析を発表しました。

ラマ 1 の訓練は 2022 年 2023 月から 2 年 2023 月まで続き、ラマ 3 も 2023 年 2024 月までこれに続き、4 年 XNUMX 月から XNUMX 年 XNUMX 月までのラマ XNUMX の訓練にもっともらしい段階を設定するとユーザーは提案した。これらの洞察は、メタの物語と一致する。 AI の卓越性を執拗に追求し、GPT-XNUMX の機能と肩を並べる次の進歩を披露することに熱心です。

一方、技術フォーラムや ソーシャルメディア で賑わっている 議論 この新しい反復がどのようにして Meta の競争力を再確立できるかについて。 技術コミュニティはまた、入手可能な情報の断片から可能性の高いタイムラインをまとめました。

それに加えて、Twitter のちょっとした発言を追加します。「Meta GenAI」ソーシャルで立ち聞きされたとされる会話で、後に OpenAI 研究者のジェイソン・ウェイ氏がツイートしました。 Wei 氏によると、「私たちはラマ 3 と 4 を訓練するための計算能力を持っています」と匿名の情報筋が述べ、それもオープンソース化されることを断言しました。

一方、企業ユーザー向けにオンプレミスで Llama 2 を提供するデルとの提携は、個人データの管理とセキュリティに対する同社の取り組みを強調しており、これは戦略的であると同時に時代を示す動きでもあります。 Meta が OpenAI や Google のような巨人と真っ向から立ち向かう準備を整える中で、この取り組みは非常に重要です。

Meta は自社製品の多くに AI を導入しているため、同社が取り残されないように出資を増やすのは理にかなっています。 Llama 2 は、Meta AI や、Meta のチャットボット、Meta 生成サービス、Meta AI メガネなどの他のサービスを強化します。

この憶測の渦の中で、Llama 3 のオープンソース化についてのマーク・ザッカーバーグの思索は、興味をそそり、困惑させるだけだった。 ザッカーバーグ氏はコンピューター科学者のレックス・フリッドマン氏との最近のポッドキャストで「これをレッドチームにして安全にするプロセスが必要だ」と語った。

Llama 2 は、7 億、13 億、堅牢な 70 億のパラメータを提供するバージョンを備えた多層アーキテクチャを誇り、それぞれがさまざまなレベルの複雑さと計算能力に適しています。 LLM のパラメーターは、言語を理解して生成するモデルの能力を定義する神経構成要素として機能し、パラメーターの数は多くの場合、モデルの洗練度や潜在的な出力品質と相関します。

AI の強力な企業は、広範なコーパスでトレーニングを受けています。 2兆トークン、幅広い主題やコンテキストにわたって人間のようなテキストをナビゲートして生成する機能を支えています。

その背景では、ハードウェアの基礎整備も進んでいます。 として 報告 by 解読する, Meta は、AI トレーニング用の最も強力なハードウェアの 100 つである Nvidia HXNUMX をデータ センターに在庫しています。これは車輪が順調に動いていることを示す明らかな兆候です。

しかし、これだけの興奮と憶測にもかかわらず、真実は依然として企業秘密に包まれています。

AI 分野で競争するという Meta の意図は、主に、必要なトレーニング時間、ハードウェア投資、およびオープンソースの問題によって形作られています。 その間、2024 年に Llama 3 がリリースされる可能性が高いのと同じくらい期待が高まっています。

による編集 ライアン・オザワ.

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://decrypt.co/205436/llama-3-release-date-rumored-meta-ai-challenger