PC を成り立たせているものは何ですか AIPC?一部を超えて 曖昧な手を振る 「ニューラル プロセッシング ユニット」や、最新かつ最高のシリコンでのみ利用可能なその他の機能の存在において、FOMO を売り込む試み以上の定義を思いついた人は誰もいません。
Intel は、アプリケーション開発者が近いうちにすべてのソフトウェアに AI を導入し、PC もそれに対応できるようにする必要があると示唆していますが、現在最も重要なワークロードは、大規模な言語モデルを強化するための推論です。
したがって、その名にふさわしい AI PC は、推論を迅速かつ適切に実行する必要があります。
推論は、送信されたプロンプトを応答に変換するプロセスです。そのためには、数ギガバイトのデータを処理できるマシン、さらにはさらに多くの行列の乗算が必要です。
このような計算集約型のタスクは、デスクトップ PC (ChatGPT とその類似品は巨大なデータセンターで実行されます) の能力をかなり拡張してしまうように思えますが、私たちがすでに所有しているハードウェアの多くは推論という適切な仕事を実行できることがわかりました。 。 PC に十分な RAM とミッドレンジ GPU が搭載されていれば、誰でも PC 上で「十分な」チャットボットを実行できます。
これは、少なくとも 8GB の VRAM を搭載した GPU を意味します (ドライバーのサポートがないため、少なくとも現時点では Intel 製ではありません)。それはそれほど高価ではありません - それは賭けなので、それは良いことです。 RAM については、32 GB より 16 GB の方が満足できますが、8 GB では不十分です。それで終わりです。必要なのはこれだけです。
Apple は、M シリーズ SoC で、これを非常にうまく、おそらく完全に偶然にうまく処理しました。メモリを「統合」として扱うと、必要に応じてすべて VRAM になります。少なくとも 16 GB の RAM を搭載した最新の M シリーズ Mac はすべて、AI PC として機能します。
偶然にも、私が過去 6700 年間に購入した PC のうち 980 台がこれらの仕様を満たしています。その中には、Intel XNUMXK CPU を搭載した「VR PC」として購入した XNUMX 年前の最高級のモンスターも含まれます。 -最高級の Nvidia GTX XNUMX Ti GPU。多かれ少なかれムーアの法則に従っており、私のコレクションにある新しいマシンよりはいくらか遅いですが、チャットボットはローカルで問題なく実行されます。
AI PC として購入したわけではありませんが、私が最近購入した PC は、OpenAI の GPT-3.5-Turbo によって生成される補完に匹敵する速度で各推論を実行しており、速度と生成される補完の品質の点で、より大きないとこと事実上区別がつきません。
これらのシステムをテストするために、私はそれらに かなり洗練されたプロンプト、「エージェント」として機能するように指示します。つまり、別のプログラムにフィードされる JSON ファイルを生成することで問題を解決します。 (「小さな部分が緩やかに結合されている」ということは、AI の時代でも当てはまります。) そして、それはすべて…うまく機能します。
つまり、すでに AI PC があちこちにあることがわかりました。誰かわかったね?さらに、 たくさん AI PC の登場です。数千万。それは良いことです。なぜなら、私たちはそれらを必要とするからです。
Microsoft は、分析のためにすべての機密文書を Copilot に貼り付けるよう私たちに要求し、それによってレドモンドのデータセンターに当社の最も機密性の高いワークフローを盗聴させることになりますが、多くの文書は機密性が高すぎてまったく共有できません。
ネットワーク接続されたマシン上に保存すべきではないほどホットなドキュメントはどうなるでしょうか?医療情報についてはどうですか?それとも機密文書でしょうか?私たちが扱っているものの多くには文字列が付けられており、自由に共有することができません。
法的文書は、最近リリースされた文書がこのカテゴリに分類されることがよくあります。 SaulML 法的言語モデル 非常に役立つかもしれません。弁護士やパラリーガルがそのモデルをローカル PC 上で実行していれば、機密情報の漏洩を心配することなく、自由に文書をその PC に送り込んだり、精読したり、新しい契約条件を生成したりすることができます。多くの法律事務所は、「黙ってクライアントの金を取り上げろ!「
私は先週末、そのツールのプロトタイプを作成しました。フルファットのオープンソース SaulLM モデルをサイズを小さくして、私の AI PC 群で動作できるようにしました。私は弁護士ではないので、その質を完全に判断することはできません。しかし、私は、漏洩を恐れることなく、将来のビジネスパートナーからの契約書の膨大な部分をそこに貼り付け、いくつかの難しい質問をしました。
たとえ弁護士が気に入らなかったとしても、残りの私たちは、延々と続く難解な契約条件に直面することになります。 無視すると危険です – とても便利だと思います。
同様に、3 年前に在宅勤務用に購入した PC を収益サイクルのためにあなたに依存しているハードウェア ベンダーはそれを認めたくないでしょうが、おそらくあなたはすでに完璧に使える AI PC を持っているでしょう。ただ、ベンダーランドが急いで購入することを望んでいる AI PC ではありません。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2024/03/13/age_of_ai_pc/
- :持っている
- :は
- :not
- :どこ
- $UP
- a
- 私たちについて
- それについて
- 買収
- 行為
- 十分な
- 認める
- 年齢
- エージェント
- 前
- AI
- すべて
- 既に
- an
- 分析
- および
- 別の
- どれか
- 誰も
- 申し込み
- 適用
- です
- AS
- 頼む
- At
- 試み
- 利用できます
- BE
- なぜなら
- さ
- 越えて
- より大きい
- 両言語で
- 買った
- ビジネス
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- 購入
- by
- 缶
- 容量
- カテゴリー
- チャットボット
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- 分類された
- クライアント
- 閉じる
- CO
- コレクション
- 来ます
- 来ます
- 匹敵します
- 条件
- 秘密の
- 縮小することはできません。
- 可能性
- 現在
- カット
- 切断
- サイクル
- データ
- 十年
- 定義
- デスクトップ
- 開発者
- DID
- 発見
- do
- ドキュメント
- ドキュメント
- すること
- ドン
- ダウン
- ドライバー
- 各
- 8
- エンドレス
- 非常に
- 十分な
- 完全に
- さらに
- あらゆる
- 例外的に
- 秋
- 恐怖
- 特徴
- FRBは
- もう完成させ、ワークスペースに掲示しましたか?
- 終わり
- 企業
- 艦隊
- FOMO
- 4
- 自由に
- 頻繁に
- から
- 完全に
- 生成する
- 生成された
- 生成
- 取得する
- 与え
- 行く
- 良い
- GPU
- 持っていました
- 起こります
- もっと幸せ
- ハード
- Hardware
- 持ってる
- 役立つ
- ホーム
- HOT
- しかしながら
- HTTPS
- i
- if
- in
- 含めて
- 情報
- インテル
- に
- IT
- ITS
- ジョブ
- 参加した
- JPG
- JSON
- 裁判官
- ただ
- 種類
- 欠如
- 言語
- 大
- 姓
- 法律
- 法律事務所
- 弁護士
- 弁護士
- リーク
- 最低
- リーガルポリシー
- less
- ような
- LINE
- ライブ
- ローカル
- 局部的に
- たくさん
- 愛
- 機械
- マシン
- 作る
- 多くの
- 市場
- マトリックス
- 事態
- 手段
- 医療の
- 大会
- メモリ
- Microsoft
- 何百万
- モデル
- モダン
- 瞬間
- 他には?
- 最も
- ずっと
- の試合に
- 掛け算
- しなければなりません
- my
- 名
- 必要
- ニーズ
- ニューラル
- 新作
- より新しい
- Nvidia
- of
- on
- ONE
- の
- 開いた
- オープンソース
- OpenAI
- or
- その他
- 私たちの
- でる
- が
- パートナー
- PC
- パソコン
- 完璧に
- 実行する
- ピース
- 場所
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- プレンティ
- おそらく
- 電力
- プレゼンス
- 予防
- 多分
- 問題
- プロセス
- 処理
- 演奏曲目
- プロスペクティブ
- 提供
- ポンプ
- 購入した
- 品質
- 質問
- すぐに
- RAM
- RE
- リーディング
- 準備
- 最近
- 最近
- リリース
- 頼る
- 応答
- REST
- 収入
- ラン
- ランニング
- 実行
- ラッシュ
- s
- 絶叫
- セクション
- 敏感な
- 役立つ
- shared
- シリコン
- 単に
- サイズ
- 小さい
- So
- ソフトウェア
- 解決
- 一部
- 幾分
- すぐに
- 洗練された
- 音
- ソース
- スペック
- スピード
- ステークス
- まだ
- 提出された
- そのような
- 提案する
- サポート
- システム
- テーブル
- 取る
- 仕事
- タスク
- 十
- 条件
- 規約と条件
- test
- より
- それ
- アプリ環境に合わせて
- それら
- その後
- そこ。
- それによって
- したがって、
- ボーマン
- 彼ら
- この
- 三
- 介して
- 〜へ
- あまりに
- ツール
- に向かって
- トランスフォーム
- 治療
- ターン
- 統一
- ユニット
- us
- 便利
- 広大な
- Ve
- ベンダー
- 非常に
- 事実上
- vr
- 望んでいる
- we
- 週末
- WELL
- この試験は
- which
- while
- 誰
- 意志
- 無し
- 勝った
- 仕事
- 自宅で仕事をする
- ワークフロー
- 作品
- 心配
- 立派な
- でしょう
- 年
- You
- あなたの
- ゼファーネット