解説
人工知能 (AI) は、私たちの働き方から情報の摂取方法、リーダーの決定方法まで、私たちの日常生活のほぼすべての側面を急速に変えています。他のテクノロジーと同様、AI は非道徳的ですが、社会を進歩させたり、 危害を与える.
データは AI アプリケーションを強化する遺伝子です。 DNAとRNAがひとつに包まれたものです。ソフトウェア システムを構築するときによく言われることですが、「ガベージ イン/ガベージ アウト」です。 AI テクノロジーの正確さ、安全性、機能性は、AI テクノロジーが依存するデータ ソースと同等になります。 AI がその約束を確実に果たし、その悪夢を回避するための鍵は、ゴミを排除し、何百万もの AI アプリケーション間での増殖や複製を防ぐ能力にあります。
これはデータ来歴と呼ばれるもので、AI の将来が巨大なゴミの山になるのを防ぐための制御を実装するには、もう一日待つことはできません。
不正なデータは、サイバーセキュリティの脆弱性、誤った情報、その他の攻撃を数秒で世界中に伝播させる可能性のある AI モデルにつながります。今日の generative AI (GenAI) モデルは非常に複雑ですが、基本的に、GenAI モデルは、既存の以前のデータのセットを考慮して、出力する最適な次のデータ チャンクを単純に予測しています。
精度の測定
ChatGPT タイプのモデルは、元の質問を構成する一連の単語と、これまでのモデル応答内のすべての単語を評価して、次に出力する最適な単語を計算します。十分な応答が得られたと判断するまで、これを繰り返し行います。話題に沿っており、会話に一般的に関連する、整形式で文法的に正しい文を構成する単語をつなぎ合わせるモデルの能力を評価するとします。その場合、今日のモデルは、精度の測定において驚くほど優れています。
さらに深く掘り下げる AIが生成した文章が常に「正しい」情報を伝えているかどうか 伝達された情報の信頼レベルを適切に示します。これにより、モデルが平均的には非常にうまく予測するが、エッジケースではあまりうまく予測できないことから生じる問題が明らかになり、これは堅牢性の問題を表しています。 AI モデルから出力された貧弱なデータがオンラインに保存され、これらのモデルや他のモデルの将来のトレーニング データとして使用されると、事態はさらに悪化する可能性があります。
貧弱な出力はこれまでに見たことのない規模で再現され、AI による下向きの破滅ループを引き起こす可能性があります。
悪意のある人物がこのプロセスを手助けしたい場合は、余分な悪質なデータの生成、保存、伝播を意図的に奨励することができ、チャットボットからさらに多くの誤った情報が流出したり、自動車の自動操縦モデルが必要と判断するのと同じくらい凶悪で恐ろしい情報が流出したりする可能性があります。特別に作られた画像が目の前に「見えた」場合は、障害物があっても車を素早く右に進路変更します(もちろん仮説ですが)。
数十年を経て、サイバーセキュリティインフラストラクチャセキュリティ庁が主導するソフトウェア開発業界は、ついに 設計による安全性 フレームワーク。 セキュア・バイ・デザイン サイバーセキュリティはソフトウェア開発プロセスの基礎であることが義務付けられており、その中心的な教義の 1 つは、すべてのソフトウェア開発コンポーネントのカタログ化を要求することです。 ソフトウェア部品表(SBOM) — セキュリティと回復力を強化します。最後に、市場投入の最も重要な要素として、セキュリティがスピードに取って代わりつつあります。
AI 設計の保護
AI にも同様のものが必要です。 AI フィードバック ループは、マルウェア シグネチャの追跡、ネットワーク リソースの周囲に境界線を構築する、人間が作成したコードの脆弱性のスキャンなど、過去の一般的なサイバーセキュリティ防御手法を防ぎます。パンドラの箱が開くずっと前に AI の安全性を確保できるように、テクノロジーの初期段階でセキュアな AI 設計を要件にする必要があります。
では、この問題をどのように解決すればよいでしょうか?私たちは学問の世界から一ページを取り上げるべきです。私たちは、高度に厳選されたトレーニング データを使用して生徒をトレーニングし、教師業界を通じて解釈され、生徒に伝えられます。私たちは成人を教えるためにこのアプローチを続けていますが、成人は自分自身でより多くのデータキュレーションを行うことが期待されています。
AI モデルのトレーニングでは、2 段階の厳選されたデータ アプローチを採用する必要があります。まず、ベースの AI モデルは、あまり厳選されていない大量のデータセットを使用する現在の方法論を使用してトレーニングされます。これらの基本的な大規模言語モデル (LLM) は、新生児にほぼ似ています。その後、基本レベルのモデルは、子供が大人になるまで教育され育てられる方法と同様に、高度に厳選されたデータセットを使用してトレーニングされます。
あらゆる種類の目標に向けて、厳選された大規模なトレーニング データ セットを構築する労力は少なくありません。これは、子どもたちが(できれば)社会に対して機能的で付加価値のある貢献者に成長するために、親、学校、社会が子どもたちに質の高い環境と質の高い情報を提供するために注ぐあらゆる努力に似ています。これは、高品質で適切に機能し、破損が最小限に抑えられた AI モデルをトレーニングするための高品質のデータセットを構築するために必要な労力のレベルであり、AI 業界全体と人間が協力して AI モデルに目的の仕事をうまく行えるように教えることになる可能性があります。 。
今日の AI トレーニング プロセスの状態は、この 2 段階のプロセスの兆候を示しています。しかし、GenAI テクノロジーと業界は初期段階にあるため、トレーニングが多すぎると、あまり精選されていない第 1 段階のアプローチが採用されます。
AI のセキュリティに関しては、23 年どころか XNUMX 時間も待つ余裕はありません。 AI には、「アルゴリズムの系譜」の完全なレビューを可能にする XNUMXandMe アプリケーションが必要です。これにより、開発者は AI の「ファミリー」の歴史を完全に理解して、慢性的な問題の再現、私たちが毎日依存している重要なシステムの感染、経済的および社会的損害の発生を防ぐことができます。それは取り返しのつかないことになるかもしれない。
私たちの国家安全保障はそれにかかっています。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://www.darkreading.com/vulnerabilities-threats/why-you-need-to-know-your-ai-ancestry
- :持っている
- :は
- :not
- $UP
- 7
- a
- 能力
- アカデミー
- 精度
- 正確な
- 越えて
- 大人
- 進める
- 提供します
- 代理店
- AI
- AIモデル
- AIトレーニング
- アルゴリズム
- すべて
- 一人で
- 常に
- 金額
- an
- および
- 別の
- どれか
- 申し込み
- アプローチ
- 適切に
- です
- 周りに
- AS
- 側面
- At
- 攻撃
- 自動車
- 平均
- 避ける
- 赤ちゃん
- 悪い
- 悪いデータ
- ベース
- BE
- になる
- になる
- さ
- BEST
- ビル
- ボルスター
- ボックス
- ビルド
- 建物
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 計算する
- 呼ばれます
- 缶
- 自動車
- 場合
- 例
- 原因
- チャットボット
- 子供達
- コード
- 来ます
- comes
- 到来
- コマンドと
- 複雑な
- コンポーネント
- 配合
- 理解する
- 信頼
- 続ける
- 貢献者
- controls
- 会話
- 搬送
- 基本
- 正しい
- 破損した
- 可能性
- コース
- 細工された
- 作成
- 重大な
- キュレーション
- キュレーション
- 電流プローブ
- サイバーセキュリティ
- daily
- データ
- データセット
- 中
- 十年
- 数十年
- 決定する
- より深い
- 防衛
- 依存
- デザイン
- にもかかわらず
- 決定する
- 開発者
- 開発
- DNA
- do
- ありません
- 運命
- 運命のループ
- 下向きの
- 原因
- 間に
- 経済
- エッジ(Edge)
- 努力
- 可能
- 奨励する
- 十分な
- 確保する
- 環境
- 評価する
- さらに
- あらゆる
- 毎日
- 既存の
- 予想される
- 余分な
- 要因
- 家族
- 遠く
- フィードバック
- 最後に
- Foundation
- フレームワーク
- から
- フロント
- フル
- 完全に
- 機能的な
- 機能します
- 未来
- ゲンナイ
- 一般に
- 与えられた
- グローバルに
- 市場に行きます
- 目標
- 目標
- 良い
- 成長する
- 害
- 持ってる
- 助けます
- 非常に
- history
- うまくいけば
- 時間
- 認定条件
- どのように私たちが働き
- HTTPS
- 人間
- if
- 画像
- 実装する
- 実装
- in
- 信じられないほど
- を示し
- 産業を変えます
- 情報
- インフラ
- インテリジェンス
- に
- 問題
- IT
- ITS
- ジョブ
- JPG
- キープ
- キー
- 子供たち
- 知っている
- 言語
- 大
- つながる
- リーダー
- 主要な
- リード
- ツェッペリン
- less
- う
- レベル
- ある
- 命
- 長い
- 製
- make
- マルウェア
- 委任
- 大規模な
- 材料
- 五月..
- 測定
- 方法論
- 何百万
- 誤報
- モデル
- 他には?
- 最も
- ずっと
- しなければなりません
- 国民
- 国際セキュリティー
- ほぼ
- 必要
- ニーズ
- ネットワーク
- 決して
- 次の
- オブジェクト
- of
- 頻繁に
- on
- ONE
- オンライン
- の
- 開かれた
- or
- オリジナル
- その他
- 私たちの
- でる
- 出力
- outputs
- ページ
- 両親
- 過去
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- 貧しいです
- 電力
- 予測
- 防ぐ
- を防止
- 前
- 問題
- プロセス
- 生産された
- 約束
- 来歴
- 提供
- 置きます
- 品質
- 質問
- すぐに
- 隆起した
- 急速に
- 関連した
- 信頼する
- 頼る
- 繰り返し
- 表します
- の提出が必要です
- 要件
- リソース
- 応答
- レビュー
- 右
- RNAを
- 丈夫
- 大体
- s
- 前記
- SBOM
- 規模
- スキャニング
- 学校
- 秒
- 安全に
- 確保する
- セキュリティ
- 見て
- セッションに
- セット
- すべき
- 作品
- 署名
- サイン
- 同様の
- 単に
- 小さい
- So
- これまでのところ
- 社会的
- 社会
- ソフトウェア
- ソフトウェア開発
- 解決する
- 一部
- 何か
- ソース
- 特別に
- スピード
- start
- 都道府県
- 保存され
- 文字列
- 生徒
- そのような
- システム
- 取る
- 取り
- 教えた
- 教師
- テクニック
- テクノロジー
- 技術の
- 信条
- 클라우드 기반 AI/ML및 고성능 컴퓨팅을 통한 디지털 트윈의 기초 – Edward Hsu, Rescale CPO 많은 엔지니어링 중심 기업에게 클라우드는 R&D디지털 전환의 첫 단계일 뿐입니다. 클라우드 자원을 활용해 엔지니어링 팀의 제약을 해결하는 단계를 넘어, 시뮬레이션 운영을 통합하고 최적화하며, 궁극적으로는 모델 기반의 협업과 의사 결정을 지원하여 신제품을 결정할 때 데이터 기반 엔지니어링을 적용하고자 합니다. Rescale은 이러한 혁신을 돕기 위해 컴퓨팅 추천 엔진, 통합 데이터 패브릭, 메타데이터 관리 등을 개발하고 있습니다. 이번 자리를 빌려 비즈니스 경쟁력 제고를 위한 디지털 트윈 및 디지털 스레드 전략 개발 방법에 대한 인사이트를 나누고자 합니다.
- それ
- 世界
- アプリ環境に合わせて
- それら
- 自分自身
- その後
- ボーマン
- 彼ら
- この
- 介して
- 〜へ
- 今日
- 一緒に
- あまりに
- トピック
- 追跡
- トレーニング
- 訓練された
- トレーニング
- まで
- 発表
- に
- 中古
- 非常に
- 脆弱性
- wait
- wanted
- 仕方..
- we
- WELL
- いつ
- 全体
- なぜ
- 意志
- Word
- 言葉
- 仕事
- ワーキング
- 世界
- でしょう
- 包まれました
- You
- あなたの
- ゼファーネット