人工知能 (AI) によって生成されたディープフェイクを含む最近の出来事 バイデン大統領になりすましたロボコール ニューハンプシャー州の有権者に予備選への棄権を促すこの内容は、悪意のある攻撃者が現代の生成AI(GenAI)プラットフォームを米国選挙を標的にする強力な武器としてますます見ているということをはっきりと思い出させるものとなっている。
ChatGPT、Google の Gemini (旧名 Bard)、またはその他の専用のダークウェブ大規模言語モデル (LLM) などのプラットフォームは、大規模影響キャンペーン、自動トローリング、およびディープフェイクコンテンツ。
実際、FBI長官クリストファー・レイは、 最近懸念の声が上がった 次の大統領選挙期間中に偽情報をまき散らす可能性のあるディープフェイクを使用した進行中の情報戦について、 国家の支援を受けた俳優たち 地政学的バランスを揺るがそうとする。
GenAI は「」の台頭も自動化できる可能性があります。協調性に欠ける行動」ネットワークは、不和を植え付け、選挙プロセスにおける国民の信頼を損なうことを目的として、フェイクニュース配信、説得力のあるソーシャルメディアプロフィール、その他の手段を通じて、偽情報キャンペーンの視聴者を開拓しようとしています。
選挙への影響: 重大なリスクと悪夢のシナリオ
CyberSaint の最高イノベーション責任者であるパドリック・オライリー氏の観点からは、テクノロジーは急速に進化しているため、リスクは「重大」です。
「ディープフェイク技術を活用した新たな偽情報の亜種が見られるため、興味深いものであると同時に、おそらく少し憂慮すべきことになるでしょう」と彼は言う。
具体的には、AI が生成したコンテンツによるマイクロターゲティングがソーシャル メディア プラットフォームで急増するという「悪夢のシナリオ」があるとオライリー氏は述べています。それはよく知られた戦術です ケンブリッジアナリストのスキャンダルでは、同社は米国の有権者 230 億 XNUMX 万人の心理的プロフィール データを収集し、Facebook 経由で個人に高度にカスタマイズされたメッセージを提供し、個人の信念と投票に影響を与えようとしました。しかし、GenAI はそのプロセスを大規模に自動化し、人々を不快にさせるような「ボット」の特徴をほとんど持たない、説得力の高いコンテンツを作成できる可能性があります。
「盗まれたターゲティングデータ(ユーザーが誰であるか、その興味を示すパーソナリティスナップショット)が AI 生成コンテンツと融合されることは、大きなリスクです」と彼は説明します。 「2013年から2017年にかけて行われたロシアの偽情報キャンペーンは、他に何が起こる可能性があるのか、そして今後何が起こるのかを示唆しており、私たちはバイデンを特集した(このような)米国国民によって生成されたディープフェイクを知っています。 エリザベス·ウォーレンに設立された地域オフィスに加えて、さらにローカルカスタマーサポートを提供できるようになります。」
ソーシャルメディアと すぐに利用できるディープフェイク技術 すでに深く分断されているこの国において、米国国民の二極化を招く終末兵器となる可能性がある、と同氏は付け加えた。
「民主主義は特定の共有された伝統と情報を前提としていますが、ここでの危険は国民の間で分断が進み、スタンフォード大学の研究者レネー・ディレスタが言うところの『オーダーメードの現実』、つまり人々が『もう一つの事実』を信じることにつながることです」とオライリー氏は言う。
脅威アクターが分裂の種を蒔くために使用するプラットフォームは、おそらくほとんど役に立たないでしょう。たとえば、以前は Twitter として知られていたソーシャル メディア プラットフォーム X は、コンテンツの品質保証 (QA) を廃止したと彼は付け加えました。
「他のプラットフォームは、偽情報に対処するという定型的な保証を提供しているが、言論の自由の保護と規制の欠如により、依然として悪者にとってこの分野は大きく開かれたままになっている」と同氏は警告する。
AI が既存のフィッシング TTP を増幅
Tidal Cyber社のサイバー脅威インテリジェンス担当ディレクターのスコット・スモール氏によると、GenAIはすでに、より信憑性の高い標的を絞ったフィッシングキャンペーンを大規模に作成するために使用されているが、選挙のセキュリティという観点から見ると、この現象はより懸念すべき出来事だという。
「サイバー攻撃者が生成 AI を導入して、長年にわたって一貫した量を誇る選挙関連攻撃の主要な形式であるフィッシング攻撃やソーシャル エンジニアリング攻撃をより説得力のあるものにし、標的が悪意のあるコンテンツとやり取りする可能性が高くなると予想しています。 " 彼は説明する。
スモール氏は、AI の導入により、このような攻撃を開始するための参入障壁も低くなり、その要因として、キャンペーンへの侵入やなりすまし目的などで候補者のアカウントを乗っ取ろうとするキャンペーンの量が今年増加する可能性が高いと考えられます。
「犯罪者や国家の敵対者は、時事問題や人気のテーマに合わせてフィッシングやソーシャル エンジニアリングの誘いを定期的に行っており、これらの攻撃者はほぼ確実に、今年一般的に配布される選挙関連のデジタル コンテンツのブームに乗じて、悪意のあるメッセージを配信しようとするでしょう。」疑いを持たないユーザーにコンテンツを提供します」と彼は言います。
AI 選挙の脅威に対する防御
これらの脅威から守るために、選挙管理者と選挙運動は GenAI によるリスクとそれに対する防御方法を認識する必要があります。
「選挙管理者や候補者は、AI ベースのディープフェイクのために脅威アクターがサウンドバイトを引き出すことができるインタビューや記者会見を絶えず行っています」と、Optiv のサイバーリスク担当副社長の James Turgal 氏は述べています。 「したがって、コンテンツを確実に管理する責任を負う担当者またはチームを確実に配置することが企業の義務です。」
また、強化されたソーシャル エンジニアリングなどの AI を活用した脅威、その背後にいる攻撃者、不審なアクティビティへの対応方法について、ボランティアや職員がトレーニングを受けていることを確認する必要もあります。
そのために、スタッフはソーシャル エンジニアリングとディープフェイク ビデオのトレーニングに参加する必要があります。このトレーニングには、電子 (電子メール、テキスト、ソーシャル メディア プラットフォーム)、対面、電話ベースの攻撃など、あらゆる形式と攻撃ベクトルに関する情報が含まれます。
「これは、特にボランティアにとって非常に重要です。なぜなら、誰もが良好なサイバー衛生状態を保っているわけではないからです」とトゥルガル氏は言います。
さらに、選挙運動や選挙のボランティアは、ソーシャル メディアへの投稿を含め、オンラインや外部機関に安全に情報を提供する方法について訓練を受け、その際には注意を払う必要があります。
「サイバー攻撃者はこの情報を収集して、特定のターゲットに合わせてソーシャル エンジニアリングされたおとりを調整する可能性があります」と彼は警告します。
オライリーは、長期的な規制には次のようなものがあると述べている。 オーディオとビデオのディープフェイク用の透かし入れ 連邦政府がLLMの所有者と協力して保護を導入していることを指摘し、役立つだろう。
実際には、 連邦通信委員会 (FCC) はたった今宣言した 電話消費者保護法 (TCPA) では、AI によって生成された音声通話は「人工」として扱われており、音声クローン技術の利用は違法であり、全国の州検事総長にそのような詐欺行為に対抗するための新しいツールを提供しています。
「AIの進歩は非常に速いため、技術が進歩するにつれて提案されたルールが無効になり、目標を達成できない可能性があるという本質的な危険性が存在します」とオライリー氏は言う。 「ある意味、ここは西部開拓時代であり、AI は安全策がほとんどない状態で市場に登場しています。」
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security
- :持っている
- :は
- :not
- :どこ
- $UP
- 7
- a
- 私たちについて
- 従った
- アカウント
- 行為
- 活動
- アクティビティ
- 俳優
- 適応する
- 住所
- 追加
- 採用
- 養子縁組
- 進歩
- に対して
- AI
- AI電源
- 別名
- すべて
- ほとんど
- 既に
- また
- 代替案
- 集まった
- 間で
- 増幅
- an
- および
- どれか
- です
- 人工の
- 人工知能
- AS
- 保証
- At
- 攻撃
- 攻撃
- 試み
- 試み
- ヒアリング
- オーディオ
- 自動化する
- 自動化
- 利用できます
- 通り
- 知って
- 悪い
- バランス
- バリア
- BE
- なぜなら
- になる
- 背後に
- さ
- 信念
- 信じる
- 別注
- 二人
- ビット
- ブーム
- ロボット
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 呼ばれます
- コール
- キャンペーン
- キャンペーン
- 缶
- 候補者
- 候補
- 資本化する
- 注意
- 注意
- 一定
- 確かに
- 特性
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- チーフ
- クリストファー
- 住民
- 戦闘
- 到来
- 委員会
- 通信部
- 会社
- について
- 会議
- 整合性のある
- 絶えず
- consumer
- 消費者保護
- コンテンツ
- コンテキスト
- コントロール
- 可能性
- 国
- クラフト
- 作ります
- 刑事上の
- 電流プローブ
- サイバー
- 危険
- 暗いです
- ダークウェブ
- データ
- ディープフェイク
- 深く
- ディフェンディング
- 配信する
- 民主主義
- 民主的な
- 開発する
- デジタル
- デジタルコンテンツ
- 取締役
- 不和
- 虚偽情報
- 配布
- 分割された
- ディビジョン
- すること
- 終末期
- 間に
- 選挙
- 選挙
- エレクトロニック
- ほかに
- 包含する
- end
- 設計された
- エンジニアリング
- 強化された
- 確保する
- エンティティ
- エントリ
- 特に
- イベント
- イベント
- 誰も
- 進化
- 既存の
- 期待する
- 説明
- 実際
- 要因
- 事実
- 偽
- 偽のニュース
- おなじみの
- スピーディー
- 米連邦捜査局(FBI)
- FCC
- 特色
- 連邦政府の
- 連邦政府
- 少数の
- フィールド
- フォーブス
- 以前は
- フォーム
- 不正な
- 無料版
- 言論の自由
- から
- 集める
- 双子座
- ゲンナイ
- 一般に
- 生成された
- 生々しい
- 生成AI
- 地政学的
- 与え
- 目標
- 良い
- でログイン
- 政府・公共機関
- ハンプシャー
- 持ってる
- he
- 助けます
- こちら
- 非常に
- 認定条件
- How To
- HTTPS
- if
- 違法
- 重要
- in
- 対面
- 含ま
- 含めて
- 増える
- 増加した
- ますます
- 現職
- 個人
- 影響
- 情報
- 固有の
- 革新的手法
- インストルメンタル
- インテリジェンス
- 対話
- 興味深い
- 利益
- 記事執筆
- に
- IT
- ITS
- ジェームズ
- JPG
- ただ
- 知っている
- 既知の
- 欠如
- 規制の欠如
- 言語
- 大
- 発射
- 主要な
- コメントを残す
- 活用
- ような
- 可能性が高い
- 少し
- 長い
- make
- 作成
- 悪意のある
- 多くの
- 市場
- 質量
- 五月..
- メディア
- メッセージング
- 百万
- 行方不明
- ミックス
- モデル
- モダン
- 他には?
- 移動する
- しなければなりません
- 全国の
- ネットワーク
- 新作
- ニュース
- 注記
- 数
- 発生する
- of
- オフ
- 役員
- 関係者
- on
- ONE
- 継続
- オンライン
- 開いた
- or
- 注文
- その他
- アウトレット
- 外側
- が
- 所有者
- 参加する
- のワークプ
- おそらく
- 人
- 人格
- 視点
- 現象
- フィッシング詐欺
- 場所
- プラットフォーム
- プラットフォーム
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- プレイ
- 人気
- 投稿
- 強力な
- :
- ポテンシャル
- 社長
- 大統領の
- 主要な
- プロセス
- プロフィール
- 対応プロファイル
- 約束
- 提案された
- 保護
- 提供します
- 提供
- 提供
- 心理的な
- 公共
- 公共の信頼
- 目的
- 置きます
- 質問と回答
- 品質
- すぐに
- リアル
- 現実
- 定期的に
- 規制
- リマインダー
- 研究者
- 反応します
- 責任
- 上昇
- リスク
- リスク
- 職種
- ルール
- ロシア
- s
- 保障措置
- 安全に
- 言う
- 規模
- シナリオ
- シナリオ
- スコット
- セキュリティ
- 役立つ
- shared
- すべき
- 小さい
- So
- 社会
- ソーシャルエンジニアリング
- ソーシャルメディア
- ソーシャルメディアのプラットフォーム
- ソーシャルメディアの投稿
- 社会的に
- 一部
- 音
- 雌豚
- 特定の
- スピーチ
- スポンサー
- スタッフ
- スタンフォード
- スターク
- 都道府県
- まだ
- 盗まれました
- かなりの
- そのような
- 確か
- 疑わしい
- スウェイ
- テーラー
- テーラード
- 取る
- ターゲット
- 対象となります
- ターゲット
- ターゲット
- チーム
- テク
- テクノロジー
- 期間
- 条件
- 클라우드 기반 AI/ML및 고성능 컴퓨팅을 통한 디지털 트윈의 기초 – Edward Hsu, Rescale CPO 많은 엔지니어링 중심 기업에게 클라우드는 R&D디지털 전환의 첫 단계일 뿐입니다. 클라우드 자원을 활용해 엔지니어링 팀의 제약을 해결하는 단계를 넘어, 시뮬레이션 운영을 통합하고 최적화하며, 궁극적으로는 모델 기반의 협업과 의사 결정을 지원하여 신제품을 결정할 때 데이터 기반 엔지니어링을 적용하고자 합니다. Rescale은 이러한 혁신을 돕기 위해 컴퓨팅 추천 엔진, 통합 데이터 패브릭, 메타데이터 관리 등을 개발하고 있습니다. 이번 자리를 빌려 비즈니스 경쟁력 제고를 위한 디지털 트윈 및 디지털 스레드 전략 개발 방법에 대한 인사이트를 나누고자 합니다.
- それ
- アプリ環境に合わせて
- それら
- テーマ
- そこ。
- したがって、
- ボーマン
- 彼ら
- この
- 今年
- 脅威
- 脅威アクター
- 脅威
- 介して
- 〜へ
- あまりに
- 豊富なツール群
- 訓練された
- トレーニング
- トローリング
- 信頼
- 試します
- 順番
- さえずり
- 下
- 今後の
- に
- 促します
- us
- 米国の選挙
- 米国の有権者
- つかいます
- 中古
- ユーザー
- users
- 非常に
- 、
- バイス
- 副会長
- ビデオ
- 詳しく見る
- ボイス
- ボリューム
- ボランティア
- 有権者
- 票
- 仕方..
- 方法
- we
- ウェブ
- ウェスト
- この試験は
- いつ
- 誰
- ワイド
- ワイルド
- 野生の西
- 意志
- 労働者
- ワーキング
- でしょう
- X
- 年
- 年
- ゼファーネット