IBMセキュリティの研究者らは、人工知能における驚くべき新たな脅威、それが「オーディオジャッキング」として知られる技術を通じてライブ会話を操作する能力であることを明らかにした。
生成 AI とディープフェイク オーディオ技術を利用したこの手法では、話された言葉をリアルタイムで傍受して改変することができ、デジタル コミュニケーションに前例のないリスクをもたらします。
また、お読みください。 AI ディープフェイク検出は増大する欺瞞の課題に対して進歩
オーディオジャックの脅威を暴露
オーディオ ジャッキングは、電話などの双方向通信からのライブ オーディオを処理し、特定のキーワードやフレーズを検索することによって機能します。これらのトリガーが検出されると、AI が介入し、目的地に到達する前に本物の音声を操作されたディープフェイク バージョンに置き換えます。素晴らしい イラスト この技術は IBM の研究者によって提供されたもので、会話中に話された銀行口座情報が検出されることなく変更されました。
オーディオ ジャッキング: 生成 AI を使用してライブ オーディオ トランザクションを歪める: テキストから画像への変換、テキストから音声への変換、大規模言語モデル (LLM) などの生成 AI の台頭により、私たちの仕事と私生活は大きく変わりました。こうした進歩がある一方で… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— シャー・シェイク (@shah_sheikh) 2024 年 2 月 1 日
この攻撃の概念実証を簡単に考案できることには当惑させられます。研究者らは、最も困難な部分は AI の作成ではなく、ライブオーディオの録音と処理の技術的な部分であると指摘しました。この開発の容易さは、そのような取り組みにはいくつかのコンピュータ サイエンス分野にわたるかなりの専門知識が必要となる従来の期待からの大きな逸脱を表しています。
「この PoC の構築は、驚くほど、そして恐ろしいほど簡単でした。私たちはマイクから音声をキャプチャし、その音声を生成 AI に供給する方法を理解することにほとんどの時間を費やしました。」
このスキームにおける役割は、 生成AI 重要です。この技術は、人の声のわずか 3 秒を使用して、説得力のあるクローンを作成し、オンデマンドで正規のディープフェイクを作成できます。 API 経由で利用できるこの機能は、高度な操作ツールの民主化プロセスにおける不穏な傾向を示しています。
「現在では、個人の声を 3 秒間コピーするだけで、音声合成 API を使用して本物の偽の音声を生成できます。」
影響と誤用の可能性
しかし、オーディオジャッキングの影響は金融詐欺だけにとどまりません。このような技術はリアルタイム検閲が可能であり、検出されることなくニュースや政治演説などの生放送を改変することができます。これらの機能は情報の完全性を損ない、民主主義と国民の信頼に重大な影響を及ぼします。
オーディオジャッキング攻撃に対する障壁が低いため、高度なソーシャル エンジニアリングやフィッシングが大幅に減少しました。この緩和により、そのような攻撃が拡散するという問題が生じ、現在のセキュリティ対策に課題が生じ、新しい防御メカニズムが必要になります。
「この PoC の成熟度は、何よりも消費者に重大なリスクを示唆するでしょう…この攻撃が洗練されればされるほど、被害者の網はより広くなる可能性があります。」
オーディオ ジャッキングの現象は、AI 開発におけるより広範な問題、つまり、 生成技術。一方で、それらは革新と創造性の無限の可能性の源です。他方では、それらが悪用される可能性を無視すべきではありません。この事件は、社会が AI の闇のアプリケーションから身を守りながら、AI の利点をどのように活用できるのかという極めて重要な疑問を引き起こしました。
AI セキュリティの未来をナビゲートする
デジタル脅威の状況が変化する中、IBM Security が音声ジャッキングを特定したことは、警戒を怠らず、サイバーセキュリティーを最新化するための重要な警告です。このような高度な脅威に対抗するには、革新的な検出アルゴリズムやより強力な暗号化技術などの対策の進化が不可欠です。
さらに、この開示は倫理問題が不可欠であることを明らかにしています。 AI研究 そして開発。このような強力なテクノロジーの危険性に対処するには、AI が責任を持って使用するためのルールとベンチマークを設定することが不可欠です。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :持っている
- :は
- :not
- $UP
- 1
- 11
- 7
- 8
- a
- 能力
- 越えて
- アドレッシング
- 高度な
- に対して
- AI
- アルゴリズム
- 標準装備されたものが、
- an
- および
- API
- API
- です
- 人工の
- 人工知能
- AS
- At
- 攻撃
- 攻撃
- オーディオ
- 「鑑定済み」のチェックマークが付きます。
- 利用できます
- 銀行
- 預金
- バリア
- BE
- き
- さ
- ベンチマーク
- 利点
- 越えて
- より広い
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- コール
- 缶
- 機能
- できる
- キャプチャー
- 検閲
- 課題
- 挑戦
- 変更
- 闘う
- コミュニケーション
- 通信部
- 妥協
- コンピュータ
- コンピュータサイエンス
- かなりの
- 消費者
- 会話
- 会話
- 可能性
- 作成
- 創造性
- 重大な
- 電流プローブ
- サイバーセキュリティ
- 危険
- 暗いです
- 欺瞞
- ディープフェイク
- 防衛
- 需要
- 民主主義
- 民主化
- 出発
- デスティネーション
- 検出された
- 検出
- 開発
- デジタル
- 開示
- 議論
- デュアル
- 間に
- 緩和する
- 簡単に
- 効果
- 努力
- 暗号化
- エンジニアリング
- 本質的な
- 倫理的な
- 進化
- 期待
- 専門知識
- 専門家
- 偽
- フィールズ
- ファイナンシャル
- 金融詐欺
- もう完成させ、ワークスペースに掲示しましたか?
- 詐欺
- から
- 未来
- 生成する
- 生々しい
- 生成AI
- Go
- 成長
- ハンド
- ハーネス
- 持ってる
- 認定条件
- How To
- しかしながら
- HTTPS
- IBM
- 識別
- 意義
- in
- 事件
- 含めて
- 情報
- 革新的手法
- 革新的な
- インテグラル
- 整合性
- インテリジェンス
- 問題
- 問題
- IT
- ITS
- ただ
- キーワード
- 既知の
- 風景
- 言語
- 大
- 正当な
- ライブ
- 命
- 探して
- ロー
- 低障壁
- 操作
- 操作
- 満期
- 措置
- メカニズム
- 方法
- マイクロフォン
- モデル
- 近代化します
- 他には?
- 最も
- 自然
- 必要
- net
- 新作
- ニュース
- 注意
- of
- on
- ONE
- の
- or
- その他
- 私たちの
- でる
- が
- 部
- 個人的な
- 現象
- フィッシング詐欺
- 電話
- 電話
- フレーズ
- 極めて重要な
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- PoC
- ポイント
- 政治的
- の可能性
- 潜在的な
- 強力な
- プロセス
- 処理
- 作り出す
- 深遠な
- プロンプト
- 提供
- 公共
- 公共の信頼
- 質問
- 提起
- むしろ
- 達します
- 読む
- リアル
- への
- 録音
- 電話代などの費用を削減
- 洗練された
- 表し
- 研究者
- 明らかに
- 明らかに
- 上昇
- リスク
- リスク
- 職種
- ルール
- 保護
- スキーム
- 科学
- 秒
- セキュリティ
- セキュリティー対策
- 設定
- いくつかの
- シェイク
- シフト
- すべき
- シグナル
- 重要
- 著しく
- 社会
- ソーシャルエンジニアリング
- 社会
- 洗練された
- ソース
- 特定の
- スピーチ
- 費やした
- 話
- 広がる
- 驚くべき
- ステップ
- 見事な
- そのような
- 驚くほど
- 取り
- 技術
- テクニック
- テクノロジー
- テクノロジー
- テキストを音声に変換する
- それ
- 未来
- アプリ環境に合わせて
- その後
- ボーマン
- 彼ら
- この
- 脅威
- 脅威
- 三
- 介して
- 従って
- 時間
- 〜へ
- 豊富なツール群
- 伝統的な
- 取引
- トレンド
- true
- 信頼
- さえずり
- アンダースコア
- 無限の
- 前例のない
- 使用法
- つかいます
- バージョン
- 、
- 犠牲者
- ボイス
- 声
- 警告
- ました
- we
- いつ
- which
- while
- 誰
- より広い
- 以内
- 無し
- 言葉
- 仕事
- 作品
- でしょう
- ゼファーネット