ディープフェイク テクノロジーの使用を伴う悪意のあるキャンペーンは、多くの人が想定しているよりもはるかに身近にあります。 さらに、それらの緩和と検出は困難です。
サイバー犯罪者によるディープフェイクの使用と悪用に関する新しい調査によると、この技術を広く使用するために必要なすべての要素が整っており、アンダーグラウンド マーケットやオープン フォーラムですぐに入手できることがわかりました。 トレンドマイクロの調査によると、多くのディープフェイクを利用したフィッシング、ビジネスメール侵害 (BEC)、およびプロモーション詐欺がすでに発生しており、 脅威の状況を迅速に再形成する.
もはや架空の脅威ではありません
トレンドマイクロのセキュリティ研究者であり、論文の主著者であるウラジミール・クロポトフは、次のように述べています。セキュリティ ベンダーが今週リリースしたトピックについて報告します。
「金融機関に対する攻撃、詐欺、政治家になりすます試みにディープフェイクがどのように組み込まれているかは、すでに確認されています」メディアネットワーク。
トレンドマイクロの調査から得られた主なポイントの XNUMX つは、ディープフェイクを生成するためのツール、画像、およびビデオがすぐに利用できることです。 たとえば、セキュリティ ベンダーは、GitHub を含む複数のフォーラムが、ディープフェイクを開発するためのソース コードを希望する人に提供していることを発見しました。 同様に、悪役が何百万もの偽のアイデンティティを作成したり、政治家、ビジネスリーダー、その他の有名人になりすますことができるように、一般の個人や著名人の十分な高品質の画像やビデオを利用できます。
アンダーグラウンド フォーラムでも、ディープフェイク サービスやこのトピックに関する専門知識を持つ人々の需要が高まっています。 トレンドマイクロは、個人の金融口座を標的とした暗号通貨詐欺や詐欺を実行するために、これらのスキルを探している犯罪者の広告を発見しました。
トレンドマイクロはレポートで、「アクターはすでに、政治家、経営幹部、有名人になりすまして身元を盗むことができます。 「これにより、金融スキーム、短期間の偽情報キャンペーン、世論操作、恐喝などの特定の攻撃の成功率が大幅に向上する可能性があります。」
多すぎるリスク
また、なりすましの被害者を騙したり、身元を偽って悪意のある活動を行ったりするために、一般の人々に属する個人情報が盗まれたり再作成されたりするリスクも高まっています。
トレンドマイクロは、多くのディスカッション グループで、ユーザーがディープフェイクを使用してバンキングやその他のアカウント確認コントロールを回避する方法について活発に話し合っていることを発見しました。
たとえば、犯罪者は被害者の ID を使用し、被害者のディープフェイク ビデオを使用して銀行口座を開設し、後でマネー ロンダリング活動に使用する可能性があります。 同様に、アカウントをハイジャックしたり、組織のトップレベルの幹部になりすまして不正な送金を開始したり、個人をゆすり取るために偽の証拠を植え付けたりする可能性があると、トレンドマイクロは述べています。
Amazon の Alexa や iPhone のような、音声または顔認識を使用するデバイスは、まもなくディープフェイク ベースの攻撃のターゲット デバイスのリストに載る可能性があると、セキュリティ ベンダーは指摘しています。
「多くの企業がまだリモートまたは混合モードで作業しているため、リスクが増大しています。 電話会議での人物のなりすまし これは、社内外のビジネス コミュニケーション、機密性の高いビジネス プロセス、財務フローに影響を与える可能性があります」と Kropotov 氏は言います。
ディープフェイクに警鐘を鳴らしているのはトレンドマイクロだけではありません。 VMware が 125 人のサイバーセキュリティおよびインシデント対応の専門家を対象に実施した最近のオンライン調査でも、ディープフェイクを利用した脅威はただ来ているだけではないことがわかりました。 彼らはすでにここにいます. 66 年から 13% 増の驚くべき 2021% の回答者が、過去 12 か月間にディープフェイクの使用に関連するセキュリティ インシデントを経験したことがあると述べています。
「[すでに] 目撃されているディープフェイク攻撃の例には、CFO への CEO の音声通話が含まれます。 電信送金につながる、パスワードのリセットを開始するよう IT 部門に呼びかける従業員もいます」と、VMware のプリンシパル サイバーセキュリティ ストラテジストである Rick McElroy は述べています。
ディープフェイク攻撃に対する緩和策はほとんどなく、検出は難しい
一般的に言えば、これらのタイプの攻撃は効果的である可能性があります。これは、課題に対処するための技術的な修正がまだ利用できないためです、と McElroy 氏は言います。
「ディープフェイクの使用と洗練度が高まっていることを考えると、これは今後の詐欺や詐欺の観点から、組織にとって最大の脅威の XNUMX つになると思います」と彼は警告します。
最も効果的な方法 現在の脅威を軽減する これらのソーシャル エンジニアリング攻撃の主なターゲットである財務、経営陣、および IT チームの間で問題の認識を高めることです。
「組織は、サイクルを断ち切るためにローテクな方法を検討することができます。 これには、組織からお金を配線する際に経営陣の間でチャレンジとパスフレーズを使用したり、XNUMX 段階の検証済み承認プロセスを使用したりすることが含まれます」と彼は言います。
Piaano の共同創設者兼 CEO である Gil Dabah 氏も、緩和策として厳格なアクセス制御を推奨しています。 どのユーザーも大量の個人データにアクセスできるべきではなく、組織はレート制限と異常検出を設定する必要があると彼は言います。
「ビッグデータ分析を必要とするビジネス インテリジェンスのようなシステムでさえ、マスクされたデータのみにアクセスする必要があります」と Dabah 氏は述べ、機密性の高い個人データを平文で保持してはならず、PII などのデータはトークン化して保護する必要があると付け加えています。
一方、検出面では、AIベースなどの技術の開発 生成的敵対的ネットワーク (GAN) は、ディープフェイクの検出を困難にしています。 CTM Insights の共同設立者兼マネージング パートナーである Lou Steinberg は、次のように述べています。
改ざんされたコンテンツを検出するには、何かが変更されていないことを証明する指紋または署名が組織に必要である、と彼は付け加えます。
「さらに良いのは、コンテンツの一部をマイクロ フィンガープリントして、何が変更され、何が変更されていないかを識別できるようにすることです」と彼は言います。 「画像が編集されている場合、これは非常に価値がありますが、誰かが画像を検出されないように隠そうとしているときはなおさらです。」
XNUMX つの広範な脅威カテゴリ
Steinberg は、ディープフェイクの脅威は XNUMX つの大きなカテゴリに分類されると述べています。 XNUMX つ目は、主に正当なコンテンツを編集して意味を変更する偽情報キャンペーンです。 例として、スタインバーグは、ソーシャル メディアでフェイク ニュースの画像や動画を使用したり、元々存在していなかった人物を写真に挿入したりする国家のアクターを挙げています。
別のカテゴリには、模造品のロゴ、フィッシング キャンペーンで使用される画像、さらには児童ポルノを検出するツールなどの自動検出ツールを回避するための、画像、ロゴ、およびその他のコンテンツへの微妙な変更が含まれます。
XNUMX 番目のカテゴリには、オリジナルのコレクションから派生した合成または複合ディープフェイクが含まれ、まったく新しいものを作成します、とスタインバーグは言います。
「これは、数年前から音声で見られるようになりました。金融サービスのコール センターでは、コンピューター合成音声を使用して声紋を無効にしていました」と彼は言います。 「ビデオは現在、現代版のビジネス メール詐欺のようなものに使用されたり、誰かに決して言わなかったことを「言わせたり」して評判を傷つけたりするために使用されています。」
