テクノロジー大手が人工知能を大衆に提供し、急成長する市場を独占しようと競い合う中、AIの軍拡競争が「ディープフェイク」動画や音声の増加に拍車をかけている。ディープフェイクとは、多くの場合、いかにも合法的に見えたり聞こえたりするコンテンツだが、実際には詐欺的な虚偽表示だ。 そして、新しいレポートによると、それらはビジネスにも影響を与えています。
ディープフェイクとは、人々を欺くために操作された画像、ビデオ、音声などの AI によって生成された作品です。 詐欺師はディープフェイクを詐欺に使用します。 ゆすり、または名誉を毀損すること。 の普及 generative AI ツールの登場により、詐欺師はこれまで以上に簡単に偽のコンテンツを作成できるようになりました。
有名人やその他の著名人が、同意なしに人工的、時には露骨な映像に挿入され、時にはウイルス的に拡散したり、ソーシャルメディアでパニックを引き起こしたりすることがあります。 に提供されたレポートでは、 解読する, 世界的な会計事務所 KPMG ビジネス部門もディープフェイクの脅威から免れないわけではないと書いています。
KPMGは、ディープフェイクコンテンツは企業を標的としたソーシャルエンジニアリング攻撃やその他の種類のサイバー攻撃に使用される可能性がある一方、そのようなコンテンツは企業やそのリーダーの評判に影響を与える可能性があると述べている。 企業代表者の虚偽の表明は、顧客を騙したり、従業員に情報を提供したり違法行為者に送金するよう説得したりする計画にも使用される可能性があります。
KPMG 2020年の例を挙げた 香港の会社の支店長が、上司が電話中で命令をしていると信じ込み、だまされて35万ドル相当の会社資金を詐欺師に送金させられたという話。代わりに、それは監督者の声を AI で複製したもので、すべて会社からお金をだまし取るための精巧な計画の一部でした。
「合成コンテンツ（悪意のある目的で生成または操作されたデジタルコンテンツ）を利用したサイバー攻撃の結果は、莫大で多額の費用がかかる可能性があり、特に財務、評判、サービス、地政学的など、さまざまな社会経済的影響を与える可能性があります。」報告書にはこう書かれている。
ドナルド・トランプ大統領のディープフェイク映像 逮捕された 今年の初め、 フランシスコ バレンシアガの高級アパレルを着て、 イーロン·マスク 進化する AI ツールのおかげでディープフェイク技術が向上したため、昨年は暗号通貨詐欺の宣伝が急速に広まりました。
「チープフェイクであろうとディープフェイクであろうと、生成AIモデルのせいで経済モデルは大きく変化した」とKPMGは書いている。
上記の公人以外にも、女優のエマ・ワトソンやミュージシャンのテイラー・スウィフトなど、肖像が盗まれ、偽造映像に利用された著名人もいる。 しかし、KPMGが警鐘を鳴らしているのは、企業や、時には著名なリーダーたちへの潜在的な影響だ。
「リスク要因として、ディープフェイクコンテンツは単にソーシャルメディア、出会い系サイト、エンターテインメント業界にとっての懸念事項ではなく、今や取締役会の問題となっている」とKPMGは述べた。 「その好例として、複数の業界および地域の幹部 92 名を対象とした最近の KPMG 生成 AI 調査のほぼすべての回答者 (300%) が、生成 AI の導入のリスクについての懸念は中程度から非常に重大であると述べています。」
インターネット上のディープフェイク動画の質と数の両方の増加に対処しているのは企業や有名人だけではありません。 政府や規制当局は社会や選挙への潜在的な影響も考慮しており、そのような AI ツールの作成者は潜在的な悪影響を検討しています。
先週、米国連邦選挙委員会は、2024 年の選挙でディープフェイクが使用されることを予期し、次のような取り組みを進めました。 請願 キャンペーン広告での人工知能の使用を禁止する。
承認されれば、同庁は「キャンペーン権限」の不正表示に関する現在の規制を改正し、意図的に欺瞞的なAIキャンペーン広告にも禁止事項が適用されることを明確にすることになる。
「規制当局は、進化する脅威が既存の規制に及ぼす影響を理解し、検討し続ける必要がある」とKPMGサイバーセキュリティサービスプリンシパルのマシュー・ミラー氏は語った。 解読する。 「AI が生成したコンテンツのラベル付けと透かし入れに関する提案された要件は、プラスの影響を与える可能性があります。」
XNUMX月にMITの研究者らは、 提案された 大規模な拡散モデルにコード変更を加えてディープフェイクのリスクを軽減します。目に見えにくい小さな変更を追加することで、最終的にはモデルの動作方法が変わり、本物に見えない画像が生成されます。 一方、メタは最近、 AIツールを抑制した ディープフェイクの可能性があるため。
生成 AI ツールの創造的な可能性に対する興奮は、それらのツールが同様に悪意のあるコンテンツの機会を生み出す可能性があるという認識によって和らげられています。 最終的に、このようなツールが急速に改良される中、ミラー氏は偽コンテンツの可能性について警戒するよう全員に呼び掛けた。
「国民はデジタルチャネルを通じて交流する際、継続的な警戒を続ける必要がある」と彼は語った。 解読する。 「状況認識と常識は、事件の発生を防ぐのに大いに役立ちます。 何かが「正しく感じられない」場合、それは悪意のある活動である可能性が高くなります。」
暗号ニュースを常に把握し、受信トレイで毎日更新を入手してください。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- チャートプライム。 ChartPrime でトレーディング ゲームをレベルアップしましょう。 こちらからアクセスしてください。
- ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
- 情報源： https://decrypt.co/153794/ai-deepfakes-threat-businesses-too-heres-why
