AI による脅威は虚偽か現実か?

AI による脅威は虚偽か現実か?

タイムスタンプ：24年2023月4日05:XNUMX
AI による脅威は虚偽か現実か? PlatoBlockchain データ インテリジェンス。垂直検索。あい。

生成 AI アプリケーションが市場に登場した瞬間、セキュリティ チームだけでなくサイバー犯罪者にとってもビジネスのペースが変わりました。今日、AI イノベーションを受け入れないと、競合他社に遅れをとり、AI によるサイバー攻撃に対してサイバー防御が不利になる可能性があります。しかし、AI がサイバー犯罪にどのような影響を与えるのか、与えないのかを議論するときは、SF のような誇大広告に騙されず、現実的かつ冷静な視点で物事を見ることが重要です。

今日の AI の進歩と成熟は、企業のセキュリティが大きく前進することを示しています。サイバー犯罪者は企業のリソース、スキル、モチベーションの規模や規模に簡単に匹敵することができないため、現在の AI イノベーションのスピードに追いつくことが難しくなります。 AIへの民間ベンチャー投資 爆発しました 93.5 年には 2021 億ドルに達します。悪者にはそのレベルの資本はありません。また、営利企業や政府が素早く失敗し、素早く学び、最初に正しく対処するためのより多くの時間と機会を与える人的資源、コンピューティング能力、イノベーションも持っていません。

ただし、誤解しないでください。サイバー犯罪は必ず追いつくでしょう。セキュリティ業界が一時的な優位に立ったのはこれが初めてではありません。ランサムウェアのせいで、より多くの防御者がエンドポイントの検出および対応テクノロジーを採用し始めたとき、攻撃者はこれらの検出を回避および回避する方法を見つけるのに時間がかかりました。この暫定的な「猶予期間」により、企業には次のことを行う時間が与えられました。 自分自身をよりよく守る。同じことが現在も当てはまります。企業は、脅威の検出と対応能力を向上させ、現在の AI イノベーションがもたらすスピードと精度を活用して、AI 競争における優位性を最大限に高める必要があります。

では、AI はサイバー犯罪をどのように変えているのでしょうか?まあ、すぐに大幅に変わるわけではありませんが、場合によっては規模が拡大します。 AI の悪意のある使用が直ちに影響を与える場合とそうでない場合を見てみましょう。

完全に自動化されたマルウェア キャンペーン: FUD

ここ数カ月間、AI のさまざまな悪意のある使用例に関する主張を目にしましたが、シナリオが可能であるからといって、それが可能であるとは限りません。たとえば、完全に自動化されたマルウェア キャンペーンを考えてみましょう。論理的には AI を活用してその結果を達成することが可能ですが、大手テクノロジー企業が完全に自動化されたソフトウェア開発サイクルをまだ先駆けていないことを考えると、資金的に制約のあるサイバー犯罪グループがこれをより早く達成する可能性は低いと考えられます。 。部分的な自動化でもサイバー犯罪の拡大を可能にする可能性はありますが、この戦術はすでに使用されているのを目にしています。 バザールキャンペーン。これはイノベーションではなく、 実証済みのテクニック ディフェンダーはすでにそれに取り組んでいます。

AI を利用したフィッシング: 現実 (ただしコンテキストが重要)

考慮すべきもう 1 つのユースケースは、AI を利用したフィッシング攻撃です。これは可能であるだけでなく、すでにこのような攻撃が実際に行われ始めています。この次世代のフィッシングは、より高いレベルの説得力とクリック率を達成する可能性がありますが、人間が操作したフィッシングと AI が操作したフィッシングは依然として同じ目標に向かって進んでいます。言い換えれば、AI によって設計されたフィッシングは依然としてクリックを検索するフィッシングであり、同じ検出と対応の準備が必要です。

しかし、問題は同じままですが、規模は大きく異なります。 AI はフィッシング キャンペーンを拡大するための強力な要素として機能するため、企業がフィッシング メールの受信数の急増を確認しており、その悪意のあるメールの説得力が大幅に高い場合は、高いクリック率の確率と侵害の可能性を検討している可能性があります。 AI モデルはターゲティングの有効性を高めることもでき、攻撃者が組織内で特定のフィッシングの最も影響を受けやすいターゲットを判断するのに役立ち、最終的にはキャンペーンからより高い ROI を達成できます。フィッシング攻撃は、歴史的に、攻撃者が企業に侵入するために使用した戦術の中で最も成功したものの 1 つです。この種の攻撃の拡大は、影響が及ぶ前に異常な動作を検出する上で EDR、MDR、XDR、および IAM テクノロジーが果たす重要な役割を強調しています。

AI ポイズニング攻撃: FUD っぽい

AI中毒攻撃言い換えれば、AI モデルが構築されるコードとデータをプログラムで操作することは、サイバー犯罪者にとって攻撃の「聖杯」となる可能性があります。ポイズニング攻撃が成功した場合の影響は、誤報の試みから、 ハード4.0ダイ。なぜ？なぜなら、攻撃者はモデルを汚染することで、モデルを思いどおりに動作させたり機能させたりすることができ、しかもそれは簡単には検出できないからです。ただし、これらの攻撃を実行するのは簡単ではありません。トレーニング時に AI モデルがトレーニングしているデータにアクセスする必要があり、これは簡単な作業ではありません。より多くのモデルがオープンソースになるにつれて、これらの攻撃のリスクは増加しますが、当面は低いままです。

不明

誇大広告と現実を区別することは重要ですが、脅威の状況に対する AI の影響について正しい質問をしていることを確認することも重要です。 AI の可能性については不明な点がたくさんあります。AI が敵の目標や目的をどのように変える可能性があるかは、私たちが見落とすべきではありません。新しい能力が敵にとって新しい目的を果たし、動機を再調整するのにどのように役立つのかはまだ不明です。

AI を利用した新たな攻撃が直ちに急増するわけではありませんが、AI によるサイバー犯罪の拡大は、準備ができていない組織に大きな影響を与えるでしょう。スピードとスケールは AI の本質的な特性であり、防御側がそれらから利益を得ようとしているのと同じように、攻撃側も同様です。セキュリティ チームはすでに人員が不足しており、圧倒されています。悪意のあるトラフィックやインシデント対応業務が急増すると、その作業負荷が大幅に増加します。

このことは、企業が防御に投資する必要性をこれまで以上に再確認しています。 AI を使用して速度と精度を向上させる 脅威の検出と対応能力において。この「猶予期間」を活用する企業は、実際に攻撃者が AI サイバー競争に追いつく日に対して、はるかに準備が整い、回復力が高まるでしょう。

タイムスタンプ：

より多くの 暗い読書