AI の黄金時代…それともセキュリティの脅威?

私たちは人工知能の黄金時代にいるのでしょうか? 予測するのは困難であり、おそらく賢明ではありません。 このような新しいテクノロジーの将来を誰が予測したいでしょうか?

しかし、確かに言えることもいくつかあります。 声優から脚本の初稿に至るまで、クリエイティブな作品への AI の応用が盛んに行われています。 しかし、AI が最も役立つのは単調な仕事に対処する場合だろう。 この約束が初期の実験と一致するのであれば、これは開発者にとって朗報です。コードの最初のドラフトは簡単に作成でき、開発者が調整して反復する準備ができています。

ただし、それを覚えておくことが重要です すべてのプログラマーが合法的な企業で働いているわけではありません。 サイバーセキュリティの脅威アクターがターゲットを模倣してビジネスライクになるのと同じように、新しいテクノロジーやテクニックも採用しています。 AI の黄金時代を迎えているかどうかに関係なく、今後数年間で AI がマルウェアやその他の脅威の開発に役立つことが期待できます。

コードの草案と詐欺

近年見られる傾向の XNUMX つは、「as-a-service」サービスの台頭です。 初期のハッカーはいじくり回しやいたずら好きで、主に娯楽として電話システムを騙したり混乱を引き起こしたりしていました。 これは根本的に変わりました。 脅威アクターはプロであり、他の人が使用できるように製品を販売することがよくあります。

AI はこの働き方に非常にうまく適合します。 特定の問題に対処するコードを作成できる AI は、コードを修正して脆弱性をターゲットにしたり、既存のコードを取得して変更したりできるため、特定のパターンを探すセキュリティ対策によって簡単に検出されなくなります。

しかし、AIが悪用される可能性はそれだけではありません。 多くのフィッシングメールは効果的なフィルタリングツールによって検出され、最終的に迷惑メールフォルダーに振り分けられます。 受信箱に届くものは、ほとんどが明らかに詐欺であり、理解できないほどひどい内容で書かれています。 しかし、AI はこのパターンを打ち破り、検出を回避でき、フィルターとエンド ユーザーの両方を欺くのに十分に巧妙に作成された、もっともらしい電子メールを何千件も作成する可能性があります。

この攻撃のより標的を絞った形態であるスピアフィッシングも、この技術によって革命が起こる可能性があります。 確かに、現金を送金するかギフトカードを緊急に購入するように求める上司からのメールを無視するのは簡単です。サイバーセキュリティ トレーニングは、従業員がこの種の詐欺を回避するのに役立ちます。 しかし、ディープフェイクの電話やビデオチャットについてはどうでしょうか? AI には、放送出演やポッドキャストを取り入れて、無視するのがはるかに困難な、説得力のある模倣物に変える可能性があります。

AI サイバー攻撃への反撃

AI が敵に与える利益に反撃するには、主に XNUMX つの方法があります。 より優れた AI とより優れたトレーニング — そして両方が必要になります。

この新世代の AI の出現により、新たな軍拡競争が始まりました。 サイバー犯罪者が攻撃を進化させるためにそれを使用するように、セキュリティ チームも防御を進化させるためにそれを使用する必要があります。

AI がなければ、防御は過労状態の人々と、攻撃を防ぐための事前にプログラムされた特定のパターンの監視に依存します。 AI 防御ツールは、攻撃ベクトルを予測し、ネットワークやシステムの敏感な領域を正確に特定できるようになります。 また、悪意のあるコードを分析できるようになり、新たな攻撃がどのように機能し、どのように防ぐことができるかをより深く理解できるようになります。

AI は、いざというときには緊急停止として機能し、侵害を検出するとネットワークを無効にしてシステム全体をロックダウンすることもできます。 ビジネス継続性の観点からは理想的ではありませんが、これはデータ侵害よりもはるかに被害が少ない可能性があります。

しかし、AI で AI と戦うことが唯一の答えではありません。 人間の知性も必要です。 どれほど賢くてターゲットを絞ったものであっても、フィッシング攻撃に対する最善の防御策は、何を探すべきかを知っており、餌に乗らないほど疑念を抱いている従業員または顧客であることです。 堅牢なセキュリティ ポリシーの実装とサイバー衛生のベスト プラクティスが、攻撃から防御する鍵となります。

これは、AI 攻撃の兆候が何であれ、トレーニングを更新して AI 攻撃の兆候を含める必要があることを意味します。 トレーニングは AI によって進化する必要があります。トレーニングがすぐに時代遅れになると、数年ごとに XNUMX 回のトレーニング コースを受講しても効果はなくなります。

AI によるサイバー攻撃の可能性のある兆候は急速に変化していますが、一般的に攻撃は次のとおりです。

• 高速かつスケーラブル、短期間に複数の脆弱性を悪用します。
• 適応性と回避性、検出と対応を回避するために戦術とテクニックを変更します。
• ターゲットを絞ったパーソナライズされた、AI を使用して説得力のあるフィッシング メールやソーシャル エンジニアリング キャンペーンを作成します。
• 欺瞞的で操作的、AI を使用して、ディープフェイク、音声クローン、テキスト生成などの偽または改変されたコンテンツを作成します。
• ステルス性と持続性、ネットワークインフラに気づかれずに長い間隠れています。

これらの兆候はすべてを網羅しているわけではなく、一部の AI 主導の攻撃ではすべての兆候が示されない場合があります。 ただし、それらが示すのは、 AI がサイバーセキュリティにもたらす脅威のレベル.

AI によるサイバー攻撃に効果的に対抗するには、企業は個々の攻撃者を超えて考え、AI を使用してリスクベースのアプローチで高度なキャンペーンを開始する可能性のある国家支援の攻撃者や犯罪組織による組織的な攻撃に備える必要があります。 また、 積極的な戦略 これには、定期的なセキュリティ監査、バックアップ、暗号化、インシデント対応計画が含まれます。 これを最も簡単に実現するには、PCI-DSS などのよく知られたセキュリティ認証を取得します。

最後に、組織は、AI システムの整合性、機密性、可用性を確保し、敵対的攻撃、データ ポイズニング、モデル盗用のリスクを軽減することによって、自社の AI システムのサイバーセキュリティを向上させることが不可欠です。

これらの戦略はビジネスの保護に役立ちますが、単独で行うべきではなく、セキュリティは協調的に行われる必要があります。 他の組織、研究者、当局と協力して情報、ベスト プラクティス、失敗から学ぶことができるものを共有することで、企業は AI セキュリティの脅威の新たな波に対してより適切に備えることができます。

AI は新しい脅威であると同時に、古い脅威の継続でもあります。 サイバー脅威がより高度になり、より多くなるにつれて、企業はサイバー脅威への対処方法を進化させる必要がありますが、基本的な部分の多くは変わっていません。 これらを正しく行うことが依然として重要です。 セキュリティ チームは古いアイデアから脱却する必要はありませんが、ビジネスを安全に保つためにそれらのアイデアに基づいて構築する必要があります。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
• 情報源： https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-