AI の約束と危険をめぐりセキュリティへの圧力が高まる

BLACK HAT USA – ラスベガス – 11月XNUMX日金曜日 – 人工知能 (AI) はテクノロジーの世界では新しいものではありませんが、ChatGPT や同様の製品により、ラボ環境や Siri のようなユースケースを超えて人工知能 (AI) が推進されているため、セキュリティ実務者は次のことを行う必要があると、Azeria Labs の創設者兼 CEO の Maria 'Azeria' Markstedter 氏は述べています。その進化が彼らの日常の現実にどのような影響を与えるかに注意してください。

彼女は冗談めかして、AIは現在、排除されないよう時間と競い合っている大手テクノロジー企業の安全な手にあると主張した。 OpenAI が ChatGPT モデルをリリース 他の企業が遠慮する一方で。 "と ChatGPTの台頭、Googleの平時アプローチは終わり、誰もが飛びつきました」と彼女は今週Black Hat USAの基調講演ステージから語った。

お金の行き先を確認する

企業はAIに何百万ドルもの資金を投資しているが、世界が新しいタイプのテクノロジーに移行するたびに、「セキュリティが進歩を遅らせるため、企業軍備競争は安全性やセキュリティへの懸念によって引き起こされるわけではない」。

彼女はユースケースについて次のように述べました。 AIを統合する 特に市場を支配する企業は進化しており、多額の利益を上げ始めています。 ただし、「それを打破するクリエイターたちそしてそれを修正し、最終的には今後のユースケースでテクノロジーが私たちの目の前で爆発するのを防ぎます。」

同氏は、企業は少々不合理な熱狂を経験している可能性があると付け加えた。 「現在、あらゆる企業がAIビジネスのサンプルマシンになりたいと考えており、企業がこれらのツールを活用してAIを統合する方法は、脅威モデルに大きな影響を与えるだろう」と彼女は述べた。 しかし、AI の急速な導入は、サイバー脅威モデル全体に​​対する AI の影響が依然として未知であることを意味します。

ChatGPT 脅威の台頭

それを認める AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 マークシュテッター氏は、「過去XNUMXか月間、逃れるのはかなり困難だった」と述べ、ユーザーの急増により、一部の企業がアクセスを制限したと述べた。 OpenAI はブラックボックスであり、ChatGPT にフィードするものはすべて OpenAI データセットの一部となるため、企業は懐疑的だと彼女は言いました。

彼女は次のように述べています。「企業は機密データを外部プロバイダーに漏洩したくないので、 従業員の禁止 ChatGPT を仕事に使用することはなくなりましたが、どの企業も依然として従業員向けの製品やサービスを AI で強化したいと考えており、さらにはそうするよう圧力をかけられています。 彼らは機密データを信頼していないだけです…データセットの一部を構成できる外部プロバイダー。」

ただし、OpenAI の開発と統合に重点が置かれ、速いペースで行われるため、セキュリティ担当者は急速に進化する必要があります。

「したがって、私たちの組織がこれらのものを使用する方法は、非常に急速に変化しています。ブラウザーで確認するものから、企業が独自のインフラストラクチャに統合するもの、そして間もなく私たちのオペレーティングシステムとモバイルデバイスにネイティブになるものへ。 、" 彼女は言いました。

産業のチャンス

マークステッター氏は、AIとサイバーセキュリティの最大の問題は、その知識を備えた人材が不足していることだと述べた。 スキルと知識 これらのシステムを評価し、必要なガードレールを作成します。 「つまり、これらの小さな課題からすでに新しい仕事の形が生まれています」と彼女は言いました。

最後に、Markstedter 氏は XNUMX つの要点を強調しました。まず、AI システムとそのユースケースと機能が進化していること。 XNUMX つ目は、自律型 AI エージェントが企業内で現実になる可能性を真剣に考える必要があるということです。 第三に、アイデンティティとアプリに関する概念を再考する必要があるということです。 そして第四に、データセキュリティに関する概念を再考する必要があります。

「したがって、これらの新たな問題に対処するには、私たちのシステムと脅威モデルを変えているテクノロジーそのものについて学ぶ必要があり、テクノロジーの変化は私たちにとって新しいことではありません」と彼女は述べた。 「私たちには、以前の問題を解決する方法を教えたマニュアルがありません。 私たちは皆、何らかの形で独学で学んでいますが、今、私たちの業界には、完全な考え方を持ったクリエイティブな人々が集まっています。 したがって、私たちは新しいシステムを研究し、それを打ち破る創造的な方法を見つける方法を知っています。」

彼女は、これは私たち自身、安全保障体制、防衛手段を再発明するチャンスだと締めくくった。 「安全保障上の課題による次の危険に備えて、私たちはコミュニティとして団結し、この分野の研究を促進する必要があります」と彼女は言いました。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• チャートプライム。 ChartPrime でトレーディング ゲームをレベルアップしましょう。 こちらからアクセスしてください。
• ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
• 情報源： https://www.darkreading.com/threat-intelligence/security-pressure-mounts-ai-promises-peril