ChatGPT脱獄フォーラムがダークウェブコミュニティで急増

ChatGPT のような生成 AI ツールの武器化 みんなが待っていた ゆっくりと、 ゆっくり 形になり始めています。 オンライン コミュニティでは、好奇心旺盛な猫たちが ChatGPT の倫理ルールを破る新しい方法 (一般に「脱獄」として知られる) について協力しており、ハッカーたちは悪意のある目的のために大規模言語モデル (LLM) を活用または作成するための新しいツールのネットワークを開発しています。

地上と同様に、ChatGPT は地下フォーラムでも熱狂を引き起こしているようです。 XNUMX 月以来、ハッカーたちは新しく独創的なものを探し続けています。 ChatGPT を操作するよう求めるプロンプト, 悪意のある目的のために再利用できるオープンソース LLM. 

SlashNext の新しいブログによると、その結果、まだ初期段階ではあるが繁栄している LLM ハッキング コミュニティが誕生し、多くの賢いプロンプトを備えています。 AI を利用したマルウェアは少し考えてみる価値があります.

ハッカーが AI LLM を使って何をしているのか

迅速なエンジニアリング これには、チャットボットを操作することを目的とした ChatGPT などのチャットボットに巧妙な質問をし、モデルが気づかないうちにマルウェアの作成などに対するプログラムされたルールを破らせることが含まれます。 SlashNext の CEO、パトリック・ハー氏は、これは強引な行為だと説明します。「ハッカーはガードレールの周囲を調べようとしているだけです。 エッジとは何ですか? 私はプロンプトを継続的に変更し、自分が望むことを実行するためにさまざまな方法で質問するだけです。」

これは非常に面倒な作業であり、全員が同じターゲットを攻撃するため、ヒントやコツを共有する健全な規模のオンライン コミュニティがこの実践を中心に形成されるのは当然のことです。 これらのジェイルブレイク コミュニティのメンバーは、お互いに背中をかいて、ChatGPT をクラックして、開発者が意図したことを実行できるように助け合っています。

ただし、問題のチャットボットが ChatGPT と同じくらい復元力を持って構築されている場合、プロンプト エンジニアが派手な言葉遊びで達成できることは限られています。 したがって、より憂慮すべき傾向は、マルウェア開発者が独自の極悪な目的のために LLM をプログラムし始めていることです。

WormGPT と悪意のある LLM の迫りくる脅威

と呼ばれるオファリング ワームGPT 悪意のある LLM 現象を開始するために XNUMX 月に登場しました。 これは、BEC、マルウェア、フィッシング攻撃などの悪意のある活動のために特別に設計された GPT モデルのブラックハット代替品であり、「ChatGPT のようなものですが、倫理的な境界や制限はありません」アンダーグラウンド フォーラムで販売されています。 WormGPT の作成者は、サイバー攻撃に関連するデータに重点​​を置き、さまざまなデータ ソースでトレーニングされたカスタム言語モデルに基づいて構築したと主張しました。

「ハッカーにとってこれが意味することは」とハー氏は説明します。「ビジネスメール侵害 (BEC) やフィッシング攻撃、マルウェア攻撃などを、最小限のコストで大規模に実行できるようになりました。 そして、以前よりもはるかにターゲットを絞れるようになりました。」

WormGPT 以来、多数の同様の製品が怪しげなオンライン コミュニティで暴れ回っています。 不正GPTを含むこれは、Empire、WHM、Torrez、World、AlphaBay、Versus など、さまざまなアンダーグラウンド ダークウェブ マーケットプレイスの検証済みベンダーであると主張する脅威アクターによって、「制限、ルール、および境界のないボット」として宣伝されています。 そしてXNUMX月には、 DarkBART および DarkBERT サイバー犯罪用チャットボットは、Google Bard をベースにしており、当時の研究者らは、画像用の Google レンズの統合やサイバーアンダーグラウンドの知識ベース全体への即時アクセスなど、敵対的 AI の大きな進歩を示すものであると述べていました。

SlashNext によると、これらは現在急増しており、その大部分は OpenAI の OpenGPT などのオープンソース モデルに基づいて構築されています。 スキルの低い多数のハッカーは、単純にそれをカスタマイズし、ラッパーで偽装し、漠然と不気味な「___GPT」という名前 (「BadGPT」、「DarkGPT」など) を付けます。 ただし、これらの古いサービスでもコミュニティ内での地位を確立しており、制限がほとんどなく、ユーザーに完全な匿名性を提供します。

次世代 AI サイバー兵器に対する防御

SlashNext によると、WormGPT もその子孫も、プロンプト エンジニアも、まだ企業にそれほど重大な危険をもたらしていません。 それでも、アンダーグラウンドの脱獄市場の台頭は、より多くのツールがサイバー犯罪者に利用可能になっていることを意味しており、これはソーシャル エンジニアリングとそれに対する防御方法に大きな変化をもたらす前兆となっています。 

Harr 氏は次のようにアドバイスしています。「トレーニングに依存しないでください。これらの攻撃は非常に特異的で、非常に標的を絞ったものであり、以前よりもさらにその傾向が強くなっています。」

むしろ、AI の脅威には AI による保護が必要であるという一般に合意された見解に同意しています。 「これらの脅威を検出、予測し、ブロックする AI ツールがなければ、外から覗いていることになるでしょう」と彼は言います。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• チャートプライム。 ChartPrime でトレーディング ゲームをレベルアップしましょう。 こちらからアクセスしてください。
• ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
• 情報源： https://www.darkreading.com/application-security/chatgpt-jailbreaking-forums-dark-web-communities