AWS を使用した生成 AI への安全なアプローチ |アマゾン ウェブ サービス

生成人工知能 (AI) は、世界中の業界で顧客エクスペリエンスを変革しています。顧客は、ラージ言語モデル (LLM) やその他の基盤モデル (FM) を使用して生成 AI アプリケーションを構築しています。これにより、顧客エクスペリエンスが向上し、業務が変革され、従業員の生産性が向上し、新たな収益チャネルが創出されます。

FM とそれを中心に構築されたアプリケーションは、お客様にとって非常に価値のある投資となります。これらは、モデルの出力を最適化するために、個人データ、コンプライアンス データ、運用データ、財務情報などの機密性の高いビジネス データとともによく使用されます。生成 AI の利点を検討するお客様から寄せられる最大の懸念は、機密性の高いデータと投資をどのように保護するかということです。データとモデルの重みは非常に貴重であるため、顧客は、それが自分の管理者のアカウント、顧客、自分の環境で実行されているソフトウェアの脆弱性、さらにはクラウド サービス プロバイダーによるものであっても、保護、安全、プライバシーを維持することを要求しています。アクセス。

AWS では、お客様のワークロードのセキュリティと機密性を保護することが最優先事項です。私たちは、生成 AI スタックの 3 つの層全体のセキュリティについて考えています。

• 最下層 – LLM およびその他の FM を構築およびトレーニングするためのツールを提供します
• 中間層 – 生成 AI アプリケーションの構築と拡張に必要なツールとともに、すべてのモデルへのアクセスを提供します
• 上層 – LLM およびその他の FM を使用して、コードの作成とデバッグ、コンテンツの生成、洞察の導出、およびアクションの実行によってストレスのない作業を実現するアプリケーションが含まれます。

各レイヤーは、生成 AI を普及させ、変革をもたらすために重要です。

AWSNitroシステム、私たちはお客様に代わって、この種では初のイノベーションを提供しました。 Nitro System は、セキュリティとパフォーマンスを中核とした、AWS の比類のないコンピューティング バックボーンです。その特殊なハードウェアと関連ファームウェアは、AWS 内の誰もを含む誰もがワークロードや上で実行されているデータにアクセスできないように制限を適用するように設計されています。 アマゾン エラスティック コンピューティング クラウド (Amazon EC2) インスタンス。顧客は、2 年以来、すべての Nitro ベース EC2017 インスタンス上で、この機密性と AWS オペレーターからの隔離の恩恵を受けてきました。

設計上、Amazon 従業員が顧客がワークロードの実行に使用する Nitro EC2 インスタンスにアクセスしたり、顧客が機械学習 (ML) アクセラレーターまたは GPU に送信したデータにアクセスしたりするメカニズムはありません。この保護は、次のような ML アクセラレータを備えたインスタンスを含む、すべての Nitro ベースのインスタンスに適用されます。 AWSインフェレンティア および AWS トレーニング、および P4、P5、G5、G6 などの GPU を備えたインスタンス。

ニトロシステムが可能にするのは、 エラスティックファブリックアダプター（EFA）は、クラウド規模の弾力性のある大規模な分散トレーニング用に AWS が構築した AWS Scalable Reliable Datagram (SRD) 通信プロトコルを使用し、唯一の常時暗号化されたリモート ダイレクト メモリ アクセス (RDMA) 対応ネットワークを可能にします。 EFA を介したすべての通信は暗号化されます。 VPC 暗号化 パフォーマンス上のペナルティも発生しません。

ナイトロシステムの設計は、 NCCグループによる検証済み、独立系サイバーセキュリティ会社。 AWS は顧客のワークロードに対して高レベルの保護を提供しており、これが顧客がクラウドプロバイダーに期待すべきセキュリティと機密性のレベルであると考えています。このレベルの保護は非常に重要であるため、 AWS サービス規約 すべてのお客様にさらなる保証を提供するため。

AWS 業界をリードするセキュリティ機能を使用して安全な生成 AI ワークロードを革新

AWS AI インフラストラクチャとサービスには、初日からセキュリティとプライバシーの機能が組み込まれており、データを制御できます。顧客が組織内で生成型 AI の実装に向けて迅速に移行しているため、データの準備、トレーニング、推論を含む AI ライフサイクル全体にわたってデータが安全に処理されていることを認識する必要があります。モデルの重み (モデルが予測を行う能力に重要な、トレーニング中に学習するパラメーター) のセキュリティは、データを保護し、モデルの整合性を維持するために最も重要です。

このため、AWS がお客様に代わって革新を続け、生成 AI スタックの各レイヤー全体のセキュリティの基準を引き上げることが重要です。これを実現するには、生成 AI スタックの各層にわたってセキュリティと機密性を組み込む必要があると私たちは考えています。 LLM やその他の FM をトレーニングするためのインフラストラクチャを保護し、LLM やその他の FM を実行するツールを使用して安全に構築し、信頼できるセキュリティとプライバシーが組み込まれた FM を使用するアプリケーションを実行できる必要があります。

AWS では、AI インフラストラクチャの保護とは、インフラストラクチャオペレータまたは顧客のいずれかで、権限のない人物が AI モデルの重みやそれらのモデルで処理されたデータなどの機密 AI データにアクセスしないことを指します。これは 3 つの主要な原則で構成されています。

1. AIデータをインフラ運用者から完全に隔離 – インフラストラクチャ オペレータは、顧客コンテンツや AI データ (AI モデルの重みやモデルで処理されたデータなど) にアクセスする権限を持っていてはなりません。
2. 顧客が AI データを自分自身から分離できる機能 – インフラストラクチャは、顧客自身のユーザーやソフトウェアから隔離されアクセスできない状態を維持しながら、モデルの重みとデータをハードウェアにロードできるメカニズムを提供する必要があります。
3. 保護されたインフラストラクチャ通信 – ML アクセラレータ インフラストラクチャ内のデバイス間の通信は保護される必要があります。デバイス間の外部からアクセス可能なリンクはすべて暗号化する必要があります。

Nitro System は、AI データを AWS オペレーターから分離することで、セキュア AI インフラストラクチャの最初の原則を実現します。 2 番目の原則は、AI データに対する独自のユーザーおよびソフトウェアの管理アクセスを削除する方法を提供します。 AWS は、それを実現する方法を提供するだけでなく、次のような統合ソリューションの構築に投資することで、それを簡単かつ実用的にしました。 AWS Nitro エンクレーブ および AWSキー管理サービス (AWS KMS)。 Nitro Enclaves と AWS KMS を使用すると、所有および管理するキーを使用して機密 AI データを暗号化し、そのデータを選択した場所に保存し、暗号化されたデータを推論のために分離されたコンピューティング環境に安全に転送できます。このプロセス全体を通じて、機密 AI データは暗号化され、EC2 インスタンス上のユーザーやソフトウェアから隔離され、AWS オペレーターはこのデータにアクセスできません。このフローの恩恵を受けるユースケースには、以下のようなものがあります。 LLM 推論 飛び地で。今日まで、Nitro Enclave は CPU 内でのみ動作するため、より大規模な生成 AI モデルやより複雑な処理の可能性が制限されていました。

私たちは、この Nitro のエンドツーエンド暗号化フローを拡張して、ML アクセラレータおよび GPU との最高級の統合を組み込み、3 番目の原則を満たす計画を発表しました。機密の AI データを復号化して ML アクセラレータにロードして処理できるようになり、自社のオペレーターから隔離され、AI データの処理に使用されるアプリケーションの信頼性が検証されます。 Nitro System を通じて、アプリケーションを AWS KMS に対して暗号的に検証し、必要なチェックに合格した場合にのみデータを復号化できます。この機能強化により、AWS は生成 AI ワークロードを流れるデータに対してエンドツーエンドの暗号化を提供できるようになります。

このエンドツーエンドの暗号化フローは、AWS が設計した今後のサービスで提供される予定です。 トレイニウム2 また、NVIDIA の今後の Blackwell アーキテクチャに基づく GPU インスタンスもあり、どちらもセキュア AI インフラストラクチャの 21 番目の原則であるデバイス間の安全な通信を提供します。 AWS と NVIDIA は、NVIDIA の新しい NVIDIA Blackwell GPU 200 プラットフォームを含む共同ソリューションを市場に投入するために緊密に協力しています。これには、NVIDIA の GB72 NVLXNUMX ソリューションと Nitro System および EFA テクノロジが結合され、次の安全な構築とデプロイのための業界をリードするソリューションが提供されます。生成 AI アプリケーション。

生成的 AI セキュリティの未来を前進させる

現在、何万もの顧客が AWS を使用して、革新的な生成 AI アプリケーションを実験し、本番環境に移行しています。生成 AI ワークロードには、自社のオペレーターやクラウド サービス プロバイダーによる一定レベルの保護を必要とする、非常に貴重な機密データが含まれています。 AWS Nitro ベースの EC2 インスタンスを使用しているお客様は、革新的な Nitro システムを発表した 2017 年以来、AWS オペレーターからこのレベルの保護と隔離を受けてきました。

AWS では、お客様が生成 AI スタックの 3 つのレイヤー全体で生成 AI ワークロードを保護できるようにするために、パフォーマンスが高くアクセスしやすい機能の構築に投資しながら、そのイノベーションを継続し、お客様が業務に集中できるようにします。最善の方法は、生成 AI の用途を構築し、より多くの分野に拡張することです。もっと詳しく知る こちら.

---

著者について

Anthony Liguori は AWS 副社長および EC2 の優秀なエンジニアです

Colm MacCárthaigh は、AWS 副社長および EC2 の優秀なエンジニアです。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/