人工知能 (AI) と機械学習 (ML) は、ビジネスや社会の問題に取り組み、カスタマー エクスペリエンスを改善し、イノベーションを促進するために、私たちの世代が遭遇する最も革新的なテクノロジの一部です。 AI の普及と規模の拡大に伴い、私たち全員が責任を持って構築しなければならないという認識が生まれています。 AWS では、責任ある AI には次のような多くの主要な側面が含まれると考えています。
- 公平性とバイアス– システムがユーザーのさまざまな部分母集団にどのように影響するか (性別、民族など)
- 説明可能– AI システムの出力を理解し、評価するメカニズム
- プライバシーとセキュリティ– 盗難や漏洩から保護されたデータ
- 堅牢性– AI システムが確実に動作するためのメカニズム
- ガバナンス– 組織内で責任ある AI プラクティスを定義、実装、実施するプロセス
- 透明性– 利害関係者がシステムの使用について情報に基づいた選択を行えるように、AI システムに関する情報を伝達する
責任ある方法で AI と ML を開発するという Google の取り組みは、Google がサービスを構築し、顧客と関わり、イノベーションを推進する方法に不可欠です。 また、完全に管理された開発環境で ML ビルダーを有効にすることから、顧客が AI サービスを一般的なビジネス ユース ケースに組み込むのを支援することまで、AI/ML を責任を持って開発および使用するためのツールとリソースを顧客に提供することにも取り組んでいます。
顧客に透明性を提供する
お客様は、使用しているテクノロジーが責任ある方法で開発されたことを知りたがっています。 彼らは、自分の組織で責任を持ってそのテクノロジを実装するためのリソースとガイダンスを求めています。 そして最も重要なことは、展開するテクノロジがすべての人、特にエンド ユーザーの利益になるようにしたいということです。 AWS では、彼らがこのビジョンを実現できるよう支援したいと考えています。
お客様が求めている透明性を提供するために、私たちは立ち上げることを楽しみにしています AWS AI サービス カードは、お客様が AWS AI サービスをよりよく理解するのに役立つ新しいリソースです。 AI サービス カードは、責任ある AI ドキュメントの形式であり、意図したユース ケースと制限、責任ある AI 設計の選択、AI サービスの展開とパフォーマンスの最適化のベスト プラクティスに関する情報を 2022 か所で見つけることができる場所をお客様に提供します。 これらは、公平性と偏見、説明可能性、堅牢性、ガバナンス、透明性、プライバシー、およびセキュリティに対処する責任ある方法でサービスを構築するために私たちが引き受ける包括的な開発プロセスの一部です。 AWS re:Invent XNUMX では、最初の XNUMX つの AI サービス カードを利用できるようにします。 Amazon Rekognition – 顔照合, Amazon Textract – AnalyzeID, Amazon Transcribe – バッチ (英語 - 米国)。
AI サービス カードのコンポーネント
各 AI サービス カードには、以下をカバーする XNUMX つのセクションがあります。
- お客様がサービスまたはサービスの機能をよりよく理解するのに役立つ基本的な概念
- 使用目的と制限事項
- 責任ある AI 設計に関する考慮事項
- 展開とパフォーマンスの最適化に関するガイダンス
AI サービス カードの内容は、AI サービスの責任ある設計と使用における重要な考慮事項をよりよく理解しようとする、幅広い顧客、技術者、研究者、およびその他の利害関係者を対象としています。
当社のお客様は、ますます多様化する一連のアプリケーションで AI を使用しています。 の 意図したユースケースと制限セクション サービスの一般的な用途に関する情報を提供し、サービスがアプリケーションに適しているかどうかを顧客が評価するのに役立ちます。 たとえば、Amazon Transcribe – Batch (English-US) Card では、音声ファイルから米国英語で話されている一般的な語彙を書き起こすサービスのユースケースについて説明しています。 企業が国際的な神経科学会議などのドメイン固有のイベントを自動的に書き起こすソリューションを必要とする場合、カスタム語彙と言語モデルを追加して、科学的な語彙を含めることで、書き起こしの精度を高めることができます。
設計課 各 AI サービス カードの説明では、テスト主導の方法論、公平性とバイアス、説明可能性、パフォーマンスの期待など、重要な領域にわたる責任ある AI 設計の重要な考慮事項について説明します。 一般的なユースケースを代表する評価データセットのパフォーマンス結果の例を提供します。 ただし、この例は出発点にすぎません。エンド カスタマーに最高のエクスペリエンスを提供するために、独自のデータセットでテストして、独自のコンテンツとユース ケースでサービスがどのように機能するかをよりよく理解することをお勧めします。 また、これは XNUMX 回限りの評価ではありません。 責任ある方法で構築するために、お客様が定期的にアプリケーションをテストして正確性や潜在的なバイアスを評価する反復的なアプローチをお勧めします。
展開とパフォーマンスの最適化セクションのベスト プラクティスでは、実際の展開に向けてアプリケーションのパフォーマンスを最適化するためにお客様が検討すべき重要な手段を示します。 アプリケーション全体またはワークフローのコンポーネントとして機能する AI システムのパフォーマンスを顧客が最適化して最大の利益を得る方法を説明することが重要です。 たとえば、本人確認アプリケーションへの顔認識機能の追加について説明している Amazon Rekognition Face Matching Card では、ワークフローに組み込まれた顔照合予測の品質を向上させるためにお客様が実行できる手順を共有しています。
責任ある AI リソースと機能を提供する
責任ある AI を理論から実践に移行するために必要なリソースとツールをお客様に提供することは、AWS の継続的な優先事項です。 今年初めに 機械学習ガイドの責任ある使用 ML ライフサイクルのすべてのフェーズで責任を持って ML を使用するための考慮事項と推奨事項を提供します。 AI サービス カードは、サービス機能の説明とサービス API の使用に関する詳細な手順をビルダーに提供する既存の開発者ガイドとブログ投稿を補完します。 そして Amazon SageMaker の明確化 & Amazon SageMakerモデルモニター、データセットとモデルの偏りを検出し、自動化と人間による監視を通じてモデル予測をより適切に監視および確認するのに役立つ機能を提供します。
同時に、ガバナンスなどの他の重要な側面にわたって責任ある AI を推進し続けます。 本日の re:Invent で、Amazon SageMaker Role Manager、Amazon SageMaker Model Cards、および Amazon SageMaker Model Dashboard を使用して、顧客が ML プロジェクトのガバナンスを改善するのに役立つ新しい専用ツールのセットを発表しました。 詳細については、 AWS ニュースブログ & ウェブサイト これらのツールが ML ガバナンス プロセスの合理化にどのように役立つかについて説明します。
教育は、責任ある AI の進歩に役立つもう XNUMX つの重要なリソースです。 AWS では、AI および ML 奨学金プログラムと AI の次世代の開発者とデータ サイエンティストの育成に取り組んでいます。 AWS 機械学習ユニバーシティ (MLU)。 今週の re:Invent で、公平性に関する考慮事項と ML ライフサイクル全体のバイアス緩和に関する新しい公開 MLU コースを開始しました。 AWS の従業員に ML のトレーニングを行っているのと同じ Amazon データ サイエンティストが指導するこの無料コースは、9 時間の講義と実践的な演習で構成されており、簡単に学習できます。 始めましょう。
AI サービス カード: 新しいリソースと継続的な取り組み
AWS AI サービスを責任ある方法で構築するための厳格なアプローチに基づいて、新しい透明性リソースをお客様とより広いコミュニティに提供し、AI サービスの使用目的、制限、設計、および最適化に関する追加情報を提供できることを嬉しく思います。 . 私たちは、AI サービス カードが有用な透明性リソースとして機能し、責任ある AI の進化する状況における重要なステップとして機能することを願っています。 AI サービス カードは、お客様や幅広いコミュニティと協力してフィードバックを収集し、アプローチを継続的に反復することで、進化と拡大を続けます。
責任ある AI 専門家のグループに連絡する 会話を始める。
著者について
ヴァシフィロミン 現在、Amazon Lex、Amazon Polly、Amazon Translate、Amazon Transcribe/Transcribe Medical、Amazon Comprehend、Amazon Kendra、Amazon Code Whisperer、Amazon Monitron、Amazon などの言語および音声技術分野のサービスを担当する AWS AI チームの副社長です。 Amazon Connect の機器とコンタクト レンズ/音声 ID、機械学習ソリューション ラボ、責任ある AI を探します。
ピーター・ハリナン AWS AI で、責任ある AI の専門家チームとともに、責任ある AI の科学と実践におけるイニシアチブをリードしています。 彼は AI (PhD、ハーバード) と起業家精神 (Blindsight、Amazon に売却) に深い専門知識を持っています。 彼のボランティア活動には、スタンフォード大学医学部の顧問教授、マダガスカルのアメリカ商工会議所の会長などがあります。 可能であれば、彼は子供たちと一緒に山に出かけます: スキー、登山、ハイキング、ラフティング
