Accenture は、AWS 上の生成 AI サービスを使用して Knowledge Assist ソリューションを作成します。 アマゾン ウェブ サービス

この投稿はアクセンチュアの Ilan Geller 氏と Shuyu Yang 氏の共著です。

今日の企業は、社内外の業務運営に情報と知識ベースを使用する際に大きな課題に直面しています。 業務、プロセス、ポリシー、コンプライアンス要件は常に進化しており、従業員や顧客が最新の情報を常に把握しておくことが非常に困難になる場合があります。 同時に、このコンテンツの多くは構造化されていないため、従来の検索を使用して答えを見つけるのに時間がかかります。

社内では、従業員が業務に必要な情報を探すのに数え切れないほどの時間を費やし、フラストレーションや生産性の低下につながることがよくあります。 また、答えが見つからない場合は、問題をエスカレーションしたり、完全なコンテキストを持たずに意思決定をしなければならないため、リスクが生じる可能性があります。

対外的には、顧客は探している情報を見つけるのにイライラすることもあります。 エンタープライズナレッジベースは時間の経過とともに顧客エクスペリエンスを向上させてきましたが、依然として扱いにくく、使いにくい場合があります。 製品関連の質問への回答を求める場合でも、営業時間や場所に関する情報が必要な場合でも、エクスペリエンスが不十分だとフラストレーションが生じたり、さらに悪いことに顧客の離反につながる可能性があります。

いずれの場合も、ナレッジ管理がより複雑になるにつれて、生成 AI は企業にとって、実行や革新に必要な情報に人々を結び付ける革新的な機会をもたらします。 適切な戦略があれば、これらのインテリジェントなソリューションは、組織全体で知識を取得、整理、使用する方法を変革できます。

この課題への取り組みを支援するために、アクセンチュアは AWS と協力して、Knowledge Assist と呼ばれる革新的な生成 AI ソリューションを構築しました。 AWS の生成 AI サービスを使用することで、チームは大量の非構造化エンタープライズ コンテンツを取り込んで理解できるシステムを開発しました。

従来のキーワード検索ではなく、ユーザーは簡単な会話型インターフェイスで質問し、正確な回答を引き出すことができるようになりました。 生成 AI はナレッジ ベース内のコンテキストと関係を理解し​​て、パーソナライズされた正確な応答を提供します。 より多くのクエリを処理するにつれて、システムは機械学習 (ML) アルゴリズムを通じて言語処理を継続的に改善します。

この AI 支援フレームワークを立ち上げて以来、企業は従業員の知識保持と生産性が劇的に向上しました。 このソリューションは、情報への迅速かつ正確なアクセスを提供し、従業員のセルフサービスを可能にすることで、新入社員のトレーニング時間を 50% 以上削減し、エスカレーションを最大 40% 削減します。

生成 AI の力を利用して、企業は知識を取得、整理し、組織全体で共有する方法を変革できます。 企業は既存のナレッジベースを活用することで、従業員の生産性と顧客満足度を向上させることができます。 アクセンチュアと AWS の連携が示すように、エンタープライズ ナレッジ マネジメントの未来は、人間とマシンの相互作用を通じて進化する AI 主導のシステムにあります。

Accenture は AWS と協力してクライアントの導入を支援しています アマゾンの岩盤、次のような最先端の基本モデルを利用します。 アマゾンタイタン、次のような業界をリードするテクノロジーを導入します。 Amazon SageMaker ジャンプスタート および アマゾン・インフェレンティア 他の AWS ML サービスと併用できます。

この投稿では、Amazon Bedrock およびその他の AWS サービスを使用した実稼働ユースケース向けに Accenture が開発したエンドツーエンドの生成 AI ソリューションの概要を説明します。

ソリューションの概要

公衆衛生部門の大規模クライアントは、毎日何百万人もの国民にサービスを提供しており、刻々と変化する医療情勢の最新情報に簡単にアクセスできることを求めています。 アクセンチュアは、この生成 AI 機能を既存の FAQ ボットに統合し、チャットボットがユーザーの幅広い質問に回答できるようにしました。 国民がセルフサービスで関連情報にアクセスできるようになると、部門の時間と費用が節約され、コールセンターのエージェントとのやり取りの必要性が減ります。 ソリューションの主な機能は次のとおりです。

• ハイブリッドインテントアプローチ – 生成的で事前トレーニングされたインテントを使用します
• 多言語サポート – 英語とスペイン語で会話します
• 会話分析 – ユーザーのニーズ、感情、懸念に関するレポート
• 自然な会話 – 人間のような自然言語処理 (NLP) でコンテキストを維持します
• 透明性のある引用 – ユーザーをソース情報に誘導します

アクセンチュアの生成 AI ソリューションには、既存または従来のチャットボット フレームワークに比べて次の利点があります。

• ユーザーのクエリに対して、正確で適切かつ自然な応答を迅速に生成します
• 文脈を覚えて、フォローアップの質問に答えます
• 複数の言語 (英語やスペイン語など) でクエリを処理し、応答を生成します。
• ユーザーのフィードバックに基づいて応答を継続的に学習し、改善します
• 既存の Web プラットフォームと簡単に統合可能
• エンタープライズナレッジベースの膨大なリポジトリを取り込む
• 人間らしい対応をしてくれる
• 知識の進化は最小限の労力で、またはまったく労力をかけずに継続的に利用可能です
• 前払い費用のない従量課金制モデルを採用

このソリューションの大まかなワークフローには、次の手順が含まれます。

1. ユーザーは既存の Web プラットフォームとのシンプルな統合を作成します。
2. データは 0 日目に一括アップロードとしてプラットフォームに取り込まれ、1 日目以降は増分アップロードされます。​
3. ユーザーのクエリは、ユーザーの需要を満たすために必要に応じてシステムを拡張しながらリアルタイムで処理されます。
4. 会話はアプリケーション データベースに保存されます (アマゾン ダイナモ DB) 複数ラウンドの会話をサポートします。
5. Anthropic Claude 基盤モデルは Amazon Bedrock 経由で呼び出され、最も関連性の高いコンテンツに基づいてクエリ応答を生成するために使用されます。
6. Anthropic Claude 基盤モデルは、多言語会話をサポートするために、英語からのクエリと応答を他の言語に翻訳するために使用されます。
7. Amazon Titan 基盤モデルは、Amazon Bedrock 経由で呼び出され、ベクトル埋め込みを生成します。
8. コンテンツの関連性は、Pinecone ベクター データベースの埋め込みを使用した、生のコンテンツの埋め込みとユーザー クエリの埋め込みの類似性によって判断されます。
9. コンテキストとユーザーの質問が追加されてプロンプトが作成され、それが Anthropic Claude モデルへの入力として提供されます。 生成された応答は、Web プラットフォーム経由でユーザーに返されます。

次の図は、ソリューションのアーキテクチャを示しています。

アーキテクチャ フローは XNUMX つの部分で理解できます。

次のセクションでは、ソリューションとその開発のさまざまな側面について詳しく説明します。

モデル選択

モデル選択のプロセスには、AI21 Labs、Cohere、Anthropic、Amazon 基盤モデルなど、Amazon Bedrock で利用可能なさまざまなモデルの回帰テストが含まれていました。 サポートされているユースケース、モデル属性、最大トークン、コスト、精度、パフォーマンス、言語を確認しました。 これに基づいて、このユースケースに最適なものとして Claude-2 を選択しました。

情報元

Amazon Kendra インデックスを作成し、ルート Web URL と XNUMX レベルのディレクトリ深さを持つ Web クローラーコネクタを使用してデータソースを追加しました。 いくつかのウェブページが Amazon Kendra インデックスに取り込まれ、データ ソースとして使用されました。

GenAI チャットボットのリクエストと応答のプロセス

このプロセスのステップは、からのリクエストとのエンドツーエンドの対話で構成されます。 Amazon Lex 大規模言語モデル (LLM) からの応答:

1. ユーザーは、ホストされている会話型フロントエンド アプリケーションにリクエストを送信します。 Amazon シンプル ストレージ サービス (Amazon S3) バケットスルー アマゾンルート53 および アマゾンCloudFrontの.
2. Amazon Lex はその意図を理解し、リクエストをホストされているオーケストレーターに送信します。 AWSラムダ 機能。
3. オーケストレーター Lambda 関数は次の手順を実行します。
   1. この関数は、DynamoDB で管理されたデータベースでホストされているアプリケーション データベースと対話します。 データベースには、会話履歴のセッション ID とユーザー ID が保存されます。
   2. 別のリクエストが Amazon Kendra インデックスに送信され、関連する検索結果の上位 XNUMX 件が取得され、関連するコンテキストが構築されます。 このコンテキストを使用して、LLM モデルに必要な変更されたプロンプトが構築されます。
   3. Amazon Bedrock とオーケストレーターの間に接続が確立されます。 リクエストが Amazon Bedrock Claude-2 モデルに投稿され、選択された LLM モデルからの応答が取得されます。
4. データは LLM 応答から後処理され、応答がユーザーに送信されます。

オンライン報告

オンライン報告プロセスは次の手順で構成されます。

1. エンドユーザーは、CloudFront CDN フロントエンド層を介してチャットボットと対話します。
2. 各リクエスト/レスポンスの対話は AWS SDK によって促進され、ネットワーク トラフィックを Amazon Lex (ボットの NLP コンポーネント) に送信します。
3. リクエスト/レスポンスのペアに関するメタデータがログに記録されます。 アマゾンクラウドウォッチ.
4. CloudWatch ログ グループは、ログを送信するサブスクリプション フィルターを使用して構成されています。 AmazonOpenSearchサービス.
5. OpenSearch Service でログを利用できるようになると、Kibana を使用してレポートやダッシュボードを生成することができます。

まとめ

この投稿では、アクセンチュアが AWS 生成 AI サービスを使用して、デジタル変革に向けたエンドツーエンドのアプローチを実装している方法を紹介しました。 私たちは、従来の質問応答プラットフォームのギャップを特定し、そのフレームワーク内で生成インテリジェンスを強化することで、応答時間を短縮し、世界中のユーザーと関わりながらシステムを継続的に改善しました。 Accenture Center of Excellence チームに問い合わせて、ソリューションをさらに詳しく調べ、このソリューションをクライアントに導入してください。

この Knowledge Assist プラットフォームは、健康科学、金融サービス、製造などを含むさまざまな業界に適用できますが、これらに限定されません。 このプラットフォームは、安全な知識を使用して、質問に対して自然で人間のような応答を提供します。 このプラットフォームにより、効率性、生産性が向上し、ユーザーが実行できるより正確なアクションが可能になります。

この共同の取り組みは、両社間の 15 年間にわたる戦略的関係に基づいて構築され、米国政府が構築したのと同じ実証済みのメカニズムとアクセラレータを使用します。 アクセンチュア AWS ビジネス グループ (AABG)。

AABG チームと連絡を取るには、 Accentureaws@amazon.com AWS 上のインテリジェントなデータエンタープライズに変革することで、ビジネスの成果を推進します。

Amazon Bedrock を使用した AWS 上の生成 AI の詳細については、または アマゾンセージメーカーの場合は、次のリソースをお勧めします。

また、ワイルドカード*を使用すると、任意の文字にマッチし、XNUMXつのコマンドで複数のファイルを削除することができます。 AWS Generative AI ニュースレターにサインアップするこれには、教育リソース、ブログ、サービスの更新情報が含まれます。

---

著者について

イラン・ゲラー Accenture のマネージング ディレクターであり、人工知能に重点を置き、クライアントの人工知能アプリケーションの拡張を支援し、AWS のグローバル GenAI COE パートナー リードを務めています。

ヤン・シュユ ジェネレーティブ AI および大規模言語モデルのデリバリー リーダーであり、CoE (Center of Excellence) Accenture AI (AWS DevOps プロフェッショナル) チームもリードしています。

シカール・クワトラ アマゾン ウェブ サービスの AI/ML スペシャリスト ソリューション アーキテクトであり、大手グローバル システム インテグレーターと協力しています。 彼は、AI/ML および IoT ドメインで 500 件を超える特許を取得し、インドの最年少マスター発明家の XNUMX 人の称号を獲得しました。 Shikhar は、組織のコスト効率が高くスケーラブルなクラウド環境の設計、構築、維持を支援し、AWS 上で戦略的な業界ソリューションを構築する GSI パートナーをサポートします。

ジェイ・ピライ アマゾン ウェブ サービスのプリンシパル ソリューション アーキテクトです。 この役割において、彼はグローバル ジェネレーティブ AI リード アーキテクトとして機能するとともに、AABG のサプライ チェーン ソリューションのリード アーキテクトとしても機能します。 情報テクノロジーのリーダーとして、ジェイは人工知能、データ統合、ビジネス インテリジェンス、およびユーザー インターフェイスの分野を専門としています。 彼は、サプライ チェーン、法的テクノロジー、不動産、金融サービス、保険、決済、市場調査のビジネス領域にわたって複数のクライアントと協力してきた 23 年間の豊富な経験を持っています。

カルティク・ソンティ ソリューションアーキテクトのグローバルチームを率いて、アクセンチュアとの水平的、機能的、垂直的ソリューションの概念化、構築、立ち上げに注力し、共通の顧客が AWS 上で差別化された方法でビジネスを変革できるよう支援します。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/