この投稿は、シュナイダー エレクトリック社の北米人工知能ソリューション エンジニアリングおよびアーキテクチャ マネージャーの Anthony Medeiros およびビジネス インテリジェンス マネージャーの Blake Santschi との共同執筆です。 その他のシュナイダーエレクトリックの専門家には、ジェシー・ミラー、ソミック・チョードリー、シャスワト・バブルガオンカル、デビッド・ワトキンス、マーク・カールソン、バーバラ・スレツコウスキーが含まれます。
エンタープライズ リソース プランニング (ERP) システムは、会計、販売、注文管理などの複数のビジネス機能を XNUMX つのシステムで管理するために企業で使用されます。 特に、顧客アカウントに関連する情報を保存するために日常的に使用されます。 企業内のさまざまな組織が異なる ERP システムを使用している場合があり、それらを統合することは大規模な複雑な技術的課題であり、ドメイン固有の知識が必要です。
シュナイダー エレクトリックは、エネルギー管理と産業オートメーションのデジタル変革のリーダーです。 顧客のニーズに最大限に応えるために、シュナイダー エレクトリックでは、ERP システム内の関連する顧客のアカウント間のリンクを追跡する必要があります。 顧客ベースが拡大するにつれて、新しい顧客が毎日追加されるため、アカウント チームはこれらの新しい顧客を手動で分類し、適切な親エンティティにリンクする必要があります。
リンクの決定は、インターネットやメディアで公開されている最新の情報に基づいており、最近の買収、市場ニュース、部門の再編などの影響を受ける可能性があります。 アカウントリンクの例としては、Amazon とその子会社である Whole Foods Market との関係を特定することが挙げられます。source].
シュナイダーエレクトリックは、さまざまな知識固有の領域で質問に答える機能を備えた大規模な言語モデルを導入していますが、モデルがトレーニングされた日付によってその知識が制限されています。 彼らは、Retriever-Augmented Generation で入手可能なオープンソースの大規模言語モデルを使用して、その課題に対処しました。 Amazon SageMaker ジャンプスタート 外部から引き出された大量の知識を処理し、ERP レコード間の企業関係または公的関係を示す。
2023 年初頭、シュナイダー エレクトリックは人工知能 (AI) を使用してアカウントリンクプロセスの一部を自動化することを決定し、AWS Machine Learning Solutions Lab (MLSL) と提携しました。 MLSL の ML コンサルティングと実行に関する専門知識を活用して、シュナイダー エレクトリックは、リンク ワークフローにおける手作業を軽減し、下流の分析チームにより高速なデータ アクセスを提供する AI アーキテクチャを開発することができました。
生成AI
生成 AI と大規模言語モデル (LLM) は、企業組織が自然言語の処理と理解に関連する従来の複雑な課題を解決する方法を変革しつつあります。 LLM によってもたらされる利点には、テキストの大部分を理解し、人間のような応答を生成して関連する質問に答える機能が含まれます。 AWS は、Amazon SageMaker JumpStart を介して多くのオプションを利用できるようにすることで、顧客が LLM ワークロードを簡単に実験および実稼働できるようにします。 アマゾンの岩盤, アマゾンタイタン.
外部知識の取得
LLM は人間の知識を圧縮する能力で知られており、さまざまな知識固有の領域の質問に答える際に優れた能力を実証してきましたが、LLM の知識はモデルがトレーニングされた日付によって制限されます。 当社は、LLM を Google Search API と組み合わせて、シュナイダー エレクトリックの課題に対処する強力な検索拡張 LLM (RAG) を提供することで、この情報遮断に対処します。 RAG は、Google 検索から得た大量の外部知識を処理し、ERP レコード間の企業関係または公的関係を示すことができます。
次の例を参照してください。
質問: One Medical の親会社はどこですか?
Google クエリ: 「One Medical親会社」 → 情報 → LLM
回答: アマゾンの子会社ワン・メディカル…
前述の例 (シュナイダー エレクトリックの顧客データベースから取得) は、2023 年 XNUMX 月に行われた買収に関するものであるため、知識の遮断により LLM だけでは捕らえられません。 Google 検索を使用して LLM を拡張すると、最新の情報が保証されます。
Flan-T5モデル
このプロジェクトでは、Flan-T5-XXL モデルを使用しました。 フラン-T5 モデルの家族。
Flan-T5 モデルは命令が調整されているため、さまざまなゼロショット NLP タスクを実行できます。 私たちの下流タスクでは、膨大な量の世界の知識に対応する必要はなく、むしろ検索結果を通じて提供されるテキストのコンテキストを考慮して質問応答を適切に実行する必要があったため、11B パラメーター T5 モデルは適切に実行されました。
JumpStart は、このモデル ファミリーの便利な展開を次の方法で提供します。 Amazon SageMakerスタジオ そしてSageMaker SDK。 これには、Flan-T5 Small、Flan-T5 Base、Flan-T5 Large、Flan-T5 XL、および Flan-T5 XXL が含まれます。 さらに、JumpStart は、さまざまな量子化レベルで Flan-T5 XXL のいくつかのバージョンを提供します。 推論のために、Flan-T5-XXL をエンドポイントにデプロイしました。 Amazon SageMaker Studio ジャンプスタート.
LangChain を使用した検索拡張 LLM
ラングチェーン は、LLM を利用したアプリケーションの開発を可能にする、人気があり急速に成長しているフレームワークです。 というコンセプトに基づいています。 チェーンこれらは、特定のタスクの LLM の機能を向上させるために設計されたさまざまなコンポーネントの組み合わせです。 たとえば、カスタマイズできるようになります。 プロンプト また、LLM を外部の検索エンジンやデータ ソースなどのさまざまなツールと統合します。 このユースケースでは Google を使用しました サーペル Web を検索するためのコンポーネントを追加し、以下で入手可能な Flan-T5-XXL モデルを導入しました。 Amazon SageMaker Studio ジャンプスタート。 LangChain は全体的なオーケストレーションを実行し、検索結果ページを Flan-T5-XXL インスタンスにフィードできるようにします。
検索拡張生成 (RAG) は、次の XNUMX つのステップで構成されます。
- 検索 外部ソースからの関連するテキスト チャンク
- 増加 LLM に与えられたプロンプト内のコンテキストを含むチャンク。
Schneider Electric のユースケースでは、RAG は次のように処理されます。
- 指定された会社名は、「X の親会社は誰ですか」(X は指定された会社)のような質問と結合され、Serper AI を使用して Google クエリに渡されます。
- 抽出された情報は、プロンプトおよび元の質問と結合され、回答のために LLM に渡されます。
次の図は、このプロセスを示しています。
次のコードを使用してエンドポイントを作成します。
検索ツールをインスタンス化します。
次のコードでは、取得コンポーネントと拡張コンポーネントを連鎖させます。
プロンプトエンジニアリング
コンテキストと質問の組み合わせはプロンプトと呼ばれます。 私たちが使用した包括的なプロンプト (親会社の問い合わせに関するバリエーション) は、ほとんどの公共部門 (ドメイン) ではうまく機能しましたが、親会社の概念が意味を持たないため、教育や医療にはうまく一般化できないことに気付きました。 教育には「X」を使用し、ヘルスケアには「Y」を使用しました。
このドメイン固有のプロンプト選択を有効にするには、特定のアカウントが属するドメインを特定する必要もありました。 このために、「{account} のドメインは何ですか?」という多肢選択の質問を行う RAG も使用しました。 最初のステップとして、その回答に基づいて、第 XNUMX ステップとして関連するプロンプトを使用してアカウントの親に問い合わせました。 次のコードを参照してください。
セクター固有のプロンプトにより、全体的なパフォーマンスの精度が 55% から 71% に向上しました。 全体として、効果的な開発に費やされた労力と時間は、 プロンプト LLM 応答の品質が大幅に向上するようです。
表形式データを含む RAG (SEC-10k)
SEC 10K への提出書類は、上場企業が毎年提出する子会社および下位部門のためのもう XNUMX つの信頼できる情報源です。 これらの提出書類は SEC で直接入手できます。 EDGAR またはを通じて コープウォッチ APIです。
情報は表形式で提供されると想定します。 以下は擬似です csvファイル SEC-10K データセットの元の形式を模倣したデータセット。 複数を合体させることも可能 csvファイル データ ソースを結合された pandas データフレームに変換します。
# A pseudo dataset similar by schema to the CorpWatch API dataset
df.head()
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://aws.amazon.com/blogs/machine-learning/schneider-electric-leverages-retrieval-augmented-llms-on-sagemaker-to-ensure-real-time-updates-in-their-erp-systems/
- :持っている
- :は
- :not
- :どこ
- $UP
- 1
- 10
- 100
- 10K
- 11
- 15年
- 視聴者の38%が
- 160
- 17
- 2023
- 7
- 710
- a
- 能力
- できる
- 私たちについて
- 上記の.
- 抽象化
- 加速する
- アクセス
- 対応する
- 会計
- アカウント
- 精度
- 正確な
- 買収
- 買収
- 越えて
- Action
- 追加されました
- 添加
- NEW
- 住所
- 対処する
- アドレス
- 利点
- 影響を受けました
- エージェント
- AI
- AI / ML
- 許可
- ことができます
- 一人で
- また
- Amazon
- アマゾン機械学習
- アマゾンセージメーカー
- Amazon SageMaker ジャンプスタート
- Amazon Webサービス
- アメリカ
- 間で
- 量
- 金額
- an
- 分析論
- および
- 年単位
- 別の
- 回答
- アンソニー
- API
- 現れる
- 適用された
- 適用
- 建築
- です
- 周りに
- 人工の
- 人工知能
- 人工知能(AI)
- AS
- 頼む
- 質問
- 引き受けます
- At
- 増強
- 増強された
- 自動化する
- オートメーション
- 利用できます
- 直接入手可能
- AWS
- AWS機械学習
- バンキング
- ベース
- ベース
- BE
- き
- 所属
- 以下
- 利点
- BEST
- の間に
- ブロック
- ブーストされた
- もたらす
- ビルド
- 建物
- ビジネス
- ビジネス機能
- ビジネス・インテリジェンス
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 呼ばれます
- 缶
- 機能
- できる
- カールソン
- キャッチ
- チェーン
- 挑戦する
- 課題
- 選択
- 市町村
- 分類します
- CNBC
- コード
- コラム
- 組み合わせ
- 組み合わせ
- 組み合わせた
- 企業
- 会社
- 複雑な
- コンポーネント
- コンポーネント
- 理解する
- コンセプト
- 懸念事項
- からなる
- コンサルティング
- consumer
- コンテキスト
- 便利
- 企業
- 作ります
- 値を作成
- 顧客
- Customers
- daily
- データ
- データアクセス
- データ駆動型の
- データベース
- データセット
- 日付
- デイビッド
- 決定しました
- 決定
- 配信する
- 配信する
- 実証
- 展開
- 展開する
- 展開
- 設計
- 設計
- 詳細
- 詳細な
- 開発する
- 開発
- 開発
- 異なります
- デジタル
- 直接に
- do
- ドキュメント
- ドメイン
- ドメイン
- 原因
- 早い
- 簡単に
- 教育
- 努力
- 電気
- enable
- エンドポイント
- エネルギー
- エンジニアリング
- エンジン
- 確保
- 入る
- 企業
- エンティティ
- ERP
- 例
- 実行
- 展示
- 体験
- 実験
- 専門知識
- 専門家
- 伸ばす
- 外部
- エクソン·モービル
- 家族
- スピーディー
- 速いです
- 2月
- FRBは
- 少数の
- 提出
- 提出
- ファイナル
- もう完成させ、ワークスペースに掲示しましたか?
- 名
- フォーカス
- 焦点を当て
- フォロー中
- 次
- 食品
- 形式でアーカイブしたプロジェクトを保存します.
- フレームワーク
- から
- 機能性
- 機能
- さらに
- さらに
- GAS
- 世代
- 生々しい
- 生成AI
- 与えられた
- グローバル
- でログイン
- グーグル検索
- グラフ
- 成長
- 育ちます
- 保証
- 持っていました
- が起こった
- 持ってる
- he
- ヘルスケア
- ことができます
- 彼女の
- より高い
- 彼の
- 認定条件
- HTML
- HTTP
- HTTPS
- 人間
- i
- 識別
- 識別する
- 説明する
- 改善します
- 改善
- in
- include
- 含ま
- インキュベータ
- インダストリアル
- 産業を変えます
- 情報
- 初期
- イニシアチブ
- 洞察
- 統合する
- インテリジェンス
- 対話
- 利益
- インターネット
- に
- 投資
- IT
- ITS
- ジョシュア
- JPG
- キープ
- キー
- 知っている
- 知識
- 既知の
- ラボ
- 言語
- 大
- 層
- リーダー
- 主要な
- 学習
- レベル
- レバレッジ
- 徴収
- ような
- 限定的
- 制限する
- LINK
- 連結
- リンク
- LLM
- 機械
- 機械学習
- 維持する
- 作る
- 作成
- 管理します
- 管理
- マネージャー
- マニュアル
- 手動で
- 多くの
- マーク
- 市場
- 市場ニュース
- 意味のある
- メディア
- 医療の
- 医療データ
- マージ
- マージ
- メソッド
- かもしれない
- ミラー
- ML
- モデル
- 他には?
- 最も
- の試合に
- 名
- 命名
- ナチュラル
- 自然言語処理
- 必要
- ニーズ
- 新作
- ニューヨーク
- ニューヨーク市
- ニュース
- NLP
- いいえ
- ノース
- 北米
- 概念
- 今
- 観察
- of
- 提供
- 油
- 石油とガス
- on
- ONE
- XNUMXつの医療
- 開いた
- オープンソース
- オプション
- or
- 編成
- 注文
- 組織
- 組織の
- 組織
- オリジナル
- その他
- 私たちの
- でる
- 出力
- 全体
- 自分の
- ページ
- パンダ
- パラメータ
- 親会社
- 部
- 特定の
- 提携
- 渡された
- 情熱的な
- path
- 実行する
- パフォーマンス
- 実行
- 実行
- 実行する
- ファーマ
- 博士号
- パイプライン
- 計画
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- 人気
- 可能
- ポスト
- パワード
- 強力な
- 前に
- 校長
- 問題
- 進む
- プロセス
- 処理
- 作成
- プロジェクト
- 適切な
- 提供
- は、大阪で
- 公共
- 公然と
- 品質
- 質問
- 質問
- むしろ
- への
- 最近
- 記録
- 減らします
- 関連する
- 関係
- の関係
- 関連した
- 信頼性のある
- 顕著
- 必要
- 研究
- 研究者
- リソースを追加する。
- 応答
- 回答
- 結果
- 結果
- return
- 堅牢な
- 日常的に
- 行
- ラン
- セージメーカー
- セールス
- 規模
- シュナイダーエレクトリック
- 科学
- 科学者
- SDDK
- を検索
- 検索エンジン
- SEC
- 二番
- セクター
- セクター
- 安全に
- 選択
- シニア
- 役立つ
- サービス
- いくつかの
- 彼女
- 著しく
- 同様の
- から
- 小さい
- 溶液
- ソリューション
- 解決する
- 一部
- ソース
- ソース
- 専門にする
- 特定の
- スピン
- 回転した
- 最先端の
- 統計的
- 手順
- ステップ
- 店舗
- 構造
- 研究
- 下位区分
- 子会社
- そのような
- 支援する
- システム
- 撮影
- 仕事
- タスク
- チーム
- チーム
- 技術的
- 클라우드 기반 AI/ML및 고성능 컴퓨팅을 통한 디지털 트윈의 기초 – Edward Hsu, Rescale CPO 많은 엔지니어링 중심 기업에게 클라우드는 R&D디지털 전환의 첫 단계일 뿐입니다. 클라우드 자원을 활용해 엔지니어링 팀의 제약을 해결하는 단계를 넘어, 시뮬레이션 운영을 통합하고 최적화하며, 궁극적으로는 모델 기반의 협업과 의사 결정을 지원하여 신제품을 결정할 때 데이터 기반 엔지니어링을 적용하고자 합니다. Rescale은 이러한 혁신을 돕기 위해 컴퓨팅 추천 엔진, 통합 데이터 패브릭, 메타데이터 관리 등을 개발하고 있습니다. 이번 자리를 빌려 비즈니스 경쟁력 제고를 위한 디지털 트윈 및 디지털 스레드 전략 개발 방법에 대한 인사이트를 나누고자 합니다.
- より
- それ
- 情報
- アプリ環境に合わせて
- それら
- 理論的な
- そこ。
- したがって、
- ボーマン
- 彼ら
- この
- 考え
- 介して
- 従って
- 時間
- 〜へ
- 一緒に
- ツール
- 豊富なツール群
- top
- 追跡する
- 取引
- 伝統的に
- 訓練された
- 変換
- 変換
- 信頼できる
- Twitch
- 2
- 明らかにする
- 理解する
- アンロック
- 最新
- 更新版
- us
- つかいます
- 中古
- 値
- さまざまな
- 広大な
- バージョン
- 垂直
- 、
- ました
- 仕方..
- 方法
- we
- 富
- ウェブ
- Webサービス
- WELL
- この試験は
- 何ですか
- いつ
- which
- while
- 誰
- 全体
- 意志
- 以内
- ワークフロー
- ワークフロー
- 作品
- 世界
- でしょう
- X
- 年
- ヨーク
- You
- ゼファーネット