Amazon SageMaker ジャンプスタート は、ML への取り組みを加速するのに役立つ機械学習 (ML) ハブです。 SageMaker JumpStart を使用すると、公開されている独自の基盤モデルを検出して専用の基盤モデルにデプロイできます。 アマゾンセージメーカー 生成 AI アプリケーションのインスタンス。 SageMaker JumpStart を使用すると、ネットワークから分離された環境から基盤モデルをデプロイでき、顧客のトレーニング データや推論データをモデル プロバイダーと共有しません。
この投稿では、AI21、Cohere、LightOn などのモデル プロバイダーの独自モデルを使い始める方法を説明します。 Amazon SageMakerスタジオ。 SageMaker Studio は、SageMaker エンタープライズ データ サイエンティストの顧客が次の生成 AI アプリケーションのモデルを評価および構築するためのノートブック環境です。
SageMaker の基盤モデル
基盤モデルは、数十億のパラメーターを含む大規模な ML モデルであり、テラバイト規模のテキストおよび画像データで事前トレーニングされているため、記事の要約やテキスト、画像、ビデオの生成などの幅広いタスクを実行できます。 基礎モデルは事前にトレーニングされているため、トレーニングとインフラストラクチャのコストを削減し、ユースケースに合わせたカスタマイズを可能にすることができます。
SageMaker JumpStart は XNUMX 種類の基盤モデルを提供します。
- 独自モデル – これらのモデルは、Jurassic-21 モデルを備えた AI2、Cohere Command を備えた Cohere、独自のアルゴリズムとデータでトレーニングされた Mini を備えた LightOn などのプロバイダーから提供されています。 重みやスクリプトなどのモデルアーティファクトを表示することはできませんが、推論のために SageMaker インスタンスにデプロイすることはできます。
- 一般公開されているモデル – これらは、公開されているアルゴリズムとデータでトレーニングされた Hugging Face with Stable Diffusion、Falcon、FLAN などの人気のあるモデル ハブからのものです。 これらのモデルの場合、ユーザーはモデル アーティファクトにアクセスでき、推論のために展開する前に独自のデータを使用して微調整することができます。
モデルを発見する
基礎モデルには、SageMaker Studio UI の SageMaker JumpStart および SageMaker Python SDK を通じてアクセスできます。 このセクションでは、SageMaker Studio UI でモデルを検出する方法について説明します。
SageMaker Studio は、ML モデルの構築、トレーニング、デバッグ、デプロイ、監視を可能にする ML 用の Web ベースの統合開発環境 (IDE) です。 SageMaker Studio の開始方法とセットアップ方法の詳細については、以下を参照してください。 Amazon SageMakerスタジオ.
SageMaker Studio UI にアクセスすると、事前トレーニングされたモデル、ノートブック、事前構築されたソリューションが含まれる SageMaker JumpStart にアクセスできます。 事前に構築された自動化されたソリューション.
SageMaker JumpStart ランディング ページから、ソリューション、モデル、ノートブック、その他のリソースを参照できます。 次のスクリーンショットは、ソリューションと基盤モデルがリストされたランディング ページの例を示しています。
次のスクリーンショットに示すように、各モデルにはモデル カードがあり、モデル名 (微調整可能かどうか)、プロバイダー名、およびモデルに関する簡単な説明が含まれています。 モデル カードを開いてモデルの詳細を確認し、トレーニングやデプロイを開始することもできます。
AWS Marketplace で購読する
SageMaker JumpStart の独自モデルは、AI21、Cohere、LightOn などのモデル プロバイダーによって公開されています。 次のスクリーンショットに示すように、モデル カードの「独自」タグによって独自モデルを識別できます。
選んでいいですよ ノートを見る 次のスクリーンショットに示すように、モデル カード上でノートブックを読み取り専用モードで開きます。 前提条件やその他の使用手順に関する重要な情報については、ノートブックを参照してください。
ノートブックをインポートした後、コードを実行する前に、適切なノートブック環境 (イメージ、カーネル、インスタンス タイプなど) を選択する必要があります。 また、選択したノートブックごとのサブスクリプションと使用手順にも従う必要があります。
独自のモデルを使用する前に、最初にモデルをサブスクライブする必要があります。 AWS Marketplace:
- AWS Marketplace でモデルのリスト ページを開きます。
URL は、 重要 ノートブックのセクションからアクセスすることも、 SageMaker JumpStart サービスページ。 リスト ページには、モデルの概要、価格、使用法、およびサポート情報が表示されます。
- AWS Marketplace のリストで、 購読を続ける.
モデルを表示またはサブスクライブするために必要な権限がない場合は、IT 管理者または調達担当者に問い合わせて、モデルをサブスクライブしてください。 多くの企業では、AWS Marketplace のアクセス許可を制限して、これらのアクセス許可を持つユーザーが AWS Marketplace 管理ポータルで実行できるアクションを制御している場合があります。
- ソフトウェア設定ページで、下図のように このソフトウェアページを購読する、詳細を確認して選択します オファーを受け入れる あなたとあなたの組織が EULA、価格設定、サポート条件に同意する場合。
ご質問やボリュームディスカウントのリクエストがある場合は、詳細ページに記載されているサポートメールを介してモデルプロバイダーに直接お問い合わせいただくか、AWS アカウントチームにお問い合わせください。
- 選択する 構成に進む をクリックして地域を選択します。
製品の ARN が表示されます。 これは、Boto3 を使用してデプロイ可能なモデルを作成するときに指定する必要があるモデル パッケージ ARN です。
- リージョンに対応する ARN をコピーし、ノートブックのセル命令に同じものを指定します。
サンプルプロンプトを使用したサンプル推論
SageMaker Studio の SageMaker JumpStart から検出できる、A21 Labs、Cohere、LightOn のサンプル基盤モデルの一部を見てみましょう。 AWS Marketplace からサブスクライブし、ノートブックをインポートして設定する手順はすべて同じです。
AI21サマリー
A121 Labs の Summarize モデルは、長いテキストを短く読みやすい内容に凝縮し、出典との事実の一貫性を保ちます。 このモデルは、テキスト本文に基づいて重要なアイデアを捉える要約を生成するようにトレーニングされています。 プロンプトは必要ありません。 要約する必要があるテキストを入力するだけです。 ソース テキストには最大 50,000 文字を含めることができ、翻訳すると約 10,000 ワード、つまり 40 ページになります。
AI21 Summarize モデルのサンプル ノートブックには、従う必要がある重要な前提条件が記載されています。 たとえば、モデルは AWS Marketplace からサブスクライブされており、適切な IAM ロール権限があり、必要な boto3 バージョンなどがあります。モデル パッケージの選択方法、リアルタイム推論用のエンドポイントの作成方法、およびクリーンアップ方法について説明します。
選択したモデル パッケージには、ARN からリージョンへのマッピングが含まれています。 これは選択後に取得した情報です 構成に進む AWS Marketplace サブスクリプション ページ (セクション内) マーケットプレイスで評価して購読する) をクリックし、対応する製品 ARN が表示されるリージョンを選択します。
ノートブックにはすでに ARN が事前設定されている可能性があります。
次に、このノートブックを実行するために必要なライブラリをいくつかインポートし、Wikipedia をインストールします。Wikipedia は、Wikipedia のデータに簡単にアクセスして解析できるようにする Python ライブラリです。 このノートブックでは、後でこれを使用して、Wikipedia からの長いテキストを要約する方法を紹介します。
ノートブックはまた、 ai21
Python SDK は、次のような SageMaker API のラッパーです。 deploy
および invoke endpoint
.
ノートブックの次のいくつかのセルでは、次の手順を実行します。
- リージョンを選択し、モデル パッケージ マップからモデル パッケージ ARN を取得します。
- インスタンス タイプを選択して推論エンドポイントを作成します (ユースケースとモデルでサポートされているインスタンスに応じて異なります。「」を参照) タスク固有のモデル 詳細については)、モデルを実行します
- モデル パッケージからデプロイ可能なモデルを作成する
推論を実行して、ニュース記事から抜粋した XNUMX つの段落の概要を生成してみましょう。 出力からわかるように、要約されたテキストがモデルの出力として表示されます。
AI21 Summarize は最大 50,000 文字の入力を処理できます。 これは約 10,000 ワード、または 40 ページに相当します。 モデルの動作のデモンストレーションとして、Wikipedia からページを読み込みます。
テストのためにリアルタイム推論を実行したので、エンドポイントはもう必要ないかもしれません。 課金を避けるためにエンドポイントを削除できます。
コヒアコマンド
Cohere Command は、指示のようなプロンプトに適切に応答する生成モデルです。 このモデルは、すべての生成タスクにおいて最高の品質、パフォーマンス、精度を企業や企業に提供します。 Cohere のコマンド モデルを使用すると、コピーライティング、固有表現の認識、言い換え、または要約の取り組みを活性化し、次のレベルに引き上げることができます。
Cohere Commandモデルのサンプル・ノートブックには、従う必要がある重要な前提条件が記載されています。 たとえば、モデルは AWS Marketplace からサブスクライブされており、適切な IAM ロール権限があり、必要な boto3 バージョンなどがあります。モデル パッケージの選択方法、リアルタイム推論用のエンドポイントの作成方法、およびクリーンアップ方法について説明します。
一部のタスクは、Boto3 のインストール、インストールなど、前のノートブックの例で説明したものと似ています。 cohere-sagemaker
(このパッケージは、Cohereモデルとのインターフェースを簡素化するために開発された機能を提供します)、セッションとリージョンを取得します。
エンドポイントの作成を見てみましょう。 モデル パッケージの ARN、エンドポイント名、使用するインスタンス タイプ、インスタンスの数を指定します。 エンドポイントが作成されると、 終点 SageMaker のセクション。
次に、推論を実行して、コマンド モデルからの出力の一部を確認しましょう。
次のスクリーンショットは、求人投稿とその出力を生成するサンプル例を示しています。 ご覧のとおり、モデルは指定されたプロンプトから投稿を生成しました。
次に、次の例を見てみましょう。
- 製品説明を生成する
- ブログ投稿の本文段落を生成する
- アウトリーチメールを生成する
ご覧のとおり、Cohere Command モデルはさまざまな生成タスク用のテキストを生成しました。
テストのためにリアルタイム推論を実行したので、エンドポイントはもう必要ないかもしれません。 課金を避けるためにエンドポイントを削除できます。
LightOn ミニ命令
Mini-instruct は、LightOn によって作成された 40 億個のパラメーターを備えた AI モデルで、多数のソースからの高品質データを使用してトレーニングされた強力な多言語 AI システムです。 自然言語を理解し、ニーズに合わせたコマンドに反応するように構築されています。 音声アシスタント、チャットボット、スマート家電などの消費者向け製品で素晴らしいパフォーマンスを発揮します。 また、エージェント支援や自動化された顧客ケアのための自然言語生成など、幅広いビジネス アプリケーションも備えています。
LightOn Mini-instruct モデルのサンプル ノートブックには、従う必要がある重要な前提条件が記載されています。 たとえば、モデルは AWS Marketplace からサブスクライブされており、適切な IAM ロール権限があり、必要な boto3 バージョンなどがあります。モデル パッケージの選択方法、リアルタイム推論用のエンドポイントの作成方法、およびクリーンアップ方法について説明します。
Boto3 のインストールやセッション領域の取得など、一部のタスクは前のノートブックの例で説明したものと似ています。
エンドポイントの作成を見てみましょう。 まず、モデル パッケージの ARN、エンドポイント名、使用するインスタンス タイプ、インスタンスの数を指定します。 エンドポイントが作成されると、SageMaker のエンドポイント セクションに表示されます。
次に、あるトピック (この場合は水彩) の記事のアイデアのリストを生成するようにモデルを依頼して、モデルを推論してみましょう。
ご覧のとおり、LightOn Mini-instruct モデルは、指定されたプロンプトに基づいて生成されたテキストを提供できました。
クリーンアップ
モデルをテストし、独自の基盤モデルの例に対して上記のエンドポイントを作成した後、料金が発生しないように、必ず SageMaker 推論エンドポイントを削除し、モデルを削除してください。
まとめ
この投稿では、SageMaker Studio で AI21、Cohere、LightOn などのモデル プロバイダーの独自モデルを使い始める方法を説明しました。 お客様は、Studio、SageMaker SDK、および SageMaker Console から SageMaker JumpStart の独自の Foundation Model を検出して使用できます。 これにより、数十億のパラメータを含み、テラバイト規模のテキストおよび画像データで事前トレーニングされた大規模な ML モデルにアクセスできるため、顧客は記事の要約やテキスト、画像、またはビデオの生成などの幅広いタスクを実行できます。 基礎モデルは事前トレーニングされているため、トレーニングとインフラストラクチャのコストを削減し、ユースケースに合わせたカスタマイズを可能にすることもできます。
リソース
著者について
ジューン・ウォン SageMaker JumpStart のプロダクト マネージャーです。 彼は、顧客が生成 AI アプリケーションを構築できるように、基礎モデルを簡単に見つけて使用できるようにすることに重点を置いています。
マニカヌジャ は、アマゾン ウェブ サービス (AWS) の人工知能および機械学習スペシャリスト SA です。 彼女は、AWS を使用して機械学習を使用してビジネス上の課題を解決する顧客を支援しています。 彼女はほとんどの時間を深く掘り下げ、コンピューター ビジョン、自然言語処理、予測、エッジでの ML などに関連する AI/ML プロジェクトについて顧客に教えることに費やしています。 彼女はエッジでの ML に情熱を注いでいるため、自動運転キットとプロトタイプ製造生産ラインを備えた独自のラボを作成し、そこで多くの自由時間を過ごしています。
ニティン・エウセビウス AWS のシニア エンタープライズ ソリューション アーキテクトであり、ソフトウェア エンジニアリング、エンタープライズ アーキテクチャ、AI/ML の経験があります。 彼は顧客と協力して、AWS プラットフォーム上で適切に設計されたアプリケーションを構築できるよう支援しています。 彼はテクノロジーの課題を解決し、顧客のクラウドへの移行を支援することに情熱を注いでいます。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
- 情報源: https://aws.amazon.com/blogs/machine-learning/use-proprietary-foundation-models-from-amazon-sagemaker-jumpstart-in-amazon-sagemaker-studio/
- :持っている
- :は
- :not
- :どこ
- $UP
- 000
- 10
- 100
- 40
- 50
- 500
- 7
- 87
- a
- できる
- 私たちについて
- 上記の.
- 加速する
- アクセス
- 精度
- 行動
- 管理人
- 後
- エージェント
- AI
- AI / ML
- アルゴリズム
- すべて
- ことができます
- 既に
- また
- Amazon
- アマゾンセージメーカー
- Amazon SageMaker ジャンプスタート
- Amazon SageMakerスタジオ
- Amazon Webサービス
- Amazon Webサービス(AWS)
- an
- および
- とインフラ
- どれか
- もはや
- API
- 登場する
- 家電
- 適切な
- 建築
- です
- 周りに
- 記事
- 物品
- 人工の
- 人工知能
- 人工知能と機械学習
- AS
- 援助
- アシスタント
- At
- 自動化
- 利用できます
- 避ける
- AWS
- AWS Marketplace
- ベース
- BE
- なぜなら
- き
- さ
- BEST
- 10億
- 億
- ブログ
- ボディ
- ビルド
- 内蔵
- ビジネス
- ビジネスアプリケーション
- ビジネス
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 缶
- キャプチャー
- 捕捉した
- カード
- カード
- これ
- 場合
- 細胞
- 課題
- 文字
- 荷担した
- 課金
- チャットボット
- 選択する
- 選択する
- クラウド
- コード
- コンピュータ
- Computer Vision
- 整合性のある
- 領事
- consumer
- 消費者製品
- 接触
- 含む
- 含まれています
- コントロール
- 広告文案作成
- 対応する
- コスト
- カバー
- 作ります
- 作成した
- 作成
- 顧客
- Customers
- カスタム化
- データ
- データサイエンティスト
- 専用の
- 深いです
- によっては
- 展開します
- 展開する
- 展開
- 説明
- 詳細
- 細部
- 発展した
- 開発
- 直接に
- お得な商品
- 発見する
- 表示される
- そうではありません
- ドント
- 簡単に
- 簡単に
- エッジ(Edge)
- 努力
- enable
- エンドポイント
- エンジニアリング
- Enterprise
- 企業
- エンティティ
- 環境
- 等
- 評価する
- 例
- 例
- 体験
- 探る
- 顔
- 少数の
- 名
- 焦点を当てて
- 続いて
- フォロー中
- Foundation
- 無料版
- から
- 機能性
- 生成する
- 生成された
- 生成
- 世代
- 生々しい
- 生成AI
- 取得する
- 受け
- 与えられた
- Go
- ハンドル
- 持ってる
- he
- 助けます
- 助け
- ことができます
- 彼女の
- 高品質
- 認定条件
- How To
- HTML
- HTTPS
- ハブ
- 考え
- 識別する
- if
- 画像
- import
- 重要
- インポート
- 印象的
- in
- 含めて
- 情報
- インフラ関連事業
- 入力
- install
- インストールする
- 説明書
- 統合された
- インテリジェンス
- に
- 分離された
- IT
- ITS
- ジョブ
- 旅
- JPG
- キー
- ラボ
- ラボ
- 着陸
- 言語
- 大規模
- 後で
- LEARN
- 学習
- ことができます
- レベル
- ライブラリ
- 図書館
- ような
- LIMIT
- LINE
- リスト
- リストされた
- リスト
- 負荷
- 長い
- 見て
- たくさん
- 下側
- 機械
- 機械学習
- make
- 作る
- 作成
- 管理
- マネージャー
- 製造業
- 多くの
- マッピング
- 市場
- 五月..
- ML
- モード
- モデル
- モニター
- 他には?
- 最も
- 名
- 名前付き
- ナチュラル
- 自然言語処理
- 必要
- 必要
- ニーズ
- ネットワーク
- ニュース
- 次の
- ノート
- 数
- 多数の
- of
- on
- かつて
- 開いた
- or
- 組織
- その他
- でる
- 出力
- 奉仕活動
- が
- 概要
- 自分の
- パッケージ
- ページ
- パラメータ
- 情熱的な
- 実行する
- パフォーマンス
- 実行
- 実行する
- パーミッション
- プラットフォーム
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- ポイント
- 人気
- ポータル
- ポスト
- 強力な
- 前提条件
- PLM platform.
- 前
- 価格設定
- 事前の
- 進む
- 処理
- 調達
- プロダクト
- プロダクトマネージャー
- 生産
- 製品
- プロジェクト(実績作品)
- 所有権
- プロトタイプ
- 提供します
- 提供
- プロバイダー
- プロバイダ
- は、大阪で
- 公然と
- 公表
- Python
- 品質
- 質問
- 範囲
- リーチ
- 反応する
- 読む
- 読み取り専用モード
- への
- 認識
- に対する
- 地域
- 地域
- 関連する
- 残る
- 要求
- 必要とする
- の提出が必要です
- リソース
- レビュー
- 役割
- 大体
- ラン
- ランニング
- SA
- セージメーカー
- SageMaker の推論
- 同じ
- 科学者
- スクリプト
- SDDK
- セクション
- 選択
- 選択
- 自動運転
- サービス
- サービス
- セッション
- セッションに
- シェアする
- 彼女
- ショート
- すべき
- ショーケース
- 示されました
- 示す
- 作品
- 同様の
- 簡素化する
- 単に
- スマート
- So
- ソフトウェア
- ソフトウェア工学
- ソリューション
- 解決する
- 解決
- 一部
- 誰か
- ソース
- ソース
- 専門家
- 特定の
- 安定した
- start
- 開始
- ステップ
- まだ
- 研究
- 申し込む
- 購読
- そのような
- まとめる
- 概要
- サポート
- サポート
- TAG
- 取る
- 撮影
- タスク
- ティーチング
- チーム
- テクノロジー
- 条件
- テスト
- テスト
- それ
- 情報
- ソース
- アプリ環境に合わせて
- それら
- その後
- したがって、
- ボーマン
- 彼ら
- この
- それらの
- 介して
- 時間
- 〜へ
- トピック
- トレーニング
- 訓練された
- トレーニング
- 試します
- 2
- type
- ui
- 下
- わかる
- URL
- 使用可能な
- 使用法
- つかいます
- 使用事例
- 中古
- users
- 使用されます
- さまざまな
- バージョン
- 、
- ビデオ
- 詳しく見る
- ビジョン
- ボイス
- ボリューム
- ました
- we
- ウェブ
- Webサービス
- ウェブベースの
- 重量
- WELL
- which
- while
- ワイド
- 広い範囲
- Wikipedia
- 意志
- 言葉
- 作品
- You
- あなたの
- ゼファーネット