Cohere は言語 AI を Amazon SageMaker にもたらします

これは、Cohere のテクニカル スタッフ マネージャーである Sudip Roy によるゲスト投稿です。

開発コミュニティにとってエキサイティングな日です。 Cohere の最先端の言語 AI が、 アマゾンセージメーカー. これにより、開発者は Cohere の事前トレーニング済みの 世代言語モデル 〜へ アマゾンセージメーカー、エンドツーエンドの機械学習 (ML) サービス。 開発者、データサイエンティスト、およびビジネスアナリストは、Amazon SageMaker を使用して、完全に管理されたインフラストラクチャ、ツール、およびワークフローを使用して、ML モデルを迅速かつ簡単に構築、トレーニング、デプロイします。

Cohere では、言語に重点を置いています。 同社の使命は、開発者や企業が言語 AI をテクノロジー スタックに追加し、それを使って革新的なアプリケーションを構築できるようにすることです。 Cohere は、開発者や企業がコピーライティング、固有表現の認識、言い換え、テキストの要約、分類などの幅広いタスクを自動化するのに役立ちます。 同社は、汎用の大規模言語モデル (LLM) を構築して継続的に改善し、使いやすいプラットフォームからアクセスできるようにしています。 企業は、モデルをそのまま使用することも、独自のカスタム データを使用して特定のニーズに合わせてモデルを調整することもできます。

SageMaker を使用する開発者は、Cohere の中世代言語モデルにアクセスできます。 ミディアム世代のモデルは、質問への回答、コピーライティング、言い換えなど、迅速な応答が必要なタスクに優れています。 Medium モデルは、AWS で利用可能なさまざまなハードウェア アクセラレータ セットで低レイテンシーの推論を可能にするコンテナにデプロイされ、SageMaker のお客様にさまざまなコストとパフォーマンスの利点を提供します。

「Amazon SageMaker は、機械学習プロセスの各ステップから重労働を排除する、最も幅広く包括的なサービス セットを提供します。 Cohere の汎用大規模言語モデルを Amazon SageMaker で提供できることを嬉しく思います。 私たちの共通の顧客は、幅広い Amazon SageMaker サービスを活用し、Cohere のモデルをアプリケーションと統合して、価値実現までの時間を短縮し、イノベーションを加速できるようになりました。」

-Rajneesh Singh、Amazon Web Services の AI/ML ゼネラル マネージャー。

「Cohere は言語 AI の限界を押し広げ続けているため、Amazon SageMaker と協力できることを嬉しく思います。 このパートナーシップにより、高度なテクノロジーと革新的なアプローチをさらに幅広いユーザーに提供できるようになり、世界中の開発者や組織が言語 AI の力を利用して、ますます競争が激化する市場で先を行くことができるようになります。」

- Cohere のエンジニアリング担当上級副社長、Saurabh Baji 氏。

SageMaker を通じて利用可能な Cohere Medium 世代の言語モデルは、開発者に次の XNUMX つの主要な利点を提供します。

• 迅速な構築、反復、デプロイ – Cohere を使用すると、すべての開発者 (NLP、ML、または AI の専門知識は不要) が、前例のないレベルでコンテキストとセマンティクスを理解する事前トレーニング済みの最先端の生成モデルにすばやくアクセスできるようになります。 この高品質で大規模な言語モデルは、幅広い言語理解タスクにすぐに使えるソリューションを提供することで、顧客が価値を実現するまでの時間を短縮します。
• プライベートで安全 – SageMaker を使用すると、顧客はデータがこれらのセルフマネージド コンテナーから離れることを心配することなく、Cohere のモデルを提供するコンテナーをスピンアップできます。
• 速度と精度 – Cohere のミディアム モデルは、品質、コスト、レイテンシのバランスが取れたものを顧客に提供します。 開発者は、シンプルな API と SDK を使用して、Cohere Generate エンドポイントをアプリに簡単に統合できます。

SageMaker で Cohere の使用を開始する

開発者は、SageMaker JumpStart 基盤モデルのビジュアル インターフェイスを使用して、コードを XNUMX 行も書かずに Cohere のモデルをテストできます。 特定の言語理解タスクでモデルを評価し、生成言語モデルの使用の基本を学ぶことができます。 コヒーレを見る ドキュメント および ブログ 言語モデリングに関連するさまざまなチュートリアルとヒントとコツ。

ノートブックを使用して SageMaker エンドポイントをデプロイする

Cohere は、最適化された低レイテンシーの推論フレームワークとともに、SageMaker 推論エンドポイントとしてデプロイできるコンテナーにミディアム モデルをパッケージ化しました。 Cohere のコンテナーは、さまざまなコスト/パフォーマンスのトレードオフを提供するさまざまなインスタンス (ml.p3.2xlarge、ml.g5.xlarge、および ml.g5.2xlarge を含む) にデプロイできます。 これらのコンテナは現在、次の XNUMX つのリージョンで利用できます。 us-east-1 および eu-west-1. Cohere は、利用可能なモデルの数とサイズ、サポートされているタスクのセット (これらのモデルの上に構築されたエンドポイントなど)、サポートされているインスタンス、および利用可能なリージョンを追加することを含め、近い将来、その製品を拡張する予定です。

開発者がすぐに始められるように、Cohere は Jupyterノートブック これらのコンテナを簡単にデプロイし、デプロイされたエンドポイントで推論を実行できるようにします。 次の例に示すように、ノートブックに事前構成された一連の定数を使用すると、数行のコードだけでエンドポイントを簡単にデプロイできます。

エンドポイントがデプロイされた後、ユーザーは Cohere の SDK を使用して推論を実行できます。 SDK は、次のように PyPI から簡単にインストールできます。

Cohere のソース コードからインストールすることもできます。 パブリック SDK GitHub リポジトリ.

エンドポイントがデプロイされた後、ユーザーは Cohere Generate エンドポイントを使用して、テキストの要約、長い形式のコンテンツの生成、エンティティの抽出、コピーライティングなど、複数の生成タスクを実行できます。 Jupyter ノートブックと GitHub リポジトリには、これらのユース ケースのいくつかを示す例が含まれています。

まとめ

AWS Marketplace を介して SageMaker でネイティブに Cohere を利用できるようになったことは、NLP の分野における大きなマイルストーンです。 高品質で首尾一貫したテキストを生成する Cohere モデルの機能は、テキスト データを扱うすべての人にとって貴重なツールです。

独自の SageMaker プロジェクトで Cohere を使用することに興味がある場合は、次の Web サイトでアクセスできるようになりました: SageMaker ジャンプスタート. さらに、Cohere の GitHub ノートブック モデルをデプロイしてからモデルにアクセスする手順については、 コヒー生成エンドポイント.

---

著者について

スディップ・ロイ 最先端の自然言語処理 (NLP) テクノロジーのプロバイダーである Cohere の技術スタッフのマネージャーです。 Sudip は、NeurIPS、MLSys、OOPSLA、SIGMOD、VLDB、SIGKDD などのトップ カンファレンスのプログラム委員会で論文を発表し、委員を務めた実績のある研究者であり、彼の研究は SIGMOD と MLSys から優れた論文賞を受賞しています。

カルティク・バラシー Amazon SageMaker チームの製品リーダーであり、XNUMX 年以上の製品管理、製品戦略、実行、立ち上げの経験があります。

カール・アルバートセン Amazon SageMaker アルゴリズムと、SageMaker の機械学習ハブである JumpStart の製品、エンジニアリング、科学をリードしています。 彼は機械学習を適用してビジネス価値を引き出すことに情熱を注いでいます。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
• 情報源： https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/