言語モデルを展開するためのベストプラクティス

言語モデルの展開に関する共同勧告

大規模な言語モデル（LLM）のプロバイダーが、人間の能力を強化するという完全な約束を達成するために、このテクノロジーのリスクを軽減するのに役立ついくつかの重要な原則をお勧めします。

これらの原則は、APIを介してLLMを提供した経験に基づいて特別に開発されましたが、リリース戦略（オープンソーシングや企業内での使用など）に関係なく役立つことを願っています。 LLMの商用利用とそれに伴う安全上の考慮事項は新しく進化しているため、これらの推奨事項は時間の経過とともに大幅に変化すると予想されます。 私たちは、LLMの制限と誤用の手段について積極的に学び、対処しており、今後、より広いコミュニティと協力して、これらの原則と実践を更新していきます。

私たちは、他のLLMプロバイダーがそれらから学び、採用し、LLMの開発と展開に関する公開討論を進めることを期待して、これらの原則を共有しています。

誤用を禁止する

使用ガイドラインと利用規約を公開する スパム、詐欺、またはアストロターフィングなどによる個人、コミュニティ、および社会への重大な危害を禁止する方法でのLLMの使用。 使用ガイドラインでは、LLMの使用に特別な精査が必要なドメインを指定し、保護された特性に基づいて人を分類するなど、適切ではないリスクの高いユースケースを禁止する必要があります。

使用ガイドラインを実施するためのシステムとインフラストラクチャを構築する。 これには、レート制限、コンテンツフィルタリング、本番アクセス前のアプリケーション承認、異常なアクティビティの監視、およびその他の緩和策が含まれる場合があります。

意図しない危害を軽減する

有害なモデルの動作を積極的に軽減する。 ベストプラクティスには、制限を適切に評価するための包括的なモデル評価、コーパスのトレーニングにおける潜在的なバイアスの原因を最小限に抑える方法、人間のフィードバックから学ぶなどの危険な行動を最小限に抑えるための手法が含まれます。

既知の弱点と脆弱性を文書化する、バイアスや安全でないコードを生成する能力など。場合によっては、予防措置を講じても、意図しない危害の可能性を完全に排除することはできません。 ドキュメントには、モデルとユースケース固有の安全のベストプラクティスも含める必要があります。

利害関係者と思慮深く協力する

多様なバックグラウンドを持つチームを構築する 幅広い意見を求めます。 言語モデルが現実世界の多様性の中でどのように機能するかを特徴づけて対処するには、多様な視点が必要です。チェックを外すと、バイアスが強化されたり、一部のグループで機能しなくなったりする可能性があります。

LLMの安全性と誤用に関して学んだ教訓を公開する 広範な採用を可能にし、ベストプラクティスに関する業界を超えた反復を支援するため。

言語モデルのサプライチェーンにおけるすべての労働を尊重して扱う。 たとえば、プロバイダーは、モデル出力を社内でレビューする作業条件について高い基準を設定し、ベンダーを明確に指定された基準に保つ必要があります（たとえば、ラベラーが特定のタスクをオプトアウトできるようにする）。

LLMプロバイダーとして、これらの原則を公開することは、より安全な大規模言語モデルの開発と展開を共同で導くための最初のステップを表しています。 言語モデルによる意図しない危害を減らし、悪意のある使用を防ぐための他の機会を特定するために、お互いに、そして他の当事者と協力し続けることを楽しみにしています。

PDFとしてダウンロード