NSF 提案勧誘に関するウェビナー: Safe-Learning Enabled Systems

国立科学財団 (NSF) は、提案勧誘のためのウェビナーを開催します。安全学習対応システム」 5 年 2023 月 1 日、東部時間午後 00:2 ～ 00:XNUMX。

ウェビナーの概要: 人工知能 (AI) システムが急速に規模を拡大し、新しい機能を獲得し、リスクの高い環境で展開されるにつれて、その安全性が非常に重要になります。 システムの安全性を確保するには、精度、効率、およびスケーラビリティを向上させるだけでは不十分です。システムが極端なイベントに対して堅牢であることを確認し、異常で安全でない動作を監視する必要があります。

National Science Foundation、Open Philanthropy、Good Ventures のパートナーシップである Safe Learning-Enabled Systems プログラムの目的は、安全が確保された学習可能なシステムの設計と実装につながる基礎研究を促進することです。高いレベルの信頼。 従来の機械学習システムは、固定されたテスト セットに関して点ごとに評価されますが、そのような静的なカバレッジは、リスクの高い運用環境で前例のない条件にさらされた場合、限定的な保証しか提供しません。 このようなシステムの学習コンポーネントが、考えられるすべての入力に対して安全性を保証することを検証することは、不可能ではないにしても難しいかもしれません。 代わりに、システムの安全性の保証は、多くの場合、現実的な (しかし適切に悲観的な) 動作環境から体系的に生成されたデータに関して確立する必要があります。 安全性には、「未知の未知」への回復力も必要です。これには、展開中を含め、予期しない環境の危険や異常なシステム動作を監視するための改善された方法が必要です。 場合によっては、安全性のために、学習したモデルの内部ロジックをリバース エンジニアリング、検査、解釈して、ブラック ボックス テストだけでは発見できなかった予期しない動作を特定するための新しい方法や、直接適応することでパフォーマンスを改善する方法がさらに必要になる場合があります。システムの内部ロジック。 設定がどうであれ、学習対応システムのエンド ツー エンドの安全保証は、明確かつ正確に指定する必要があります。 安全仕様を満たすと主張するシステムは、経験的に裏付けられた分析および/または数学的な証明によって、厳密な証拠を提供する必要があります。

このウェビナーでは、勧誘について説明し、研究コミュニティからの質問に答えます。

ウェビナーに登録する こちら.