CCC、広く利用可能なモデル重みを使用してデュアルユース財団 AI モデルに関する NTIA の情報要求に応答 » CCC ブログ

先週、CCCは国家電気通信情報局の次の質問に回答した。 広く利用可能なモデル重みを備えたデュアルユース財団人工知能モデルに関する情報のリクエスト。 CCC 自身の Daniel Lopresti (CCC 委員長およびリーハイ大学) と David Danks (CCC 執行委員会およびカリフォルニア大学サンディエゴ校) は、コンピューティング コミュニティの他のメンバーとともにこの回答の作成に協力しました。マーカス・ビューラー氏（マサチューセッツ工科大学）とダンカン・ワトソン・パリス氏（カリフォルニア大学サンディエゴ校）は今年、CCC後援のAAASパネルで次のように講演した。 科学における生成 AI: 約束と落とし穴、CCC の会議に出席した Casey Fiesler (コロラド大学ボルダー校) とともに、両者とも RFI の対応に貢献しました。 ソーシャルテクノロジー研究の今後 11月のワークショップ。

著者らは回答の中で、RFI からのいくつかの具体的な質問に焦点を当てました。そのうちの 1 つは、モデルの重みを広く利用できるようにすることに関連するリスクを、非公開のモデルの重みに関連するリスクとどのように比較するかというものでした。著者らは、生成モデルに関連するリスクの大部分は、モデルの重みを広く利用できるようにすることで最小限に悪化すると回答しました。生成モデルに関連するリスクのほとんどは、ユーザー入力に基づいて信頼できる膨大な量のコンテンツを迅速に生成する機能と、ほぼ無限の適用領域のため、これらのモデルに固有のものです。モデルの重みを一般に公開しても、生成モデルの機能には影響しません。そのため、現在、重みを広く利用できるようにすることで、独自のシステムやクローズド システムですでに実行できるリスクを超える重大な追加リスクが生じるという証拠はほとんどありません。独自のモデルの重みが広く利用可能になった場合に潜在的に悪化するリスクの 1 つは、トレーニング データが漏洩する可能性です。モデルの重みをリバース エンジニアリングしてトレーニング データを公開できる可能性は低いですが、数学的に不可能であることは示されていません。しかし、私たちは回答の中で、生成モデルは今後も一般大衆によって頻繁に使用され続ける可能性が高いため、最大のリスクは代表的な基礎モデルの重みをオープンに利用できないことにあると私たちは考えていることを強調しました。研究者や関心のあるコミュニティのメンバーが独自のモデルの一部のモデル重みにアクセスすることを拒否すると、社会がこれらのモデルがどのように機能するか、より包括的でアクセスしやすいモデルを設計する方法についての理解を深めることができなくなります。

クローズドモデルをリリースする慣行を継続すると、テクノロジーの多様性の欠如が永続し、大手テクノロジー企業が実施する動機がないこれらのモデルのバイアス監査など、特定の種類の研究が実施できなくなります。将来の労働力の教育も非常に重要な考慮事項です。米国は、大学院および大学院教育でこの種のモデルに基づいて将来世代の開発者を訓練することなく、生成 AI 分野でリーダーシップを維持することは望めません。学生が教育中にこれらのモデルを探索して、その基本的な機能を理解し、新しいモデルの開発に倫理的考慮事項を組み込む方法を学ぶことが重要です。大手テクノロジー企業のみが次世代を育成するためのツールを所有できるようにすると、思考がサイロ化される可能性があり、これらの組織は、より効率的な必要に応じて学習するフレームワークを優先して、これらのモデルにアクセスして提供できる総合的な教育を見落とす可能性があります。私たちの回答では、これらのモデルの開発を取り巻くオープンな文化を確立することの重要性も強調し、そのような文化の確立はこれらのテクノロジーを規制するのと同じくらい重要である可能性があることを強調しました。ハイテク企業が透明性のある方法で生成モデルを作成することが期待されている場合、将来の規制ははるかに容易になります。

最後にCCCは、これらのモデルが実際にどのように機能し、出力される結果に至るのかについての知識が現在のところ国民に不足していることを挙げ、基礎モデルに関する追加研究の必要性を強調した。私たちの返答では、研究者、科学者、学者、社会問題の専門家が、産業界が現在活用している種類の大規模な基礎モデルに必要なオープンアクセスを受け取ることができれば、それらの研究者が答え始めようとしている、未解決の研究上の疑問の数々を列挙しました。 。私たちが社会として継続的に成功できるかどうかは、それにかかっています。

ここで CCC の回答全文をお読みください.

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://feeds.feedblitz.com/~/874893044/0/cccblog~CCC-Responds-to-the-NTIAs-Request-for-Information-on-Dual-Use-Foundation-AI-Models-with-Widely-Available-Model-Weights/