ホリー・エルモアがオープンソースの安全性に関する抗議活動を主導

ホリー・エルモアがオープンソースの安全性に関する抗議活動を主導

タイムスタンプ：11年2023月1日50:XNUMX AM
ホリー・エルモアは、オープンソースの安全性 PlatoBlockchain データ インテリジェンスに関する抗議活動を主導します。垂直検索。あい。

オープンソースの人工知能（AI）に対するメタの最近の姿勢に対抗する大胆な行動として、AIの安全性擁護活動家であるホリー・エルモア氏がメタのサンフランシスコ拠点外でデモの先頭に立った。

論争の中心は、強力なAIモデルの重みを自由に公開することの潜在的な危険性にあり、エルモア氏と彼女の支持者らは、それが「不可逆的な拡散」リスクにつながる可能性があると主張している。

メタは今年初めに、次のようにして技術界をかき回した 解放 AI研究者にとってLLaMAファミリーのモデルの重み付けは、他のテクノロジー大手の方針とは大きく異なる決定だ。 これらの重みはモデルの機能に不可欠ですが、専門家の手に渡れば操作や変更が可能であり、悪用の懸念が生じます。 実際、これらの重みが得られるまでに時間はかかりませんでした。 オンラインリーク、Metaのオープンソースアプローチに対する批判を強めています。

ウェイトを解放するリスク

かつてシンクタンク「Rethink Priorities」に所属していたエルモア氏は、次のように懸念を表明した。

「モデルは誰でも変更でき、リコールできないため、ウェイトの公開は危険なポリシーです。」

彼女は、モデルがより高度で強力になるにつれて脅威が増大していることを強調しました。 モデルの重みが公開されると、フィッシング スキームの構築から計画に至るまで、悪意のある活動に使用される可能性があります。 サイバー攻撃。 重りを手にすると、安全ガードレールを迂回するのは不安なほど容易になるとエルモア氏は警告する。

MIT のピーター S. パーク氏も同様の意見を述べています。 同氏は、現在のオープンソースアプローチがより高度なAIに引き継がれれば、より高度な自律性で動作し、より大規模で有害な悪用が可能になる可能性があると警告している。

反論: オープンソースの擁護

ステラ・ビダーマン ただし、EleutherAI の場合は、別の視点が提供されます。 ビダーマン氏は、モデルの重みの解放が潜在的な誤用と直接相関しているという当面の思い込みに疑問を抱いています。 彼女は、大量破壊兵器に関連する「拡散」という用語は AI の文脈では誤解を招くと考えています。 大規模な言語モデルを構築するための基本要素はすでに公開されていると主張し、秘密は潜在的な悪用に対する万能薬ではないかもしれないとビダーマン氏は考えています。

彼女は、企業にモデルに関する秘密を守るよう求めることは、「透明性、国民の意識、科学に重大な下流影響」をもたらす可能性があると付け加えた。 このようなポリシーは、潜在的な脅威から保護する以上に、独立した研究者や愛好家に不注意で害を及ぼす可能性があります。

AI でオープンソースの海域をナビゲートする

用語 'オープンソースのAIの領域における問題は混乱している。 オープンソース イニシアチブ (OSI) の Stefano Maffulli 氏が指摘するように、さまざまな組織がこの用語を採用しており、AI においてこの用語が実際に何を意味するのかが曖昧になっています。 ソフトウェアを真のオープンソースにするためには、ソース コードからトレーニング データに至るまで、そのすべてのコンポーネントが公的にアクセス可能で再利用可能でなければなりません。

オープンソース AI の将来はまだ形成されており、OSI はそのパラメータを積極的に定義しようとしています。 マフリ氏は、オープンなアプローチの重要性については断固として主張し、AIはオープンソースの原則に沿ったものでなければ「信頼でき、責任があり、責任を負う」ことができないと強調している。

オープンソース AI に関する議論は決着には程遠いものの、明らかなことが XNUMX つあります。それは、このテクノロジーの急速な進歩には、アクセシビリティとセキュリティの慎重なバランスが必要であるということです。 Meta のような企業がポリシーを推進する中、テクノロジー コミュニティと一般の人々はオープンソース AI の課題と影響に取り組み続けることになるでしょう。

タイムスタンプ：

より多くの メタニュース