Holly Elmore Açık Kaynak Güvenliği Protestosuna Öncülük Ediyor

Yapay zeka güvenliği savunucusu Holly Elmore, Meta'nın açık kaynaklı yapay zeka (AI) konusundaki son tutumuna karşı cesur bir hareketle, Meta'nın San Francisco üssünün dışında bir gösteriye öncülük etti.

Anlaşmazlığın özünde, Elmore ve destekçilerinin "geri döndürülemez nükleer silahların yayılması" risklerine yol açabileceğini iddia ettiği, güçlü yapay zeka modeli ağırlıklarının serbestçe serbest bırakılmasının potansiyel tehlikeleri yatıyor.

Belirsizlik yoluyla merkezi kontrol ve güvenlik için tartışmanın harika olduğunu düşündüğünüzü hayal edin.https://t.co/qw2FNpX3of

— Daniel Jeffries (@Dan_Jeffries1) 8 Ekim 2023

Meta bu yılın başlarında teknoloji sularını karıştırdı serbest LLaMA model ailesinin ağırlıklarını yapay zeka araştırmacılarına sunmak, diğer teknoloji devlerinin politikalarından önemli ölçüde farklılaşan bir karar. Modelin işlevi için hayati önem taşıyan bu ağırlıklar, uzmanların eline geçtiğinde manipüle edilebilir ve değiştirilebilir, bu da kötüye kullanım endişelerini artırır. Aslında bu ağırlıkların oluşması uzun sürmedi çevrimiçi sızdırılmış, Meta'nın açık kaynak yaklaşımına yönelik eleştiriyi yoğunlaştırıyor.

Ağırlıkları bırakmanın riskleri

Bir zamanlar Rethink Priorities adlı düşünce kuruluşuna üye olan Elmore, endişelerini şöyle dile getirdi:

"Ağırlıkların serbest bırakılması tehlikeli bir politikadır çünkü modeller herkes tarafından değiştirilebilir ve geri çağrılamaz."

Modeller daha gelişmiş ve güçlü hale geldikçe artan tehdidi vurguladı. Model ağırlıkları açıkça mevcut olduğunda, kimlik avı düzenleri oluşturmaktan planlamaya kadar kötü niyetli faaliyetler için potansiyel olarak kullanılabilirler. cyberattacks. Elmore, ağırlıklar elinize ulaştığında güvenlik korkuluklarını aşmanın rahatsız edici bir kolaylık olacağı konusunda uyarıyor.

MIT'den Peter S. Park da bu duyguları yansıtıyor. Mevcut açık kaynak yaklaşımının, daha yüksek özerklikle çalışabilecek, böylece daha büyük ve daha zararlı ölçekte kötüye kullanıma yol açabilecek daha gelişmiş yapay zekaya taşınması durumunda ortaya çıkabilecek tehlikeler konusunda uyarıyor.

Holly Elmore'u tebrik ederiz @ilex_ulmus Meta protestosuna liderlik ettiği için.

IEEE'nin amiral gemisi yayını olan IEEE Spectrum'a ulaştı:

Protestocular Meta'nın Yapay Zekanın “Geri Dönüşsüz Yayılımını” Kınadıhttps://t.co/XM0WAz8Zyuhttps://t.co/mfLBPjl2xJ

— Michael Huang ⏸️ (@michhuan) 8 Ekim 2023

Bir karşı argüman: Açık kaynak savunması

Stella Biderman Ancak EleutherAI farklı bir bakış açısı sunuyor. Biderman, model ağırlıklarının serbest bırakılmasının olası kötüye kullanımla doğrudan ilişkili olduğu varsayımını sorguluyor. Kitle imha silahlarıyla ilişkilendirilen "yayılma" teriminin yapay zeka bağlamında yanıltıcı olduğuna inanıyor. Büyük dil modelleri oluşturmaya yönelik temel unsurların zaten açıkta olduğunu savunan Biderman, gizliliğin potansiyel suiistimal için her derde deva olmayabileceğine inanıyor.

Şirketleri modelleriyle ilgili gizliliği korumaya teşvik etmenin "şeffaflık, kamuoyu farkındalığı ve bilim açısından ciddi sonuçlar doğurabileceğini" ekliyor. Böyle bir politika, istemeden bağımsız araştırmacılara ve meraklılara potansiyel tehditlere karşı koruma sağlamaktan daha fazla zarar verebilir.

Yapay zekada açık kaynak sularında gezinme

Dönem 'açık kaynak' yapay zeka alanında karışıktır. Açık Kaynak Girişimi'nden (OSI) Stefano Maffulli'nin işaret ettiği gibi, çeşitli kuruluşlar bu terimi benimsedi ve bu da yapay zekada gerçekte ne anlama geldiği konusunda belirsiz bir anlayışa yol açtı. Yazılımın gerçek anlamda açık kaynak olması için kaynak kodundan eğitim verilerine kadar tüm bileşenlerinin herkesin erişimine açık ve yeniden kullanılabilir olması gerekir.

Açık kaynaklı yapay zekanın geleceği, OSI'nin aktif olarak parametrelerini tanımlamaya çalışmasıyla hâlâ şekilleniyor. Maffulli, açık yaklaşımın önemi konusunda kararlı olmaya devam ediyor ve yapay zekanın ancak açık kaynak ilkeleriyle uyumlu olması durumunda "güvenilir, sorumlu ve hesap verebilir" olabileceğini vurguluyor.

Açık kaynaklı yapay zekaya ilişkin tartışma henüz çözümlenmiş olmaktan uzak olsa da bir şey açıktır: Teknolojinin hızlı ilerlemesi, erişilebilirlik ve güvenlik arasında dikkatli bir denge kurulmasını gerektirmektedir. Meta gibi şirketler politikalarını ilerletirken teknoloji topluluğu ve halk, açık kaynaklı yapay zekanın zorlukları ve sonuçlarıyla boğuşmaya devam edecek.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://metanews.com/meta-challenged-as-holly-elmore-leads-protest-on-open-source-safety/