NSF Teklif Talep Etme Konusunda Web Semineri: Güvenli Öğrenme Özellikli Sistemler

Ulusal Bilim Vakfı (NSF), teklif talepleri için bir web semineri düzenleyecek "Güvenli Öğrenme Etkinleştirilmiş Sistemler” 5 Nisan 2023, 1:00-2:00 Doğu Saati.

Web Semineri Özeti: Yapay zeka (AI) sistemlerinin boyutları hızla arttıkça, yeni yetenekler kazandıkça ve yüksek riskli ortamlarda kullanıldıkça güvenlikleri son derece önemli hale geliyor. Sistem güvenliğini sağlamak, doğruluğu, verimliliği ve ölçeklenebilirliği geliştirmekten daha fazlasını gerektirir: Sistemlerin aşırı olaylara karşı dayanıklı olmasını sağlamayı ve onları anormal ve güvenli olmayan davranışlara karşı izlemeyi gerektirir.

Ulusal Bilim Vakfı, Açık Hayırseverlik ve İyi Girişimler ortaklığı olan Güvenli Öğrenme Etkin Sistemler programının amacı, güvenliğin güvenlikle sağlandığı öğrenme etkin sistemlerin tasarımına ve uygulanmasına yol açan temel araştırmaları teşvik etmektir. yüksek düzeyde güven. Geleneksel makine öğrenimi sistemleri sabit bir test kümesine göre noktasal olarak değerlendirilirken, bu tür statik kapsam, yüksek riskli işletim ortamlarında benzeri görülmemiş koşullara maruz kaldığında yalnızca sınırlı güvence sağlar. Bu tür sistemlerin öğrenme bileşenlerinin tüm olası girdiler için güvenlik garantisi sağladığını doğrulamak imkansız olmasa da zor olabilir. Bunun yerine, bir sistemin güvenlik garantilerinin genellikle gerçekçi (ancak uygun şekilde karamsar) işletim ortamlarından sistematik olarak üretilen verilere göre oluşturulması gerekecektir. Güvenlik aynı zamanda "bilinmeyen bilinmeyenlere" karşı da dirençli olmayı gerektirir; bu da, dağıtım sırasında da dahil olmak üzere beklenmedik çevresel tehlikelerin veya anormal sistem davranışlarının izlenmesi için geliştirilmiş yöntemler gerektirir. Bazı durumlarda güvenlik, yalnızca kara kutu testiyle bulunamayan beklenmeyen davranışları tanımlamak için öğrenilen modellerin iç mantığını incelemek, tersine mühendislik yapmak, incelemek ve yorumlamak için yeni yöntemler ve performansı doğrudan uyarlayarak performansı iyileştirme yöntemleri gerektirebilir. sistemlerin iç mantığı. Ayar ne olursa olsun, öğrenme özellikli herhangi bir sistemin uçtan uca güvenlik garantileri açık ve kesin bir şekilde belirtilmelidir. Bir güvenlik spesifikasyonunu karşıladığını iddia eden herhangi bir sistem, ampirik olarak ve/veya matematiksel kanıtlarla desteklenen analizler yoluyla kesin kanıtlar sağlamalıdır.

Bu web seminerinde araştırma topluluğundan gelen talepler tartışılacak ve sorular yanıtlanacaktır.

Web seminerine kaydolun okuyun.